Aké praktiky sú zakázané podľa nariadenia EÚ o umelej inteligencii?

Sociálne skórovanie a manipulatívna AI

Nariadenie EÚ o umelej inteligencii identifikuje konkrétne praktiky umelej inteligencie (AI), ktoré zakazuje z dôvodu ich rozporu s európskymi hodnotami, etikou a základnými právami. Medzi tieto patrí používanie AI na sociálne skórovanie zo strany vlád a manipulatívne AI systémy. Článok 5 nariadenia opisuje tieto zákazy s cieľom zabezpečiť, aby sa AI vyvíjala, implementovala a používala zodpovedne a eticky.

Sociálne skórovanie zo strany vlád

Sociálne skórovanie znamená hodnotenie alebo kategorizáciu jednotlivcov na základe ich spoločenského správania, osobných vlastností alebo iných údajov zhromaždených v priebehu času. Nariadenie EÚ o AI takéto systémy výslovne zakazuje, keď ich používajú verejné orgány alebo vlády. Tento zákaz rieši riziká, ktoré takéto praktiky predstavujú pre základné práva, vrátane súkromia, rovnosti a ochrany pred diskrimináciou.

Kľúčové body zákazu sociálneho skórovania

• Neodôvodnené zaobchádzanie: Nariadenie zakazuje AI systémy, ktoré nespravodlivo alebo škodlivo zaobchádzajú s jednotlivcami alebo skupinami v situáciách, ktoré nesúvisia s pôvodným účelom zhromaždených údajov. Napríklad použitie údajov z pracoviska na ovplyvnenie prístupu niekoho k bývaniu alebo vzdelaniu nie je povolené.
• Neprimerané dôsledky: Systémy sociálneho skórovania, ktoré ukladajú sankcie neúmerné hodnotenému správaniu, napríklad odmietnutie prístupu k verejným službám, sú tiež zakázané.

Etické otázky

Systémy sociálneho skórovania, ako tie zavedené v niektorých krajinách mimo EÚ, vyvolávajú obavy týkajúce sa masového sledovania, porušovania súkromia a rastúcej sociálnej nerovnosti. EÚ tieto systémy zakazuje na ochranu práv jednotlivcov a podporu spravodlivosti v celej spoločnosti.

Manipulatívne AI techniky

Nariadenie EÚ o AI tiež zakazuje AI systémy, ktoré manipulujú so správaním ľudí bez ich vedomia. Tieto techniky využívajú zraniteľnosti, ako je vek, zdravotné postihnutie alebo finančná situácia, na ovplyvňovanie rozhodnutí alebo konania škodlivým spôsobom.

Podprahová manipulácia

AI systémy, ktoré využívajú podprahové techniky na ovplyvňovanie jednotlivcov bez ich vedomého súhlasu, sú zakázané. Tieto metódy fungujú začleňovaním jemných, nepostrehnuteľných podnetov do médií alebo reklám s cieľom ovplyvniť správanie, napríklad rozhodnutia o nákupe alebo voľbách. Nariadenie EÚ takéto systémy zakazuje, ak vedú k významnej ujme jednotlivcom alebo skupinám.

Zneužívanie zraniteľnosti

AI technológie, ktoré zneužívajú zraniteľnosti určitých skupín obyvateľstva, ako sú deti, seniori alebo osoby v ťažkej ekonomickej situácii, sú tiež zakázané. Napríklad reklamy zamerané na deti s manipulatívnym obsahom propagujúcim nezdravé produkty spadajú do tejto kategórie.

Príklady z praxe

Manipulatívna AI vyvoláva etické aj praktické obavy. Napríklad prípad Cambridge Analytica ukázal, ako bolo AI-analýzou psychologických profilov ovplyvňované voličské správanie. Nariadenie EÚ o AI takéto praktiky zakazuje na ochranu schopnosti jednotlivcov robiť autonómne rozhodnutia.

Zákazy sociálneho skórovania a manipulatívnej AI v nariadení EÚ o AI zdôrazňujú zameranie EÚ na vytváranie bezpečných, etických a na človeka orientovaných AI systémov. Tieto zákazy chránia jednotlivcov pred ujmou, podporujú základné práva a zabraňujú zneužívaniu pokročilých technológií. Riešením týchto otázok sa EÚ stáva globálnym lídrom v zodpovednej regulácii AI.

Biometrická identifikácia v reálnom čase a podprahová AI

Nariadenie EÚ o AI stanovuje prísne obmedzenia na technológie umelej inteligencie, ktoré by mohli porušovať základné práva alebo ohroziť etické princípy. Medzi tieto regulácie patria tie, ktoré sa týkajú biometrickej identifikácie na diaľku v reálnom čase a podprahových AI metód, pretože obe predstavujú vážne etické, bezpečnostné a súkromné riziká.

Biometrická identifikácia v reálnom čase

Systémy biometrickej identifikácie na diaľku v reálnom čase využívajú jedinečné biometrické údaje—ako sú črty tváre, odtlačky prstov alebo vzory dúhovky—na identifikáciu jednotlivcov, často na verejných miestach. Tieto technológie sú v centre pozornosti nariadenia EÚ o AI z dôvodu rizík pre súkromie, osobnú slobodu a autonómiu.

Všeobecný zákaz a výnimky

• Hlavný zákaz: Nariadenie všeobecne zakazuje používanie biometrickej identifikácie v reálnom čase na verejne prístupných miestach. Toto obmedzenie je navrhnuté na prevenciu masového sledovania a zabránenie monitorovaniu alebo identifikácii jednotlivcov bez ich súhlasu.
• Výnimky pre orgány činné v trestnom konaní: Obmedzené výnimky platia za prísnych podmienok, pričom orgány činné v trestnom konaní môžu tieto systémy použiť len v prípade absolútnej nevyhnutnosti. Povolené scenáre zahŕňajú:
  • Hľadanie obetí únosu, obchodovania s ľuďmi alebo sexuálneho zneužívania.
  • Predchádzanie bezprostredným hrozbám pre život alebo verejnú bezpečnosť, napríklad teroristickým útokom.
  • Identifikáciu podozrivých zo závažných trestných činov, ak je za daný čin v príslušnom členskom štáte možné uložiť trest odňatia slobody najmenej na štyri roky.
• Bezpečnostné opatrenia: Aj v týchto zriedkavých prípadoch musia orgány zabezpečiť, aby bol systém používaný primerane a cielene, a to len na konkrétne osoby identifikované vopred. Nasadenie musí byť zároveň v súlade s pravidlami ochrany údajov podľa Všeobecného nariadenia o ochrane údajov (GDPR).

Etické a právne otázky

Biometrické technológie v reálnom čase vytvárajú riziká masového sledovania, zneužitia zo strany úradov a narušenia súkromia. Obmedzenia nariadenia EÚ o AI sa snažia vyvážiť verejnú bezpečnosť s právami jednotlivca a zabezpečiť, aby technológia nemohla byť zneužitá na represívne alebo diskriminačné účely.

Podprahová AI

Podprahové AI systémy ovplyvňujú rozhodnutia alebo správanie ľudí bez ich vedomého súhlasu. Pracujú tak, že začleňujú jemné a nepostrehnuteľné podnety do médií alebo interakcií, ktoré môžu meniť rozhodnutia spôsobom, ktorý by si ľudia za normálnych okolností nevybrali.

Výslovný zákaz

• Manipulatívne techniky: Podprahové AI metódy, ktoré deformujú rozhodnutia alebo správanie jednotlivcov škodlivým spôsobom, sú úplne zakázané. Tieto systémy obchádzajú kognitívnu obranu jednotlivcov a ohrozujú ich autonómiu a schopnosť robiť informované voľby.
• Príklady podprahového ovplyvňovania: Takéto AI techniky sa môžu vyskytovať v kontextoch ako:
  • Ovlplyvňovanie správania spotrebiteľov skrytými správami v reklamách.
  • Formovanie voličských rozhodnutí vkladaním zaujatých signálov do politických kampaní.
  • Tlak na jednotlivcov k finančným rozhodnutiam pod zámienkou personalizovaných odporúčaní.

Zneužívanie zraniteľnosti

Nariadenie tiež zakazuje AI systémy, ktoré zneužívajú zraniteľnosti súvisiace s vekom, zdravotným postihnutím alebo sociálno-ekonomickým postavením, ak vedú k škodlivému skresleniu správania. Napríklad:

• Reklamy na nezdravé produkty priamo deťom.
• Presviedčanie starších ľudí na nákup nepotrebných alebo škodlivých služieb.

Etické dôsledky

Podprahová AI je v rozpore s etickými princípmi transparentnosti a autonómie. Jej potenciálne zneužitie v politických, komerčných a spoločenských oblastiach zdôrazňuje potrebu silnej regulácie. Zákaz týchto systémov v nariadení EÚ o AI je dôkazom záväzku chrániť jednotlivcov pred skrytými manipuláciami a zabezpečiť, aby AI rešpektovala dôstojnosť človeka.

Obmedzenia biometrickej identifikácie v reálnom čase a podprahových AI ukazujú zameranie EÚ na etickú a na človeka orientovanú AI. Reguláciou týchto vysoko rizikových technológií sa nariadenie EÚ o AI snaží chrániť základné práva, budovať dôveru v AI a stanoviť globálny štandard pre zodpovedný rozvoj AI. Tieto regulácie zabezpečujú, že AI systémy sa používajú spôsobom, ktorý je v súlade s hodnotami spoločnosti a predchádza ujme alebo nerovnosti.