Jaké praktiky jsou zakázány Aktem EU o umělé inteligenci?

Sociální skórování a manipulační AI

Akt EU o umělé inteligenci identifikuje konkrétní praktiky umělé inteligence (AI), které zakazuje kvůli rozporu s evropskými hodnotami, etikou a základními právy. Patří mezi ně využívání AI k sociálnímu skórování vládami a manipulační AI systémy. Článek 5 tohoto aktu tyto zákazy popisuje, aby byla AI vyvíjena, implementována a používána odpovědně a eticky.

Sociální skórování vládami

Sociální skórování zahrnuje hodnocení či kategorizaci jednotlivců na základě jejich společenského chování, osobních vlastností nebo jiných dat shromažďovaných v čase. Akt EU o AI takové systémy výslovně zakazuje, pokud je používají veřejné orgány nebo vlády. Tento zákaz reaguje na rizika, která tyto praktiky představují pro základní práva, včetně soukromí, rovnosti a svobody od diskriminace.

Klíčové body zákazu sociálního skórování

• Neopodstatněné zacházení: Akt zakazuje AI systémy, které nespravedlivě nebo škodlivě zacházejí s jednotlivci či skupinami v situacích nesouvisejících s původním účelem shromážděných dat. Například použití dat z pracovního prostředí k ovlivnění přístupu někoho k bydlení nebo vzdělání není dovoleno.
• Nepřiměřené důsledky: Systémy sociálního skórování, které uvalují sankce nepřiměřené posuzovanému chování, například odepření přístupu k veřejným službám, jsou rovněž zakázány.

Etické obavy

Systémy sociálního skórování, jaké byly zavedeny v některých zemích mimo EU, vyvolávají obavy z masového dohledu, narušení soukromí a zvyšování sociální nerovnosti. EU tyto systémy zakazuje, aby chránila práva jednotlivců a podporovala spravedlnost ve společnosti.

Manipulační techniky AI

Akt EU o AI rovněž zakazuje AI systémy, které manipulují chováním lidí bez jejich vědomí. Tyto techniky zneužívají zranitelnosti, jako je věk, postižení nebo finanční situace, k ovlivňování rozhodnutí či jednání škodlivým způsobem.

Podprahová manipulace

AI systémy, které používají podprahové techniky k ovlivnění jednotlivců bez jejich vědomého vnímání, jsou zakázány. Tyto metody fungují vložením nenápadných, nedetekovatelných podnětů do médií nebo reklam, aby ovlivnily jednání, například nákupní rozhodnutí nebo volbu ve volbách. Akt EU tyto systémy zakazuje, pokud vedou k významné újmě jednotlivcům nebo skupinám.

Zneužívání zranitelností

AI technologie, které zneužívají zranitelnosti určitých skupin obyvatel, jako jsou děti, senioři či osoby v obtížné finanční situaci, jsou rovněž zakázány. Například reklamy zaměřené na děti s manipulačním obsahem propagujícím nezdravé produkty spadají do této kategorie.

Příklady z praxe

Manipulační AI vyvolává jak etické, tak praktické obavy. Například případ Cambridge Analytica ukázal, jak bylo AI využito pro psychologický profil voličů a ovlivnění jejich chování. Akt EU o AI takové praktiky zakazuje, aby chránil schopnost jednotlivců činit autonomní rozhodnutí.

Zákazy sociálního skórování a manipulační AI v aktu EU o AI podtrhují zaměření EU na vytváření bezpečných, etických a na člověka zaměřených systémů umělé inteligence. Tyto zákazy chrání jednotlivce před újmou, hájí základní práva a brání zneužití pokročilých technologií. Tím, že řeší tyto otázky, se EU stává globálním lídrem v odpovědné regulaci AI.

Biometrická identifikace v reálném čase a podprahová AI

Akt EU o umělé inteligenci stanovuje přísná omezení pro technologie umělé inteligence, které by mohly narušit základní práva nebo etické zásady. Mezi tyto regulace patří i úprava biometrické identifikace na dálku v reálném čase a podprahových metod AI, protože obě představují závažná etická, bezpečnostní a soukromá rizika.

Biometrická identifikace v reálném čase

Systémy biometrické identifikace na dálku v reálném čase používají jedinečná biometrická data—jako jsou rysy obličeje, otisky prstů nebo vzory duhovky—k identifikaci jednotlivců, často na veřejných místech. Tyto technologie jsou klíčovým předmětem zájmu aktu EU o AI kvůli rizikům pro soukromí, osobní svobodu a autonomii.

Obecný zákaz a výjimky

• Hlavní zákaz: Akt obecně zakazuje používání biometrické identifikace v reálném čase na veřejně přístupných místech. Toto omezení má zabránit masovému dohledu a zamezit monitorování či identifikaci jednotlivců bez jejich souhlasu.
• Výjimky pro orgány činné v trestním řízení: Omezené výjimky platí za přísných podmínek a umožňují použití těchto systémů policií pouze v nezbytných případech. Povolené scénáře zahrnují:
  • Hledání obětí únosu, obchodování s lidmi nebo sexuálního vykořisťování.
  • Zabránění bezprostřednímu ohrožení života nebo veřejné bezpečnosti, například teroristickým útokům.
  • Identifikaci podezřelých ze závažných trestných činů, pokud hrozí trest odnětí svobody alespoň čtyři roky v daném členském státě.
• Záruky: I v těchto vzácných případech musí úřady zajistit, že systém je používán přiměřeně a cíleně, pouze u předem identifikovaných osob. Nasazení musí být také v souladu s pravidly ochrany dat podle Obecného nařízení o ochraně osobních údajů (GDPR).

Etické a právní obavy

Biometrické technologie v reálném čase vytvářejí rizika masového dohledu, zneužití ze strany úřadů a eroze soukromí. Omezení aktu EU o AI mají za cíl vyvážit veřejnou bezpečnost a práva jednotlivců a zajistit, aby technologie nemohla být zneužita k represivním nebo diskriminačním účelům.

Podprahová AI

Podprahové AI systémy ovlivňují rozhodování nebo chování lidí bez jejich vědomé kontroly. Tyto systémy pracují tak, že vkládají jemné a nedetekovatelné podněty do médií nebo interakcí, které mohou změnit rozhodnutí způsobem, jaký by si lidé sami nezvolili.

Výslovný zákaz

• Manipulační techniky: Podprahové AI metody, které zkreslují rozhodnutí nebo chování jednotlivců škodlivým způsobem, jsou zcela zakázány. Tyto systémy obcházejí kognitivní obranu lidí a ohrožují jejich autonomii a schopnost činit informovaná rozhodnutí.
• Příklady podprahové manipulace: Takové AI techniky se mohou objevit například v těchto situacích:
  • Ovlivňování spotřebitelského chování skrytými zprávami v reklamách.
  • Ovlivňování volebního rozhodování vkládáním zaujatých signálů do politických kampaní.
  • Tlak na jednotlivce při finančních rozhodnutích pod záminkou personalizovaných doporučení.

Zneužívání zranitelností

Akt rovněž zakazuje AI systémy, které zneužívají zranitelnosti spojené s věkem, zdravotním postižením nebo sociálně-ekonomickým postavením, pokud způsobují škodlivé zkreslení chování. Například:

• Reklama na nezdravé produkty cílená přímo na děti.
• Přesvědčování seniorů ke koupi nepotřebných nebo škodlivých služeb.

Etické důsledky

Podprahová AI je v rozporu s etickými principy transparentnosti a autonomie. Její potenciální zneužití v politickém, komerčním i společenském prostředí podtrhuje nutnost silné regulace. Zákaz těchto systémů v aktu EU o AI odráží závazek chránit jednotlivce před skrytou manipulací a zajistit, aby AI respektovala lidskou důstojnost.

Omezení biometrické identifikace v reálném čase a podprahové AI ukazují zaměření EU na etickou a na člověka zaměřenou AI. Regulací těchto vysoce rizikových technologií se Akt EU o AI snaží chránit základní práva, budovat důvěru v AI a nastavit globální standard pro odpovědný rozvoj AI. Tyto regulace zajišťují, že systémy AI budou používány v souladu se společenskými hodnotami a zabrání újmě či nerovnosti.