EU AI Act

Zákon o umělé inteligenci Evropské unie (EU AI Act) je první komplexní regulační rámec na světě, který má za cíl řídit rizika a využít přínosy umělé inteligence (AI). Zavedený v dubnu 2021, AI Act usiluje o to, aby systémy AI byly bezpečné, transparentní a v souladu se základními právy a etickými principy. Toto průlomové nařízení staví Evropu do čela důvěryhodného a odpovědného vývoje a nasazení technologií AI na celosvětové úrovni.

Klíčové prvky EU AI Act

Přístup založený na riziku

AI Act dělí aplikace AI do čtyř úrovní rizika, přičemž každá má své specifické regulační požadavky:

1. Nepřijatelné riziko: Systémy AI, které představují zjevnou hrozbu pro bezpečnost, živobytí či práva lidí, jsou zakázány. Patří sem například systémy sociálního skórování provozované vládou nebo nástroje AI zneužívající zranitelnosti určitých skupin.
2. Vysoké riziko: Aplikace AI, které významně ovlivňují životy jednotlivců, jako jsou nástroje pro třídění životopisů při náboru nebo AI systémy ve zdravotnictví, musí splňovat přísné požadavky. Patří sem důkladná správa dat, transparentnost a lidský dohled.
3. Omezené riziko: Systémy AI s nižší mírou rizika, které však stále podléhají povinnostem transparentnosti, například AI chatboti, musí uživatele informovat, že komunikují se systémem AI.
4. Minimální nebo žádné riziko: Tyto systémy AI, jako jsou spamové filtry nebo AI ve videohrách, jsou z důvodu nízkého dopadu na jednotlivce většinou neregulované.

Požadavky na transparentnost

Pro podporu důvěry a odpovědnosti stanovuje AI Act povinnost transparentnosti pro vybrané systémy AI. Uživatelé musí být informováni, když komunikují s AI, a rozhodnutí AI musí být vysvětlitelná, aby uživatelé mohli v případě potřeby porozumět výsledkům a napadnout je.

Podpora inovací

AI Act zahrnuje opatření na podporu inovací a snížení administrativní zátěže, zejména pro malé a střední podniky (SMEs). Patří sem zřízení regulačních pískovišť, kde mohou firmy testovat AI systémy v reálných podmínkách při zajištění souladu s regulačními požadavky.

Cíle EU AI Act

Zajištění bezpečnosti a základních práv

Hlavním cílem AI Act je zajistit, aby technologie AI respektovaly základní práva, bezpečnost a etické principy. To zahrnuje ochranu jednotlivců před zaujatými nebo diskriminačními systémy AI a zajištění transparentnosti a odpovědnosti rozhodnutí AI.

Podpora důvěryhodné AI

Stanovením jasných standardů a povinností má AI Act za cíl podporovat rozvoj důvěryhodných systémů AI. Tyto standardy pomáhají zajistit, že aplikace AI jsou spolehlivé a mohou být bezpečně integrovány do různých odvětví, od zdravotnictví po finance.

Posílení globální konkurenceschopnosti

AI Act staví Evropu do pozice globálního lídra v oblasti regulace AI, podobně jako nařízení GDPR ovlivnilo oblast ochrany osobních údajů. Stanovením vysoké laťky pro správu AI chce EU ovlivnit mezinárodní standardy a praxi a podporovat celosvětovou kulturu důvěryhodné AI.

Soulad a správa

Posouzení shody

Systémy AI s vysokým rizikem musí před uvedením na trh projít posouzením shody. Tento proces zajišťuje, že systémy AI splňují požadavky AI Act, včetně správy dat, transparentnosti a lidského dohledu.

Dohled a sankce

AI Act zavádí robustní rámec správy na evropské i národní úrovni pro dohled nad dodržováním předpisů. Nedodržení může vést k významným sankcím včetně pokut, což má zajistit, že vývojáři a provozovatelé AI budou předpisy dodržovat.

Další kroky a budoucí vývoj

AI Act je součástí širší digitální strategie EU, která zahrnuje další opatření na podporu inovací a správy AI. Do budoucna může docházet k aktualizacím v návaznosti na technologický pokrok a měnící se prostředí aplikací AI.

Podrobnější informace a nejnovější aktualizace o EU AI Act najdete na oficiální stránce Evropského parlamentu.