Hvilke praksisser er forbudt ifølge EU’s AI-forordning?

Social scoring og manipulerende AI

EU’s AI-forordning identificerer specifikke kunstig intelligens (AI)-praksisser, der er forbudt på grund af konflikt med europæiske værdier, etik og grundlæggende rettigheder. Blandt disse er brugen af AI til social scoring af myndigheder og manipulerende AI-systemer. Artikel 5 i forordningen beskriver disse forbud for at sikre, at AI udvikles, implementeres og anvendes på en ansvarlig og etisk måde.

Social scoring af myndigheder

Social scoring indebærer vurdering eller kategorisering af enkeltpersoner baseret på deres sociale adfærd, personlige karaktertræk eller andre data indsamlet over tid. EU’s AI-forordning forbyder specifikt sådanne systemer, når de anvendes af offentlige myndigheder eller regeringer. Forbuddet adresserer de risici, sådanne praksisser udgør for grundlæggende rettigheder, herunder privatliv, lighed og frihed fra diskrimination.

Centrale punkter om forbud mod social scoring

• Uberettiget behandling: Forordningen forbyder AI-systemer, der uberettiget eller skadeligt behandler enkeltpersoner eller grupper i situationer, der ikke er relateret til det oprindelige formål med de indsamlede data. For eksempel er det ikke tilladt at bruge data fra en arbejdsplads til at påvirke en persons adgang til bolig eller uddannelse.
• Uforholdsmæssige konsekvenser: Social scoring-systemer, der pålægger sanktioner, der er overdrevne i forhold til den adfærd, der vurderes – såsom at nægte adgang til offentlige ydelser – er også forbudt.

Etiske bekymringer

Social scoring-systemer, som dem der er implementeret i visse ikke-EU-lande, vækker bekymring om masseovervågning, brud på privatlivets fred og øget social ulighed. EU forbyder disse systemer for at beskytte individets rettigheder og fremme retfærdighed i samfundet.

Manipulerende AI-teknikker

EU’s AI-forordning forbyder også AI-systemer, der manipulerer folks adfærd uden deres viden. Disse teknikker udnytter sårbarheder som alder, handicap eller økonomisk situation til at påvirke beslutninger eller handlinger på en skadelig måde.

Subliminal manipulation

AI-systemer, der bruger subliminale teknikker til at påvirke individer uden deres bevidste viden, er forbudt. Disse metoder virker ved at indlejre subtile, uopdagelige signaler i medier eller reklamer for at påvirke handlinger, såsom købsbeslutninger eller stemmeafgivelse. EU-forordningen forbyder disse systemer, når de medfører væsentlig skade for individer eller grupper.

Udnyttelse af sårbarheder

AI-teknologier, der udnytter sårbarheder hos bestemte befolkningsgrupper, såsom børn, ældre eller økonomisk udsatte, er også forbudt. For eksempel anses reklamer, der målretter børn med manipulerende indhold, der promoverer usunde produkter, for at være omfattet af dette forbud.

Eksempler fra virkeligheden

Manipulerende AI rejser både etiske og praktiske bekymringer. For eksempel viste Cambridge Analytica-sagen, hvordan AI-drevet psykologisk profilering blev brugt til at påvirke vælgeradfærd. EU’s AI-forordning forbyder sådanne praksisser for at beskytte individets evne til at træffe autonome beslutninger.

Forbuddene mod social scoring og manipulerende AI i EU’s AI-forordning understreger EU’s fokus på at skabe sikre, etiske og menneskecentrerede AI-systemer. Disse forbud er på plads for at beskytte enkeltpersoner mod skade, opretholde grundlæggende rettigheder og forhindre misbrug af avancerede teknologier. Ved at adressere disse problemstillinger positionerer EU sig som global leder inden for ansvarlig AI-regulering.

Realtids biometrisk identifikation og subliminal AI

EU’s AI-forordning fastsætter strenge begrænsninger for kunstig intelligens-teknologier, der kan krænke grundlæggende rettigheder eller kompromittere etiske principper. Blandt disse regler er bestemmelserne om realtids fjernbiometrisk identifikation og subliminale AI-metoder, da begge udgør alvorlige etiske, sikkerheds- og privatlivsrisici.

Realtids biometrisk identifikation

Realtids fjernbiometriske identifikationssystemer anvender unikke biometriske data – såsom ansigtstræk, fingeraftryk eller iris-mønstre – til at identificere personer, ofte i offentlige rum. Disse teknologier er et centralt fokusområde i EU’s AI-forordning på grund af de risici, de udgør for privatliv, personlig frihed og autonomi.

Generelt forbud og undtagelser

• Hovedforbud: Forordningen forbyder som udgangspunkt brugen af realtids biometrisk identifikation på offentligt tilgængelige områder. Denne begrænsning skal forhindre masseovervågning og modvirke, at personer overvåges eller identificeres uden deres samtykke.
• Undtagelser for retshåndhævelse: Begrænsede undtagelser gælder under strenge betingelser, der tillader retshåndhævende myndigheder at anvende disse systemer kun, når det er absolut nødvendigt. Tilladte scenarier omfatter:
  • Eftersøgning af ofre for bortførelse, menneskehandel eller seksuel udnyttelse.
  • Forebyggelse af umiddelbare trusler mod liv eller offentlig sikkerhed, såsom terrorangreb.
  • Identifikation af mistænkte for grove forbrydelser, forudsat at lovovertrædelsen giver mindst fire års fængsel i det pågældende medlemsland.
• Sikkerhedsforanstaltninger: Selv i disse sjældne tilfælde skal myndigheder sikre, at systemet kun anvendes proportionalt og målrettet – udelukkende rettet mod specifikke personer, der er identificeret på forhånd. Anvendelsen skal desuden overholde databeskyttelsesreglerne i Persondataforordningen (GDPR).

Etiske og juridiske bekymringer

Realtids biometriske teknologier medfører risiko for masseovervågning, magtmisbrug og udhuling af privatlivet. EU’s AI-forordnings restriktioner har til formål at balancere offentlig sikkerhed med individuelle rettigheder og sikre, at teknologien ikke misbruges til undertrykkende eller diskriminerende formål.

Subliminal AI

Subliminale AI-systemer påvirker folks beslutninger eller adfærd uden deres bevidste viden. Disse systemer fungerer ved at indlejre subtile og uopdagelige signaler i medier eller interaktioner, som kan ændre beslutninger på måder, folk normalt ikke selv ville vælge.

Eksplicit forbud

• Manipulerende teknikker: Subliminale AI-metoder, der forvrænger individers beslutninger eller adfærd på skadelige måder, er fuldstændigt forbudt. Disse systemer omgår menneskers kognitive forsvar og kompromitterer deres autonomi og evne til at træffe informerede valg.
• Eksempler på subliminal manipulation: Sådanne AI-teknikker kan optræde i sammenhænge som:
  • At styre forbrugeradfærd med skjulte beskeder i reklamer.
  • At påvirke vælgere ved at indlejre forudindtagede signaler i politiske kampagner.
  • At presse personer til økonomiske beslutninger under dække af personlige anbefalinger.

Udnyttelse af sårbarheder

Forordningen forbyder også AI-systemer, der udnytter sårbarheder relateret til alder, handicap eller socioøkonomisk status, hvis det medfører skadelige forvrængninger i adfærd. For eksempel:

• Reklamer for usunde produkter rettet direkte mod børn.
• At overbevise ældre om at købe unødvendige eller skadelige ydelser.

Etiske implikationer

Subliminal AI er i konflikt med etiske principper om gennemsigtighed og autonomi. Muligheden for misbrug i politiske, kommercielle og sociale sammenhænge understreger behovet for stærk regulering. Forbuddet i EU’s AI-forordning afspejler et engagement i at beskytte borgerne mod skjult manipulation og sikre, at AI respekterer menneskelig værdighed.

Restriktionerne mod realtids biometrisk identifikation og subliminal AI viser EU’s fokus på etisk og menneskecentreret AI. Ved at regulere disse højrisikoteknologier søger EU’s AI-forordning at beskytte grundlæggende rettigheder, opbygge tillid til AI og sætte en global standard for ansvarlig AI-udvikling. Disse regler sikrer, at AI-systemer anvendes i overensstemmelse med samfundets værdier og forhindrer skade eller ulighed.