Sosial poenggiving og manipulerende AI

EUs AI-forordning identifiserer spesifikke kunstig intelligens (AI)-praksiser som er forbudt på grunn av konflikt med europeiske verdier, etikk og grunnleggende rettigheter. Blant disse er bruk av AI for sosial poenggiving av myndigheter og manipulerende AI-systemer. Artikkel 5 i forordningen beskriver disse forbudene for å sikre at AI utvikles, implementeres og brukes på en ansvarlig og etisk måte.

Sosial poenggiving fra myndigheter

Sosial poenggiving innebærer å vurdere eller kategorisere enkeltpersoner basert på deres sosiale atferd, personlige egenskaper eller andre data samlet inn over tid. EUs AI-forordning forbyr slike systemer når de brukes av offentlige myndigheter eller staten. Dette forbudet tar for seg risikoen slike praksiser utgjør for grunnleggende rettigheter, inkludert personvern, likestilling og frihet fra diskriminering.

Viktige punkter om forbudet mot sosial poenggiving

• Uberettiget behandling: Forordningen forbyr AI-systemer som urettferdig eller skadelig behandler enkeltpersoner eller grupper i situasjoner som ikke er relatert til det opprinnelige formålet med de innsamlede dataene. For eksempel er det ikke tillatt å bruke data fra et arbeidssted for å påvirke noens tilgang til bolig eller utdanning.
• Uforholdsmessige konsekvenser: Sosiale poenggivingssystemer som gir straff som er overdreven i forhold til den atferden som vurderes, som å nekte tilgang til offentlige tjenester, er også forbudt.

Etiske bekymringer

Systemer for sosial poenggiving, som de som er implementert i enkelte ikke-EU-land, reiser bekymringer om masseovervåkning, brudd på personvern og økt sosial ulikhet. EU forbyr slike systemer for å beskytte individuelle rettigheter og fremme rettferdighet i samfunnet.

Manipulerende AI-teknikker

EUs AI-forordning forbyr også AI-systemer som manipulerer menneskers atferd uten at de er klar over det. Disse teknikkene utnytter sårbarheter som alder, funksjonshemming eller økonomiske forhold for å påvirke beslutninger eller handlinger på en skadelig måte.

Subliminal manipulasjon

AI-systemer som bruker subliminale teknikker for å påvirke enkeltpersoner uten deres bevisste viten er forbudt. Disse metodene fungerer ved å legge inn subtile, uoppdagelige signaler i medier eller annonser for å påvirke handlinger, som kjøpsbeslutninger eller stemmegivning. EU-forordningen forbyr slike systemer når de fører til betydelig skade for enkeltpersoner eller grupper.

Utnyttelse av sårbarheter

AI-teknologier som utnytter sårbarhetene til visse befolkningsgrupper, som barn, eldre eller personer med økonomiske utfordringer, er også forbudt. For eksempel regnes annonser rettet mot barn med manipulerende innhold som fremmer usunne produkter inn under denne kategorien.

Virkelige eksempler

Manipulerende AI reiser både etiske og praktiske bekymringer. For eksempel viste Cambridge Analytica-saken hvordan AI-drevet psykologisk profilering ble brukt for å påvirke velgeratferd. EUs AI-forordning forbyr slike praksiser for å beskytte enkeltpersoners evne til å ta autonome beslutninger.

Forbudene mot sosial poenggiving og manipulerende AI i EUs AI-forordning understreker EUs fokus på å skape trygge, etiske og menneskesentrerte AI-systemer. Disse forbudene er på plass for å beskytte enkeltpersoner mot skade, ivareta grunnleggende rettigheter og forhindre misbruk av avansert teknologi. Ved å ta tak i disse problemene, etablerer EU seg som en global leder innen ansvarlig AI-regulering.

Sanntids biometrisk identifikasjon og subliminal AI

EUs AI-forordning setter strenge begrensninger for kunstig intelligens-teknologier som kan krenke grunnleggende rettigheter eller kompromittere etiske prinsipper. Blant disse reguleringene er de som tar for seg sanntids fjernbiometrisk identifikasjon og subliminale AI-metoder, da begge innebærer betydelige etiske, sikkerhets- og personvernsrisikoer.

Sanntids biometrisk identifikasjon

Sanntids fjernbiometriske identifikasjonssystemer bruker unike biometriske data—som ansiktstrekk, fingeravtrykk eller iris-mønstre—for å identifisere enkeltpersoner, ofte på offentlige steder. Disse teknologiene er et hovedfokus i EUs AI-forordning på grunn av risikoen de utgjør for personvern, personlig frihet og autonomi.

Hovedforbud og unntak

• Primært forbud: Forordningen forbyr generelt bruk av sanntids biometrisk identifikasjon på offentlig tilgjengelige områder. Denne begrensningen er ment å forhindre masseovervåkning og å stoppe at enkeltpersoner blir overvåket eller identifisert uten samtykke.
• Unntak for politiet: Begrensede unntak gjelder under strenge vilkår, som tillater politiet å bruke disse systemene kun når det er strengt nødvendig. Tillatte scenarier inkluderer:
  • Å finne ofre for bortføring, menneskehandel eller seksuell utnyttelse.
  • Forhindre umiddelbare trusler mot liv eller offentlig sikkerhet, som terrorangrep.
  • Identifisere mistenkte for alvorlige forbrytelser, forutsatt at lovbruddet har en strafferamme på minst fire år i den aktuelle medlemsstaten.
• Sikkerhetsprosedyrer: Selv i disse sjeldne tilfellene må myndighetene sørge for at systemet brukes på en forholdsmessig og målrettet måte, kun rettet mot spesifikke enkeltpersoner identifisert på forhånd. Bruken må også være i samsvar med personvernreglene i personvernforordningen (GDPR).

Etiske og juridiske bekymringer

Sanntids biometriske teknologier skaper risiko for masseovervåkning, maktmisbruk av myndigheter og svekkelse av personvernet. EUs AI-forordnings begrensninger har som mål å balansere offentlig sikkerhet med individuelle rettigheter og sikre at teknologien ikke misbrukes til undertrykkende eller diskriminerende formål.

Subliminal AI

Subliminale AI-systemer påvirker menneskers beslutninger eller atferd uten at de er bevisste på det. Disse systemene fungerer ved å legge inn subtile og uoppdagelige signaler i medier eller interaksjoner, noe som kan endre beslutninger på måter folk vanligvis ikke ville valgt.

Eksplisitt forbud

• Manipulerende teknikker: Subliminale AI-metoder som forvrenger enkeltpersoners beslutninger eller atferd på skadelig vis er fullstendig forbudt. Disse systemene omgår folks kognitive forsvar og kompromitterer deres autonomi og evne til å ta informerte valg.
• Eksempler på subliminal manipulasjon: Slike AI-teknikker kan forekomme i sammenhenger som:
  • Styring av forbrukeratferd med skjulte beskjeder i reklame.
  • Påvirkning av velgerbeslutninger ved å legge inn partiske signaler i politiske kampanjer.
  • Presse enkeltpersoner til økonomiske valg under dekke av personlige anbefalinger.

Utnyttelse av sårbarheter

Forordningen forbyr også AI-systemer som utnytter sårbarheter knyttet til alder, funksjonshemming eller sosioøkonomisk status hvis de skaper skadelige forvrengninger i atferd. For eksempel:

• Reklame for usunne produkter direkte til barn.
• Å overtale eldre personer til å kjøpe unødvendige eller skadelige tjenester.

Etiske implikasjoner

Subliminal AI er i strid med etiske prinsipper om åpenhet og autonomi. Dets potensielle misbruk i politiske, kommersielle og sosiale sammenhenger understreker behovet for streng regulering. EUs AI-forordnings forbud mot slike systemer reflekterer et engasjement for å beskytte enkeltpersoner mot skjult manipulasjon og sikre at AI respekterer menneskelig verdighet.

Begrensningene på sanntids biometrisk identifikasjon og subliminal AI viser EUs fokus på etisk og menneskesentrert AI. Ved å regulere disse høyrisiko-teknologiene, søker EUs AI-forordning å beskytte grunnleggende rettigheter, bygge tillit til AI og sette en global standard for ansvarlig AI-utvikling. Disse reglene sikrer at AI-systemer brukes i tråd med samfunnets verdier og forhindrer skade eller ulikhet.