Diskriminering

Diskriminering i KI refererer til urettferdig eller ulik behandling av enkeltpersoner eller grupper basert på beskyttede egenskaper som rase, kjønn, alder eller funksjonshemming. Denne diskrimineringen er ofte et resultat av skjevheter som er innebygd i KI-systemer, og som kan oppstå under datainnsamling, algoritmeutvikling eller implementering. Diskriminering kan ha betydelige konsekvenser for sosial og økonomisk likestilling, og føre til negative utfall for marginaliserte eller underbetjente samfunnsgrupper. Etter hvert som KI-systemer blir mer integrert i beslutningsprosesser, øker potensialet for diskriminering, noe som krever nøye gransking og proaktive tiltak for å redusere disse effektene.

Forstå røttene til diskriminering i KI

Kunstig intelligens (KI) og maskinlæringssystemer er sterkt avhengige av data for å ta beslutninger. Hvis dataene som brukes til å trene disse systemene er skjeve eller ikke-representative, kan det føre til algoritmisk skjevhet, som igjen kan resultere i diskriminerende praksis. For eksempel, hvis et ansiktsgjenkjenningssystem hovedsakelig trenes på bilder av hvite personer, kan det prestere dårligere når det gjelder å gjenkjenne personer med annen hudfarge.

Røttene til diskriminering i KI kan spores tilbake til flere faktorer:

• Dataskjevhet: KI-systemer lærer av dataene de trenes på. Hvis disse dataene inneholder skjevheter, vil KI-en automatisk reflektere disse skjevhetene i sine utdata. For eksempel kan skjeve treningsdata føre til at KI-systemer favoriserer visse grupper over andre.
• Algoritmedesign: Selve algoritmene kan være utformet på en måte som uforvarende prioriterer visse variabler over andre, noe som gir skjeve utfall. Dette kan skje når utviklere ubevisst koder inn egne skjevheter i systemet.
• Samfunnsskjevheter: KI-systemer kan speile eksisterende samfunnsskjevheter, og reflektere systemiske problemer som finnes i dataene de bruker. Dette inkluderer skjevheter knyttet til rase, kjønn og sosioøkonomisk status.

Viktige begreper

• Algoritmisk skjevhet: Feil eller fordommer i KI-systemer som fører til urettferdige utfall for visse grupper. Algoritmisk skjevhet kan stamme fra skjeve treningsdata, feil ved algoritmedesign, eller begge deler. Når KI-systemer tar beslutninger basert på skjeve mønstre, kan de videreføre og til og med forsterke samfunnsmessige ulikheter.
• Treningsdata: Datasettet som brukes til å “lære opp” KI-systemer. Dersom dette datasettet er skjevt, vil KI-en kunne lære og videreføre disse skjevhetene. Å sikre mangfoldige og balanserte treningsdata er avgjørende for å utvikle rettferdige KI-systemer.
• Diskriminerende praksis: Praksis som fører til urettferdig behandling av enkeltpersoner basert på beskyttede egenskaper gjennom KI-systemer. Diskriminerende praksis kan forekomme på ulike områder, som rekruttering, rettsvesen og helsevesen, der KI-systemer tas i bruk.

Eksempler på diskriminering i KI

1. Ansiktsgjenkjenning: Disse systemene har vist seg å være mindre nøyaktige i å identifisere personer fra etniske minoritetsgrupper på grunn av ubalanserte treningsdata. Dette har ført til høyere feilrate blant personer med mørkere hudfarge, og har reist bekymringer rundt personvern og brudd på borgerrettigheter.
2. Helsealgoritmer: Et kjent eksempel er en algoritme brukt i amerikanske sykehus, som prioriterte hvite pasienter foran svarte pasienter på grunn av skjevheter i data knyttet til helsekostnader. Dette skyldtes at algoritmen brukte historiske helseutgifter som et mål på helsebehov, noe som uforvarende førte til at svarte pasienter, som historisk har hatt dårligere tilgang til helsetjenester, ble nedprioritert.
3. Rekrutteringsalgoritmer: Et KI-system brukt av Amazon ble funnet å være skjevt mot kvinner fordi det var trent på CV-er som hovedsakelig var sendt inn av menn. Denne skjevheten førte til at algoritmen favoriserte mannlige kandidater, og videreførte dermed kjønnsforskjeller i teknologirekruttering.

Bruksområder og implikasjoner

KI-systemer brukes i økende grad i ulike sektorer, inkludert rekruttering, helsevesen, rettsvesen og finans. Hver av disse områdene har vist potensial for diskriminering:

• Rekruttering: KI-drevne rekrutteringssystemer kan uforvarende forsterke eksisterende skjevheter som finnes i historiske ansettelsesdata, og føre til diskriminerende ansettelsespraksis. Slike skjevheter kan oppstå fra skjeve data som overrepresenterer visse demografier, noe som kan føre til utilsiktet utelukkelse av kvalifiserte kandidater basert på kjønn, rase eller andre egenskaper.
• Rettsvesen: Algoritmiske verktøy brukt til risikovurderinger kan videreføre rasebaserte skjevheter som finnes i kriminalitetsdata, og føre til urettferdig behandling av minoritetsgrupper. Disse verktøyene kan påvirke avgjørelser om kausjon, domfellelse og prøveløslatelse, der skjeve algoritmer kan forsterke systemiske urettferdigheter.
• Finansielle tjenester: Kredittscoringsalgoritmer kan diskriminere visse demografiske grupper på grunn av skjeve inn-data, og påvirke låneinnvilgelser. Disse skjevhetene kan stamme fra historiske data som reflekterer diskriminerende utlånspraksis, og dermed videreføre økonomisk ulikhet.

Reduksjon av diskriminering i KI

For å håndtere diskriminering i KI kan flere strategier tas i bruk:

• Skjevhetstesting: Å gjennomføre regelmessig testing av KI-systemer for å identifisere og redusere skjevheter før de tas i bruk. Dette innebærer å vurdere systemets utdata for ulike virkninger på tvers av demografiske grupper og justere algoritmene deretter.
• Inkluderende datainnsamling: Å sikre at treningsdatasett er representative for hele befolkningen, inkludert marginaliserte grupper. Mangfoldige data kan bidra til å bygge KI-systemer som er mer rettferdige og speiler samfunnets mangfold.
• Algoritmisk åpenhet: Å gjøre KI-systemer mer gjennomsiktige slik at interessenter kan forstå og rette opp potensielle skjevheter. Åpenhet innebærer klar dokumentasjon av hvordan algoritmer er utformet, hvilke data de bruker, og hvilke beslutningsprosesser de følger.
• Etisk styring: Å etablere internt og eksternt tilsyn for å sikre at KI-systemer overholder etiske standarder og ikke viderefører diskriminering. Dette inkluderer å innføre retningslinjer som fremmer rettferdighet, ansvarlighet og inkludering i utvikling og bruk av KI.

Juridiske og etiske hensyn

Diskriminering i KI er ikke bare et etisk spørsmål, men også et juridisk problem. Ulike lover, som den britiske Equality Act, forbyr diskriminering basert på beskyttede egenskaper. Overholdelse av disse lovene er avgjørende for organisasjoner som tar i bruk KI-systemer. Juridiske rammeverk gir retningslinjer for å sikre at KI-teknologier ivaretar menneskerettigheter og ikke bidrar til økt ulikhet. Etiske vurderinger innebærer å vurdere de bredere samfunnsmessige konsekvensene av KI og å sikre at teknologier brukes ansvarlig og rettferdig.

Diskriminering i KI: Vitenskapelige artikler

Diskriminering i KI refererer til urettferdig eller ulik behandling av enkeltpersoner av KI-systemer basert på visse egenskaper. Etter hvert som KI-teknologier i økende grad påvirker beslutningstaking på ulike områder, har det blitt avgjørende å håndtere skjevhet og diskriminering. Nedenfor er noen vitenskapelige artikler som utforsker dette temaet:

1. Bias and Discrimination in AI: a cross-disciplinary perspective
   Forfattere: Xavier Ferrer, Tom van Nuenen, Jose M. Such, Mark Coté, Natalia Criado
   Denne artikkelen belyser den økende bekymringen for skjevhet i KI-systemer, som ofte fører til diskriminering. Forfatterne gjennomgår litteratur fra tekniske, juridiske, sosiale og etiske perspektiver for å forstå forholdet mellom skjevhet og diskriminering i KI. De understreker behovet for tverrfaglig samarbeid for å håndtere disse utfordringene. Les mer
2. “Weak AI” is Likely to Never Become “Strong AI”, So What is its Greatest Value for us?
   Forfatter: Bin Liu
   Selv om den ikke er direkte fokusert på diskriminering, diskuterer denne artikkelen kontroversene rundt KI, inkludert dens begrensninger og samfunnsmessige konsekvenser. Den skiller mellom “svak KI” og “sterk KI” (kunstig generell intelligens), og utforsker den potensielle verdien av “svak KI”. Å forstå disse paradigmer kan gi innsikt i hvordan skjevheter kan videreføres av ulike KI-systemer. Les mer
3. Putting AI Ethics into Practice: The Hourglass Model of Organizational AI Governance
   Forfattere: Matti Mäntymäki, Matti Minkkinen, Teemu Birkstedt, Mika Viljanen
   Denne artikkelen presenterer et KI-styringsrammeverk kalt timeglassmodellen, som har som mål å omsette etiske KI-prinsipper i praksis. Den adresserer risiko som skjevhet og diskriminering ved å stille styringskrav på flere nivåer, inkludert miljømessige, organisatoriske og KI-systemnivå. Rammeverket er utformet for å være i tråd med den kommende europeiske KI-loven og sikre sosialt ansvarlig KI-utvikling. Les mer