Skjevhet

Hva betyr skjevhet i konteksten av KI-læringsprosesser?

Innen KI viser skjevhet til systematiske feil som kan føre til urettferdige utfall. Det skjer når en KI-modell gir resultater som er forutinntatte på grunn av feilaktige antagelser i maskinlæringsprosessen. Disse antagelsene kan stamme fra dataene som brukes til å trene modellen, fra selve algoritmene, eller fra implementerings- og utrullingsfaser.

Hvordan påvirker skjevhet læringsprosessen i KI?

Skjevhet kan forvrenge læringsprosessen på flere måter:

• Nøyaktighet: En skjev modell kan prestere godt på treningsdata, men mislykkes i å generalisere til nye, ukjente data.
• Rettferdighet: Enkelte grupper kan bli urettferdig behandlet eller favorisert basert på skjeve modellprediksjoner.
• Pålitelighet: Tilliten til KI-systemer svekkes når de gir skjeve eller urettferdige utfall.

Eksempler på skjevhet i KI fra virkeligheten

• Ansiktsgjenkjenning: Systemer har vist seg å være mindre nøyaktige for personer med mørkere hudtoner.
• Ansettelsesalgoritmer: Noen KI-drevne rekrutteringsverktøy har vist seg å favorisere mannlige kandidater fremfor kvinnelige på grunn av skjeve treningsdata.
• Kredittvurdering: KI-modeller kan videreføre økonomisk diskriminering hvis de trenes på skjeve historiske data.

Hva er skjevhetsreduksjon?

Skjevhetsreduksjon innebærer en systematisk prosess for å identifisere, adressere og redusere skjevhet i ulike systemer, spesielt innen kunstig intelligens (KI) og maskinlæringsmodeller. I disse sammenhengene kan skjevheter føre til utfall som er urettferdige, unøyaktige eller til og med skadelige. Derfor er det avgjørende å redusere skjevhet for å sikre ansvarlig og etisk bruk av KI-teknologier. Skjevhetsreduksjon handler ikke bare om tekniske tiltak, men krever også en helhetlig forståelse av sosiale og etiske implikasjoner, ettersom KI-systemer gjenspeiler data og menneskelige beslutninger de er basert på.

Forståelse av skjevhet i KI

Skjevhet i KI oppstår når maskinlæringsmodeller gir resultater som reflekterer forutinntatte antagelser eller systemiske ulikheter tilstede i treningsdataene. Det finnes flere kilder og former for skjevhet i KI-systemer:

• Skjeve treningsdata: En vanlig kilde til skjevhet kommer fra dataene selv. Hvis treningsdataene underrepresenterer visse grupper eller inneholder historiske fordommer, kan modellen lære å gjenta disse skjevhetene. For eksempel kan skjeve datasett brukt i rekrutteringsalgoritmer føre til kjønns- eller rasediskriminering, som illustrert av Amazons KI rekrutteringsverktøy, som favoriserte mannlige kandidater på grunn av historisk ubalanserte CV-data kilde.
• Proxy-variabler: Dette er variabler som tilsynelatende er nøytrale, men som fungerer som stedfortredere for skjeve attributter. For eksempel kan bruk av postnummer som stedfortreder for rase føre til utilsiktet raseskjevhet i modeller.
• Algoritmisk design: Selv med de beste intensjoner kan algoritmer inneholde skjevhet hvis utviklerne har ubevisste fordommer, eller hvis systemets design gjenspeiler samfunnsmessige skjevheter. Algoritmerevisjon og tverrfaglig samarbeid er avgjørende for å identifisere og håndtere disse skjevhetene effektivt kilde.

Strategier for skjevhetsreduksjon

Skjevhetsreduksjon i KI kan grovt deles inn i tre stadier: pre-prosessering, in-prosessering og post-prosessering. Hvert stadium adresserer skjevhet på ulike punkter i modellutviklingssyklusen.

Pre-prosesseringsteknikker

• Datainnsamling: Samle inn mangfoldige og balanserte datasett fra flere kilder for å sikre tilstrekkelig representasjon av alle undergrupper. For eksempel kan balanse mellom kjønn og etnisitet i treningsdata for et rekrutteringssystem bidra til å redusere skjevhet i kandidatvurderingen.
• Datarensing: Fjerne eller korrigere skjeve dataregistreringer for å forhindre at de påvirker modellens prediksjoner. Teknikker som re-sampling eller re-weighting av data kan balansere representasjon.
• Feature engineering: Justere eller fjerne trekk som kan fungere som stedfortredere for beskyttede attributter, for å hindre indirekte skjevhet i modellutfall.

Eksempel på bruk:
I et rekrutteringssystem for KI kan pre-prosessering innebære å sikre at treningsdataene inkluderer en balansert representasjon av kjønn og etnisitet, og dermed redusere skjevhet i kandidatvurderingen.

In-prosesseringsteknikker

• Algoritmejusteringer: Endre algoritmer for å inkludere rettferdighetsbegrensninger under modelltreningen kan bidra til å redusere skjevhet. Teknikker som rettferdighetsbevisste algoritmer er designet for å minimere ulike utfall mellom ulike demografiske grupper.
• Adversarial debiasing: Trene modellen sammen med en motstander som oppdager og reduserer skjevhet, og skaper en tilbakemeldingssløyfe der modellen lærer å unngå skjeve avgjørelser.

Eksempel på bruk:
Et KI-verktøy brukt til lånesøknader kan implementere rettferdighetsbevisste algoritmer for å unngå diskriminering basert på rase eller kjønn i beslutningsprosessen.

Post-prosesseringsteknikker

• Modifisering av utfall: Justere modellprediksjoner etter trening for å oppfylle rettferdighetskriterier. Teknikker som rekalibrering av prediksjoner for å sikre rettferdige utfall mellom grupper er ofte brukt.
• Skjevhetsrevisjoner: Regelmessig revisjon av modellens utfall for å identifisere og korrigere skjeve avgjørelser er essensielt. Slike revisjoner kan avdekke skjevheter som oppstår ved praktisk bruk, slik at man kan gripe inn i tide.

Eksempel på bruk:
Et KI-system i helsevesenet kan bruke post-prosessering for å sikre at dets diagnostiske anbefalinger er rettferdige på tvers av ulike demografiske grupper.

Typer dataskjevhet

1. Bekreftelsesskjevhet

Bekreftelsesskjevhet oppstår når data velges ut eller tolkes på en måte som bekrefter eksisterende oppfatninger eller hypoteser. Dette kan føre til skjeve utfall fordi motstridende data ignoreres eller undervurderes. For eksempel kan en forsker fokusere på data som støtter hypotesen sin, mens data som utfordrer den blir oversett. Ifølge Codecademy fører bekreftelsesskjevhet ofte til at man ubevisst tolker data slik at de støtter den opprinnelige hypotesen, noe som forvrenger dataanalyse og beslutningsprosesser.

2. Seleksjonsskjevhet

Seleksjonsskjevhet oppstår når utvalgsdataene ikke er representative for populasjonen som skal analyseres. Dette skjer på grunn av ikke-tilfeldig utvalg eller når deler av data systematisk utelates. For eksempel, hvis en studie om forbrukeratferd kun inkluderer data fra byområder, vil den ikke nødvendigvis gjenspeile mønstre blant forbrukere på landsbygda. Som fremhevet av Pragmatic Institute, kan seleksjonsskjevhet skyldes dårlig studiedesign eller historiske skjevheter som påvirker datainnsamlingen.

3. Historisk skjevhet

Historisk skjevhet oppstår når data reflekterer tidligere fordommer eller samfunnsnormer som ikke lenger er gyldige. Dette kan skje når datasett inneholder foreldet informasjon som viderefører stereotypier, som kjønnsroller eller rasediskriminering. For eksempel å bruke historiske ansettelsesdata som diskriminerer mot kvinner eller minoriteter. Amazons KI rekrutteringsverktøy straffet eksempelvis CV-er med kvinneorganisasjoner på grunn av historiske kjønnsforskjeller i datasettet.

4. Overlevelsesskjevhet

Overlevelsesskjevhet innebærer å fokusere kun på data som har “overlevd” en prosess og ignorere data som ikke var vellykket eller ble ekskludert. Dette kan føre til at man overvurderer suksessen til et fenomen. For eksempel kan man studere bare vellykkede oppstartsbedrifter for å finne suksessfaktorer uten å vurdere de som mislyktes, noe som gir feilaktige konklusjoner. Denne skjevheten er spesielt farlig i finansmarkedet og investeringsstrategi, hvor kun suksessfulle aktører analyseres og de som feilet ignoreres.

5. Tilgjengelighetsskjevhet

Tilgjengelighetsskjevhet oppstår når beslutninger påvirkes av de dataene som er lettest tilgjengelige, fremfor alle relevante data. Dette kan gi skjeve innsikter hvis de tilgjengelige dataene ikke er representative. For eksempel kan mediedekning av flyulykker føre til at folk overvurderer hvor ofte de skjer, på grunn av hvor levende og tilgjengelige slike rapporter er. Tilgjengelighetsskjevhet kan sterkt påvirke folks oppfatning og politikkutforming, og føre til feilvurdering av risiko.

6. Rapporteringsskjevhet

Rapporteringsskjevhet er tendensen til å rapportere data som viser positive eller forventede utfall, mens negative eller uventede resultater ikke rapporteres. Dette kan forvrenge oppfatningen av hvor effektiv en prosess eller et produkt er. For eksempel er det vanlig å kun rapportere vellykkede kliniske studier, mens studier uten signifikant effekt utelates. Rapporteringsskjevhet er utbredt i vitenskapelig forskning, hvor positive resultater ofte fremheves og dermed fordreier litteraturen.

7. Automasjonsskjevhet

Automasjonsskjevhet oppstår når mennesker overdriver tilliten til automatiserte systemer og algoritmer, og antar at de er mer nøyaktige eller objektive enn menneskelig vurdering. Dette kan føre til feil hvis systemene selv er skjeve eller har feil, som GPS-systemer som leder sjåfører på villspor, eller KI-verktøy som gjør skjeve ansettelsesbeslutninger. Som fremhevet av Codecademy, kan selv teknologier som GPS introdusere automasjon-skjevhet, fordi brukere følger dem blindt uten å stille spørsmål ved nøyaktigheten.

8. Gruppeattribusjonsskjevhet

Gruppeattribusjonsskjevhet innebærer å generalisere egenskaper fra individer til en hel gruppe, eller å anta at gruppeegenskaper gjelder alle medlemmene. Dette kan føre til stereotypier og feilvurderinger, som å anta at alle medlemmer av en demografisk gruppe oppfører seg likt basert på observasjoner av noen få. Denne skjevheten kan påvirke sosiale og politiske beslutninger, og føre til diskriminering og urettferdig behandling av enkelte grupper.

9. Overgeneralisering

Overgeneralisering innebærer å trekke konklusjoner fra ett datasett og anvende dem på andre uten grunnlag. Dette fører til brede antagelser som kanskje ikke gjelder i ulike kontekster. For eksempel kan man anta at funn fra en studie på én demografi gjelder universelt for alle befolkninger. Overgeneralisering kan føre til ineffektive tiltak og politikk som ikke tar høyde for kulturelle eller kontekstuelle forskjeller.

Skjevhet-varians-avveining i maskinlæring

Definisjon

Skjevhet-varians-avveining er et grunnleggende begrep innen maskinlæring som beskriver spenningen mellom to typer feil som prediktive modeller kan gjøre: skjevhet og varians. Denne avveiningen er avgjørende for å forstå hvordan man optimaliserer modellens ytelse ved å balansere modellens kompleksitet. Høy skjevhet fører til for enkle modeller, mens høy varians fører til modeller som er for følsomme for treningsdata. Målet er å oppnå en modell med optimal kompleksitet som minimerer total prediksjonsfeil på ukjente data.

Kjennetegn på modeller med høy skjevhet

• Underfitting: Klarer ikke å fange opp underliggende trender i dataene.
• Enkle antagelser: Overser viktige sammenhenger i dataene.
• Lav treningsnøyaktighet: Høy feil på både trenings- og testdata.

Varians

Varians måler modellens følsomhet for variasjoner i treningsdataene. Høy varians indikerer at en modell har lært dataene for godt, inkludert støyen, noe som resulterer i overfitting. Overfitting oppstår når en modell presterer svært godt på treningsdata, men dårlig på nye data. Høy varians er vanlig i komplekse modeller som beslutningstrær og nevrale nettverk.

Kjennetegn på modeller med høy varians

• Overfitting: Tilpasser seg treningsdataene for mye, og tolker støy som om det var et ekte signal.
• Komplekse modeller: Eksempler er dype nevrale nettverk og beslutningstrær.
• Høy treningsnøyaktighet, lav testnøyaktighet: Presterer godt på treningsdata, men dårlig på testdata.

Avveiningen

Skjevhet-varians-avveiningen handler om å finne en balanse mellom skjevhet og varians for å minimere totalfeilen, som er summen av kvadrert skjevhet, varians og uunngåelig feil. Modeller med for høy kompleksitet har høy varians og lav skjevhet, mens for enkle modeller har lav varians og høy skjevhet. Målet er å oppnå en modell som verken er for enkel eller for kompleks, og dermed generaliserer godt til nye data.

Nøkkelligning:

• Total feil = Skjevhet² + Varians + Uunngåelig feil

Eksempler og bruksområder

1. Lineær regresjon: Har ofte høy skjevhet og lav varians. Passer for problemer hvor sammenhengen mellom variablene er tilnærmet lineær.
2. Beslutningstrær: Utsatt for høy varians og lav skjevhet. Fanger opp komplekse mønstre, men kan overtilpasse hvis de ikke beskjæres eller reguleres.
3. Ensemble-metoder (Bagging, Random Forests): Har som mål å redusere varians uten å øke skjevheten ved å snitte flere modeller.

Håndtering av avveiningen

1. Regularisering: Teknikker som Lasso eller Ridge-regresjon legger til straff for store koeffisienter og bidrar til å redusere varians.
2. Kryssvalidering: Hjelper med å estimere modellens generaliseringsfeil og velge riktig kompleksitetsnivå.
3. Ensemble-læring: Metoder som bagging og boosting kan redusere varians uten å øke skjevhet.