Mitkä käytännöt ovat kiellettyjä EU:n tekoälyasetuksessa?

Sosiaalinen pisteytys ja manipuloiva tekoäly

EU:n tekoälyasetus määrittelee tietyt tekoälyn (AI) käytännöt, jotka se kieltää niiden ristiriidan vuoksi eurooppalaisten arvojen, etiikan ja perusoikeuksien kanssa. Näihin kuuluvat tekoälyn käyttö hallitusten sosiaaliseen pisteytykseen ja manipuloivat tekoälyjärjestelmät. Asetuksen 5 artikla kuvaa nämä kiellot varmistaakseen, että tekoälyä kehitetään, otetaan käyttöön ja hyödynnetään vastuullisella ja eettisellä tavalla.

Hallitusten sosiaalinen pisteytys

Sosiaalinen pisteytys tarkoittaa yksilöiden arviointia tai luokittelua heidän sosiaalisen käyttäytymisensä, henkilökohtaisten ominaisuuksiensa tai muun ajan mittaan kerätyn datan perusteella. EU:n tekoälyasetus kieltää tällaiset järjestelmät erityisesti silloin, kun julkinen valta tai hallitus käyttää niitä. Kielto puuttuu näiden käytäntöjen aiheuttamiin riskeihin perusoikeuksille, kuten yksityisyyteen, tasa-arvoon ja syrjinnästä vapauteen.

Tärkeimmät asiat sosiaalisen pisteytyksen kiellosta

• Perusteeton kohtelu: Asetus kieltää tekoälyjärjestelmät, jotka kohtelevat yksilöitä tai ryhmiä epäoikeudenmukaisesti tai haitallisesti tilanteissa, jotka eivät liity kerätyn datan alkuperäiseen tarkoitukseen. Esimerkiksi työpaikalta kerätyn datan käyttäminen vaikuttamaan henkilön mahdollisuuksiin saada asunto tai koulutus ei ole sallittua.
• Suhteettomat seuraukset: Sosiaalisen pisteytyksen järjestelmät, jotka asettavat rangaistuksia, jotka ovat liiallisia arvioituun käyttäytymiseen nähden, kuten julkisten palveluiden epääminen, ovat myös kiellettyjä.

Eettiset huolenaiheet

Sosiaalisen pisteytyksen järjestelmät, kuten joissakin EU:n ulkopuolisissa maissa käytössä olevat, herättävät huolta massavalvonnasta, yksityisyyden loukkaamisesta ja kasvavasta yhteiskunnallisesta eriarvoisuudesta. EU kieltää nämä järjestelmät suojellakseen yksilöiden oikeuksia ja edistääkseen oikeudenmukaisuutta koko yhteiskunnassa.

Manipuloivat tekoälytekniikat

EU:n tekoälyasetus kieltää myös tekoälyjärjestelmät, jotka manipuloivat ihmisten käyttäytymistä heidän tietoisuutensa ulkopuolella. Nämä tekniikat hyödyntävät haavoittuvuuksia, kuten ikää, vammaisuutta tai taloudellista tilannetta, vaikuttaakseen päätöksiin tai tekoihin haitallisella tavalla.

Subliminaalinen manipulointi

Tekoälyjärjestelmät, jotka käyttävät subliminaalisia tekniikoita vaikuttaakseen yksilöihin heidän tietoisuutensa ulkopuolella, ovat kiellettyjä. Nämä menetelmät toimivat upottamalla hienovaraisia, havaitsemattomia vihjeitä mediaan tai mainoksiin vaikuttaakseen tekoihin, kuten ostopäätöksiin tai äänestämiseen. EU:n asetus kieltää nämä järjestelmät silloin, kun ne aiheuttavat merkittävää haittaa yksilöille tai ryhmille.

Haavoittuvuuksien hyväksikäyttö

Tekoälyteknologiat, jotka hyödyntävät tiettyjen väestöryhmien, kuten lasten, vanhusten tai taloudellisissa vaikeuksissa olevien, haavoittuvuutta, ovat myös kiellettyjä. Esimerkiksi lapsille suunnatut mainokset, jotka sisältävät manipuloivaa sisältöä epäterveellisten tuotteiden edistämiseksi, kuuluvat tähän kategoriaan.

Käytännön esimerkkejä

Manipuloiva tekoäly herättää sekä eettisiä että käytännön huolia. Esimerkiksi Cambridge Analytica -tapaus osoitti, miten tekoälyyn perustuva psykologinen profilointi vaikutti äänestäjien käyttäytymiseen. EU:n tekoälyasetus kieltää tällaiset käytännöt suojellakseen yksilöiden kykyä tehdä itsenäisiä päätöksiä.

Sosiaalisen pisteytyksen ja manipuloivan tekoälyn kiellot EU:n tekoälyasetuksessa korostavat unionin tavoitetta luoda turvallisia, eettisiä ja ihmiskeskeisiä tekoälyjärjestelmiä. Nämä kiellot on asetettu suojaamaan yksilöitä haitalta, turvaamaan perusoikeudet ja ehkäisemään kehittyneiden teknologioiden väärinkäyttöä. Näihin kysymyksiin tarttumalla EU asemoituu vastuullisen tekoälysääntelyn globaaliksi johtajaksi.

Reaaliaikainen biometrinen tunnistaminen ja subliminaalinen tekoäly

EU:n tekoälyasetus asettaa tiukat rajoitukset tekoälyteknologioille, jotka voisivat loukata perusoikeuksia tai vaarantaa eettiset periaatteet. Näihin sääntelyihin kuuluvat muun muassa reaaliaikaista etäbiometristä tunnistamista ja subliminaalisia tekoälymenetelmiä koskevat määräykset, sillä molemmat aiheuttavat merkittäviä eettisiä, turvallisuus- ja yksityisyysriskejä.

Reaaliaikainen biometrinen tunnistaminen

Reaaliaikaiset etäbiometriset tunnistusjärjestelmät käyttävät ainutlaatuisia biometrisiä tietoja, kuten kasvonpiirteitä, sormenjälkiä tai iiriksen kuvioita, tunnistaakseen yksilöitä usein julkisissa tiloissa. Nämä teknologiat ovat EU:n tekoälyasetuksen keskiössä niiden yksityisyyttä, henkilökohtaista vapautta ja autonomiaa uhkaavien riskien vuoksi.

Yleinen kielto ja poikkeukset

• Pääsääntöinen kielto: Asetus kieltää yleisesti reaaliaikaisen biometrisen tunnistuksen käytön julkisesti saavutettavissa paikoissa. Rajoitus on suunniteltu ehkäisemään massavalvontaa ja estämään yksilöiden valvonnan tai tunnistamisen ilman heidän suostumustaan.
• Poikkeukset lainvalvonnalle: Tiukoin edellytyksin sallitaan poikkeuksia, joissa lainvalvonta voi käyttää näitä järjestelmiä vain, kun se on ehdottoman välttämätöntä. Sallitut tilanteet sisältävät muun muassa:
  • Sieppauksen, ihmiskaupan tai seksuaalisen hyväksikäytön uhrien etsiminen.
  • Välittömien hengen- tai yleisen turvallisuuden uhkien estäminen, kuten terrori-iskut.
  • Vakavista rikoksista epäiltyjen tunnistaminen, mikäli rikoksesta on säädetty vähintään neljän vuoden vankeusrangaistus kyseisessä jäsenvaltiossa.
• Suojaustoimenpiteet: Näissäkin harvinaisissa tapauksissa viranomaisten on varmistettava järjestelmän käyttö oikeasuhtaisesti ja kohdennetusti, keskittyen vain ennalta tunnistettuihin yksilöihin. Käytön tulee noudattaa yleisen tietosuoja-asetuksen (GDPR) tietosuojasääntöjä.

Eettiset ja oikeudelliset huolet

Reaaliaikaiset biometriset teknologiat aiheuttavat riskejä massavalvonnasta, viranomaisten väärinkäytöstä ja yksityisyyden heikkenemisestä. EU:n tekoälyasetuksen rajoitusten tavoitteena on tasapainottaa yleinen turvallisuus ja yksilön oikeudet, jotta teknologiaa ei voida käyttää sortaviin tai syrjiviin tarkoituksiin.

Subliminaalinen tekoäly

Subliminaaliset tekoälyjärjestelmät vaikuttavat ihmisten päätöksiin tai käyttäytymiseen heidän tietoisuutensa ulkopuolella. Ne toimivat upottamalla hienovaraisia ja havaitsemattomia vihjeitä mediaan tai vuorovaikutuksiin, jotka voivat muuttaa päätöksiä tavoilla, joita ihmiset eivät normaalisti tekisi.

Nimenomainen kielto

• Manipulatiiviset tekniikat: Subliminaaliset tekoälymenetelmät, jotka vääristävät yksilöiden päätöksiä tai käyttäytymistä haitallisilla tavoilla, ovat täysin kiellettyjä. Nämä järjestelmät ohittavat ihmisten kognitiiviset puolustusmekanismit, heikentäen heidän autonomiaansa ja kykyään tehdä tietoisia valintoja.
• Esimerkkejä subliminaalisesta manipuloinnista: Tällaiset tekoälytekniikat voivat esiintyä esimerkiksi:
  • Ohjaamalla kuluttajakäyttäytymistä piiloviestien avulla mainoksissa.
  • Vaikuttamalla äänestäjien päätöksiin upottamalla puolueellisia signaaleja poliittisiin kampanjoihin.
  • Painostamalla ihmisiä taloudellisiin valintoihin näennäisten henkilökohtaisten suositusten varjolla.

Haavoittuvuuksien hyväksikäyttö

Asetus kieltää myös tekoälyjärjestelmät, jotka hyödyntävät ikään, vammaisuuteen tai sosioekonomiseen asemaan liittyviä haavoittuvuuksia, jos ne aiheuttavat haitallisia käyttäytymisen vääristymiä. Esimerkiksi:

• Epäterveellisten tuotteiden mainostaminen suoraan lapsille.
• Vanhusten houkutteleminen ostamaan tarpeettomia tai haitallisia palveluita.

Eettiset vaikutukset

Subliminaalinen tekoäly on ristiriidassa läpinäkyvyyden ja autonomian eettisten periaatteiden kanssa. Sen mahdollinen väärinkäyttö poliittisessa, kaupallisessa ja sosiaalisessa kontekstissa korostaa tiukan sääntelyn tarvetta. EU:n tekoälyasetuksen kielto näille järjestelmille heijastaa sitoutumista suojella yksilöitä piilotetulta manipuloinnilta ja varmistaa, että tekoäly kunnioittaa ihmisarvoa.

Reaaliaikaisen biometrisen tunnistamisen ja subliminaalisen tekoälyn rajoitukset osoittavat EU:n painotuksen eettiseen ja ihmiskeskeiseen tekoälyyn. Sääntelemällä näitä korkean riskin teknologioita EU:n tekoälyasetus pyrkii suojaamaan perusoikeuksia, rakentamaan luottamusta tekoälyyn ja asettamaan globaalin standardin vastuulliselle tekoälyn kehitykselle. Näillä säädöksillä varmistetaan, että tekoälyjärjestelmiä käytetään yhteiskunnan arvojen mukaisesti ja estetään haitta tai eriarvoisuus.