Quelles pratiques sont interdites par la loi européenne sur l’IA ?

Scoring social et IA manipulatrice

La loi européenne sur l’IA identifie des pratiques spécifiques en matière d’intelligence artificielle (IA) qu’elle interdit en raison de leur incompatibilité avec les valeurs, l’éthique et les droits fondamentaux européens. Parmi celles-ci figurent l’utilisation de l’IA pour le scoring social par les gouvernements et les systèmes d’IA manipulatrice. L’article 5 de la loi détaille ces interdictions afin de garantir un développement, une mise en œuvre et une utilisation responsables et éthiques de l’IA.

Scoring social par les gouvernements

Le scoring social consiste à évaluer ou à classer des individus sur la base de leur comportement social, de leurs caractéristiques personnelles ou d’autres données collectées au fil du temps. La loi européenne sur l’IA interdit spécifiquement de tels systèmes lorsqu’ils sont utilisés par les autorités publiques ou les gouvernements. Cette interdiction vise à répondre aux risques que ces pratiques font peser sur les droits fondamentaux, notamment la vie privée, l’égalité et la protection contre la discrimination.

Points clés concernant l’interdiction du scoring social

• Traitement injustifié : La loi interdit les systèmes d’IA qui traitent injustement ou de façon préjudiciable des individus ou des groupes dans des situations sans rapport avec la finalité initiale des données collectées. Par exemple, il n’est pas permis d’utiliser des données issues du milieu professionnel pour influencer l’accès d’une personne au logement ou à l’éducation.
• Conséquences disproportionnées : Les systèmes de scoring social qui imposent des sanctions excessives par rapport au comportement évalué, comme le refus d’accès à des services publics, sont également prohibés.

Enjeux éthiques

Les systèmes de scoring social, tels que ceux mis en place dans certains pays hors UE, soulèvent des préoccupations concernant la surveillance de masse, la violation de la vie privée et l’augmentation des inégalités sociales. L’UE interdit ces systèmes pour protéger les droits individuels et promouvoir l’équité au sein de la société.

Techniques d’IA manipulatrice

La loi européenne sur l’IA interdit également les systèmes d’IA qui manipulent le comportement des personnes à leur insu. Ces techniques tirent parti de vulnérabilités telles que l’âge, le handicap ou la situation financière pour influencer les décisions ou les actions de manière préjudiciable.

Manipulation subliminale

Les systèmes d’IA utilisant des techniques subliminales pour influencer les individus sans qu’ils en aient conscience sont interdits. Ces méthodes consistent à intégrer des signaux subtils et indétectables dans des médias ou des publicités pour influencer des actions, comme des décisions d’achat ou de vote. La loi européenne interdit ces systèmes lorsqu’ils entraînent un préjudice important pour des individus ou des groupes.

Exploitation des vulnérabilités

Les technologies d’IA qui exploitent les vulnérabilités de certaines populations, telles que les enfants, les personnes âgées ou les personnes en difficulté économique, sont également interdites. Par exemple, des publicités ciblant les enfants avec du contenu manipulateur pour promouvoir des produits malsains relèvent de cette catégorie.

Exemples concrets

L’IA manipulatrice soulève à la fois des questions éthiques et des préoccupations concrètes. Par exemple, l’affaire Cambridge Analytica a montré comment le profilage psychologique piloté par l’IA a été utilisé pour influencer le comportement des électeurs. La loi européenne sur l’IA interdit de telles pratiques afin de préserver la capacité des individus à prendre des décisions autonomes.

Les interdictions du scoring social et de l’IA manipulatrice dans la loi européenne sur l’IA illustrent la volonté de l’UE de promouvoir des systèmes d’IA sûrs, éthiques et centrés sur l’humain. Ces interdictions sont destinées à protéger les personnes contre les préjudices, à garantir le respect des droits fondamentaux et à prévenir les usages abusifs des technologies avancées. En traitant ces enjeux, l’UE affirme son rôle de leader mondial en matière de régulation responsable de l’IA.

Identification biométrique en temps réel et IA subliminale

La loi européenne sur l’IA fixe des limitations strictes pour les technologies d’intelligence artificielle susceptibles de porter atteinte aux droits fondamentaux ou de compromettre les principes éthiques. Parmi ces réglementations figurent celles qui concernent l’identification biométrique à distance et en temps réel ainsi que les méthodes d’IA subliminale, toutes deux présentant des risques majeurs en matière d’éthique, de sécurité et de vie privée.

Identification biométrique en temps réel

Les systèmes d’identification biométrique à distance en temps réel utilisent des données biométriques uniques — comme les traits du visage, les empreintes digitales ou l’iris — pour identifier des individus, souvent dans des espaces publics. Ces technologies sont au cœur des préoccupations de la loi européenne sur l’IA en raison des risques qu’elles font peser sur la vie privée, la liberté personnelle et l’autonomie.

Interdiction générale et exceptions

• Interdiction principale : La loi interdit en principe l’utilisation de l’identification biométrique en temps réel dans les lieux accessibles au public. Cette restriction vise à prévenir la surveillance de masse et à empêcher que des personnes soient surveillées ou identifiées sans leur consentement.
• Exceptions pour les forces de l’ordre : Des exceptions limitées s’appliquent sous des conditions strictes, permettant aux forces de l’ordre d’utiliser ces systèmes uniquement en cas de nécessité absolue. Les situations autorisées incluent :
  • La recherche de victimes d’enlèvement, de traite des êtres humains ou d’exploitation sexuelle.
  • La prévention de menaces immédiates pour la vie ou la sécurité publique, comme des attentats terroristes.
  • L’identification de suspects de crimes graves, à condition que l’infraction soit passible d’une peine d’emprisonnement d’au moins quatre ans dans l’État membre concerné.
• Garanties : Même dans ces cas exceptionnels, les autorités doivent s’assurer que le système est utilisé de manière proportionnée et ciblée, en se concentrant uniquement sur des individus spécifiquement identifiés au préalable. Le déploiement doit également être conforme aux règles de protection des données prévues par le Règlement Général sur la Protection des Données (RGPD).

Enjeux éthiques et juridiques

Les technologies biométriques en temps réel présentent des risques de surveillance de masse, de dérives des autorités et d’atteinte à la vie privée. Les restrictions prévues par la loi européenne sur l’IA visent à concilier sécurité publique et droits individuels, en empêchant que la technologie ne soit utilisée à des fins oppressives ou discriminatoires.

IA subliminale

Les systèmes d’IA subliminale influencent les décisions ou le comportement des personnes sans qu’elles en aient conscience. Ils agissent en intégrant des signaux subtils et indétectables dans des médias ou des interactions, susceptibles de modifier les décisions de manière inconsciente.

Interdiction expresse

• Techniques manipulatrices : Les méthodes d’IA subliminale qui altèrent de façon préjudiciable les décisions ou le comportement des individus sont totalement interdites. Ces systèmes contournent les défenses cognitives des personnes, compromettant leur autonomie et leur capacité à faire des choix éclairés.
• Exemples de manipulation subliminale : Ces techniques d’IA peuvent se rencontrer dans des contextes tels que :
  • L’orientation du comportement des consommateurs par des messages cachés dans des publicités.
  • L’influence sur les choix électoraux par l’intégration de signaux biaisés dans des campagnes politiques.
  • La pression exercée sur des individus pour les inciter à prendre des décisions financières sous couvert de recommandations personnalisées.

Exploitation des vulnérabilités

La loi interdit également les systèmes d’IA qui exploitent les vulnérabilités liées à l’âge, au handicap ou au statut socio-économique si cela entraîne des distorsions préjudiciables du comportement. Par exemple :

• Publicité de produits malsains directement auprès des enfants.
• Incitation de personnes âgées à acheter des services inutiles ou nuisibles.

Implications éthiques

L’IA subliminale va à l’encontre des principes éthiques de transparence et d’autonomie. Ses potentielles dérives dans les domaines politique, commercial et social soulignent la nécessité d’une réglementation stricte. L’interdiction de ces systèmes dans la loi européenne sur l’IA traduit la volonté de protéger les individus contre les manipulations invisibles et de garantir que l’IA respecte la dignité humaine.

Les restrictions sur l’identification biométrique en temps réel et l’IA subliminale témoignent de la volonté de l’UE de promouvoir une IA éthique et centrée sur l’humain. En réglementant ces technologies à haut risque, la loi européenne sur l’IA cherche à protéger les droits fondamentaux, à instaurer la confiance dans l’IA et à établir une norme mondiale pour un développement responsable de l’intelligence artificielle. Ces réglementations veillent à ce que les systèmes d’IA soient utilisés en accord avec les valeurs sociétales et préviennent les risques de préjudice ou d’inégalité.