欧盟《人工智能法案》禁止的行为有哪些？

社会评分与操控性AI

欧盟《人工智能法案》明确禁止某些与欧洲价值观、道德及基本权利相冲突的人工智能（AI）行为。其中包括政府社会评分和操控性AI系统。法案第5条详述了这些禁令，确保AI在开发、实施和使用过程中责任和道德并重。

政府社会评分

社会评分是指根据个人的社会行为、个人特质或长期收集的其他数据，对其进行评估或分类。欧盟《人工智能法案》特别禁止公共机构或政府使用此类系统。这一禁令旨在应对相关行为对基本权利（尤其是隐私、平等和免受歧视权利）带来的风险。

社会评分禁令要点

• 不公正对待： 法案禁止AI系统在与原始数据收集目的无关的情境下，对个人或群体进行不公正或有害的对待。例如，利用工作场所数据影响某人获得住房或教育的机会是被禁止的。
• 不成比例的后果： 社会评分系统如对被评估行为施加过度处罚（如拒绝公共服务等），也被禁止。

道德考量

社会评分系统（如部分非欧盟国家实施的系统）引发了对大规模监控、隐私侵犯和社会不平等加剧的担忧。欧盟禁止这些系统，以保护个人权利并促进社会公平。

操控性AI技术

欧盟《人工智能法案》还禁止在未经个人知情的情况下操控其行为的AI系统。这些技术利用年龄、残障或经济状况等弱点，以有害方式影响决策或行动。

潜意识操控

利用潜意识技术影响个人而不被其察觉的AI系统被禁止。这些方式通过在媒体或广告中嵌入微妙、难以察觉的暗示，影响个人行为，如购买决策或投票。欧盟法案禁止在对个人或群体造成重大伤害时使用此类系统。

利用弱势群体

针对特定群体（如儿童、老年人或经济困难者）弱点的AI技术也被禁止。例如，向儿童投放推广不健康产品的操控性广告即属此类。

现实案例

操控性AI不仅带来道德问题，也有现实危害。例如，剑桥分析案显示，AI驱动的心理画像被用于影响选民行为。欧盟《人工智能法案》禁止此类行为，以保护个人自主决策能力。

欧盟《人工智能法案》对社会评分与操控性AI的禁令，彰显了欧盟打造安全、道德和以人为本AI系统的决心。这些禁止措施旨在保护个人免受伤害、维护基本权利，并防止先进技术被滥用。通过应对这些问题，欧盟确立了负责任AI监管的全球领导地位。

实时生物识别与潜意识AI

欧盟《人工智能法案》对可能侵犯基本权利或违背道德原则的人工智能技术设立了严格限制。其中包括对实时远程生物识别和潜意识AI方法的规定，因其均带来严重的道德、安全和隐私风险。

实时生物识别

实时远程生物识别系统利用面部特征、指纹或虹膜等独特生物数据，在公共场所识别个人。这类技术因对隐私、个人自由和自主权的威胁而成为欧盟《人工智能法案》重点监管对象。

总体禁令与例外

• 基本禁令： 法案普遍禁止在公众可进入的场所使用实时生物识别，以防止大规模监控和个人在未经同意下被监视或识别。
• 执法例外： 在严格条件下，执法机构可在绝对必要时使用此类系统，允许的情形包括：
  • 寻找被绑架、人口贩运或性剥削的受害者。
  • 预防对生命或公共安全的直接威胁（如恐怖袭击）。
  • 识别严重犯罪嫌疑人，且该犯罪在相关成员国可判至少四年监禁。
• 保障措施： 即便在这些极少数情况下，相关部门也必须确保系统使用具有比例性和针对性，仅针对事先确定的特定个人，同时遵守《通用数据保护条例》（GDPR）规定的数据保护要求。

道德与法律担忧

实时生物识别技术存在大规模监控、权力滥用和隐私侵蚀风险。欧盟《人工智能法案》的限制旨在平衡公共安全与个人权利，确保不会被用于压迫性或歧视性目的。

潜意识AI

潜意识AI系统通过嵌入细微、难以察觉的暗示影响个人决策或行为。这些系统可以在不被察觉的情况下改变人们的选择。

明确禁令

• 操控性技术： 以有害方式扭曲个人决策或行为的潜意识AI手段被全面禁止。这些系统绕过了人的认知防线，损害其自主权和知情选择能力。
• 潜意识操控实例： 此类AI技术可能出现在以下场景：
  • 在广告中利用隐藏信息引导消费行为。
  • 在政治活动中嵌入偏见信号影响投票选择。
  • 以个性化推荐为名义，施加金融决策压力。

利用弱势群体

法案也禁止那些利用年龄、残障或社会经济状况等弱点、并导致有害行为扭曲的AI系统。例如：

• 直接向儿童推销不健康产品。
• 诱导老年人购买不必要或有害服务。

道德影响

潜意识AI违反了透明和自主的道德原则。其在政治、商业和社会环境中的潜在滥用，凸显了强有力监管的必要性。欧盟《人工智能法案》禁止此类系统，展现了对保护个人免受隐性操控、保障AI尊重人类尊严的承诺。

对实时生物识别和潜意识AI的限制，体现了欧盟对道德与以人为本AI的重视。通过规范这些高风险技术，欧盟《人工智能法案》旨在保护基本权利、建立AI信任，并为负责任的AI发展树立全球标准。这些规定确保AI系统的应用符合社会价值观，防止伤害和不平等的发生。