人工智能法案 (AI 法案)

AI 法案概述

人工智能法案（AI 法案）是欧盟（EU）推出的主要监管框架，用于监督人工智能技术的开发与应用。该法案于 2024 年 5 月获批，是全球首个专门针对 AI 的法律框架。其主要目标是通过解决道德、社会和技术挑战，为 AI 营造安全可靠的环境。法案将 AI 的发展与欧洲价值观对齐，注重透明度、公正性和问责制。

AI 法案因其广泛的适用范围而突出，按照风险级别和应用场景对 AI 系统进行监管。它适用于欧盟本地开发的 AI 系统，以及在欧盟销售、使用或其输出影响欧盟的系统。这一做法确保了所有影响欧盟公民或企业的 AI，无论开发地如何，都必须达到同等高标准。

AI 法案的适用范围

AI 法案涵盖 AI 生态系统中的多类相关方，包括：

• 提供方： 以自身品牌开发并供应 AI 系统的组织。提供方须确保其 AI 系统在进入欧盟市场前符合法案要求。
• 部署方： 使用 AI 系统的企业或个人。特别是在高风险 AI 应用领域，他们必须确保使用符合监管框架。
• 进口商和分销商： 向欧盟输入或在欧盟境内分销 AI 系统的实体，需遵守特定规则以确保合规。
• 制造商： 将 AI 集成到产品中的公司，如果产品在欧盟销售，也需遵守该法案。

法案对 AI 系统的定义非常广泛，包括能够自主输出预测、推荐或决策等结果的机器系统。某些类别的 AI，例如用于科学研发（R&D）或在部署前于受控测试环境下使用的系统，属于豁免范围。

AI 法案的关键特征

基于风险的方法

AI 法案采用基于风险的分类体系，对 AI 系统进行监管，分为以下四个风险级别：

1. 不可接受风险： 与欧盟价值观相悖或具有危害性的 AI 系统被禁止。例如，社会评分系统或操纵人类行为以造成伤害的 AI 技术。
2. 高风险： 包括生物识别识别工具、医疗设备和关键基础设施管理等系统。它们必须满足严格要求，比如通过检测、维护文档、确保人工监督等。
3. 有限风险： 通常用于教育或娱乐，需满足透明度要求，如告知用户正在与 AI 交互。
4. 最低或无风险： 大多数 AI 应用（如电商推荐引擎）属于此类，几乎不受监管或无监管。

治理与合规

AI 法案建立了治理体系以确保合规性，包括：

• 欧洲人工智能委员会（European Artificial Intelligence Board）： 协调法案在欧盟成员国的应用，确保一致性并提供指导。
• 国家监督机构： 各成员国需指定机构，负责本国的监管和执法。
• 域外适用： 只要 AI 系统影响欧盟，即便开发地在欧盟以外，也适用该法案。

生成式 AI 的规定

法案对生成式 AI（如 ChatGPT）设有专门规定。开发者须满足透明与安全要求，如披露训练方法、所用数据集及潜在偏见。

AI 分类：基于风险的体系

风险分类体系

欧盟人工智能法案采用基于风险的分类体系，对 AI 技术进行监管。该体系根据 AI 应用的潜在风险，匹配相应的监管强度。通过将 AI 系统分为不可接受、高、有限和最低/无风险四个等级，欧盟实现了技术进步与公众安全、道德标准的平衡。每个类别都对开发者、部署方及其他相关方提出了具体的监管要求和责任。

风险等级及其影响

不可接受风险

属于“不可接受风险”类别的 AI 系统被认定为对基本权利、安全或欧盟价值观构成直接威胁，因此被法案明令禁止。典型例子包括：

• 潜意识操纵： 秘密影响人类行为以造成伤害的系统，如在不知情的情况下操控选民决策。
• 利用弱势群体： 针对如年龄、残障、经济状况等弱势的个体进行有害行为的 AI，比如鼓励儿童危险行为的互动玩具。
• 社会评分： 根据行为或特征对个人进行评分的系统，如通过社交媒体活动评估信用，导致不公正结果。
• 公共场所实时生物识别： 在公共场所用作监控的人脸识别系统（除特定司法批准的执法用途外）。
• 情感识别和生物特征分类： 在敏感环境（如工作场所或学校）中推断种族、政治倾向等敏感信息的 AI。

这些禁令体现了欧盟对尊重人权和道德 AI 的承诺。

高风险

高风险 AI 系统对健康、安全或基本权利有重大影响。虽然不被禁止，但必须满足严格的透明和问责要求。典型例子包括：

• 关键基础设施： 管理如交通等关键系统，失效可能危及生命的 AI。
• 教育与就业： 影响教育或就业机会的系统，如考试评分或简历筛选算法。
• 医疗健康： 集成到医疗设备或决策中的 AI，比如机器人辅助手术。
• 公共服务： 用于判断贷款或福利资格的工具。
• 执法与边境管理： 用于刑事调查或签证处理的 AI。

高风险 AI 的开发者和部署方必须严格遵守文档管理、人工监督和合规评估等标准，以降低风险。

有限风险

有限风险 AI 系统存在中等潜在风险，需满足透明度要求，确保用户知晓正在与 AI 交互。典型例子包括：

• 聊天机器人： 系统需告知用户对方非人类。
• 推荐算法： 为用户推荐产品、内容或娱乐的 AI。

虽然风险较低，但法案要求其遵循基本伦理标准以建立信任和责任。

最低或无风险

大多数 AI 应用（如语言翻译、搜索引擎等通用工具）属于该类别，监管最少或无监管，促进创新自由发展。典型例子包括办公 AI 工具或个人虚拟助手。

生成式 AI 的相关规定

AI 法案对生成文本、图像或代码的生成式 AI（如 ChatGPT、DALL-E）设置了具体措施。根据其用途和潜在影响进行分类。主要规定包括：

• 透明度要求： 开发者须披露训练用的数据集，并注明内容为 AI 生成。
• 安全与道德指南： 生成式 AI 应减少偏见、防止虚假信息，并符合道德标准。
• 问责机制： 企业需提供模型架构、预期用途及局限性的详细文档。

合规保障：治理框架

治理在欧盟 AI 法案中的作用

欧盟人工智能法案引入了治理框架以确保法规得到执行。该框架促进透明、问责以及成员国间的统一实施，同时保护基本权利并鼓励可靠 AI 技术的发展。治理体系的核心包括欧洲人工智能委员会（EAIB）和欧洲 AI 办公室，二者与各国主管机构协作落实和监督 AI 法案。

欧洲人工智能委员会（EAIB）

EAIB 是 AI 法案的主要治理机构，负责为法律在欧盟范围内的一致实施提供咨询和协调。

核心职责

• 协调与监督：
  EAIB 负责协调各国监管机构，确保各成员国一致监管 AI，减少解释和执行的差异。
• 指导与建议：
  委员会为法案的实施提供建议，制定指南、起草授权法案及其他监管工具，帮助澄清法规，便于遵循和执法。
• 政策制定：
  EAIB 参与制定欧洲 AI 政策，为创新战略、国际合作等提供指导，确保欧盟在 AI 技术上保持竞争力。

治理结构

EAIB 由各成员国代表组成，秘书处为欧洲 AI 办公室。欧洲数据保护监督员及 EEA-EFTA 国家代表等观察员也可参加会议。委员会内部设有专题小组，促进协作与经验交流。

欧洲 AI 办公室

欧洲 AI 办公室是欧盟 AI 治理的主要枢纽，与 EAIB 及各成员国紧密合作，支持 AI 法案的实施，确保 AI 技术的安全与责任发展。

主要职能

• 专业支持：
  AI 办公室是欧盟 AI 知识中心，为成员国提供技术与监管支持，并评估通用 AI 模型是否符合安全与伦理标准。
• 国际协调：
  AI 办公室推动全球 AI 治理合作，倡导欧盟监管方法成为国际标准，并与科学家、产业界、社会组织合作制定政策。
• 执法权力：
  办公室有权评估 AI 系统、索取信息，并对不合规的通用 AI 模型提供方实施处罚。

AI 法案的域外适用

AI 法案不仅适用于欧盟境内实体，也适用于向欧盟市场提供 AI 系统或影响欧盟公民的境外企业。域外条款确保法案的高标准在全球范围内得到遵守，成为国际 AI 治理的典范。

与 GDPR 的对比

AI 法案的治理框架与通用数据保护条例（GDPR）在结构和目标上具有相似性：

• 集中监管：
  如同 GDPR 下设的欧洲数据保护委员会，EAIB 为 AI 治理提供集中监管，保障成员国间一致性。
• 域外效力：
  AI 法案与 GDPR 均将规则扩展至欧盟以外，彰显欧盟在数字监管领域制定全球标准的决心。
• 重视基本权利：
  两大法规均优先保护基本权利，强调透明、问责和伦理考量。

但 AI 法案还应对了 AI 特有的挑战，如风险分类和生成式 AI 监管。

全球视野下的 AI 监管

AI 法案的全球引领作用

欧盟人工智能法案为全球 AI 监管树立了范例。作为首个详尽的 AI 法律框架，为其他地区应对 AI 带来的道德、法律与社会挑战提供了指南。法案引入风险分类体系、强调透明度与基本权利保护，构建了强有力且现代化的监管模式。

AI 法案兼顾了 AI 的机遇与风险。例如，禁止社会评分及某些生物识别用途，明确了 AI 使用的伦理底线。这一框架已影响到美国、加拿大、日本等国的政策讨论，相关政策制定者正考虑采纳类似的 AI 管理策略。

此外，法案设有域外规则，要求全球企业——无论注册地如何——只要其 AI 系统影响欧盟市场或公民，均须遵守该法案。这保证了法案影响力超越欧洲，推动国际企业与欧盟标准保持一致。

AI 治理的国际合作

欧盟深知应对 AI 挑战需全球协作，因此积极与国际组织及其他国家合作，推动统一的 AI 监管与伦理标准。经济合作与发展组织（OECD）的 AI 原则、七国集团（G7）的 AI 倡议等项目，均体现了欧盟框架的元素。

近期的布莱切利园峰会等活动，强化了全球 AI 治理对话的重要性。此类会议聚集政策制定者、业界专家与社会组织，共同探讨 AI 管理的价值观与战略。欧盟在这些讨论中的积极参与，彰显了其塑造全球 AI 监管的决心。

通过国际合作，欧盟致力于避免各国 AI 政策碎片化，而推动统一行动，确保 AI 技术安全、道德并惠及全体社会。

欧洲 AI 的未来

AI 法案不仅致力于监管 AI，还助力推动欧盟 AI 领域的创新与竞争力。相关举措如 AI 创新包和 AI 公约，鼓励以人为本的 AI 开发，推动投资与研究。

展望未来，欧盟希望 AI 技术能无缝融入社会，助力提升生产力、解决复杂问题，同时不牺牲伦理标准。法案对透明和问责的强调，有助于确保 AI 系统值得信赖，增强公众信心。

随着全球 AI 领导权竞争加剧，欧盟通过监管与创新支持的平衡策略，成为道德 AI 发展的关键力量。这不仅惠及欧洲公民，也为其他国家提供榜样，促使全球向负责任的 AI 治理转型。

通过将 AI 法案作为全球典范并推动国际合作，欧盟展现了其打造道德和可信赖 AI 系统的决心。该框架不仅回应当前 AI 挑战，也为全球 AI 的安全和可持续发展奠定基础。