KPMG《AI 风险与控制指南》

这组数据虽然来自去年，但对当下依然意义重大。根据 KPMG 2024 美国 CEO 展望，有高达 68% 的 CEO 将 AI 视为首要投资重点。他们寄望 AI 能提升效率、提升员工技能，并推动组织创新。

这无疑是对 AI 的巨大信心，但也带来了一个重要问题：在如此高的期望下，组织如何确保负责任、合乎道德地使用 AI？

这正是 KPMG《AI 风险与控制指南》 的用武之地。它为企业提供了一个清晰、实用的框架，助力在拥抱 AI 潜力的同时，有效管理其带来的实际风险。在当下，构建值得信赖的 AI 不只是良好实践，更是业务的必然要求。

人工智能（AI）正在变革各行各业，带来前所未有的效率、创新和竞争力。但同时，这也带来了独特的风险和道德挑战，组织必须谨慎应对，以维护信任并确保负责任使用。KPMG《AI 风险与控制指南》 正是为帮助组织应对这些复杂性而设计，提供实用、结构化、价值导向的 AI 治理方法。

本指南与 KPMG 的 可信 AI 框架 保持一致，帮助企业开发和部署合乎道德、以人为本、符合全球法规标准的 AI 解决方案。它围绕 10 个基础支柱 展开，每一项都聚焦于 AI 风险管理的关键领域：

1. 问责：明确 AI 结果的责任归属。
2. 公平：减少偏见，促进公平结果。
3. 透明：让 AI 流程可理解、可见。
4. 可解释性：为 AI 决策提供理由。
5. 数据完整性：确保数据高质量、可靠。
6. 可靠性：保证性能稳定和准确。
7. 安全性：防范威胁与漏洞，保护 AI 系统。
8. 安全：设计系统以防止伤害和降低风险。
9. 隐私：保护个人和敏感数据。
10. 可持续性：降低 AI 系统对环境的影响。

聚焦这十个支柱，组织可在 AI 生命周期的每一阶段——从战略和开发到部署和监控——都融入道德原则。该指南不仅提升了风险韧性，还推动了可持续、可信赖、符合社会期望的创新。

无论您是风险管理专家、高管、数据科学家还是法律顾问，本指南都将为您负责任地释放 AI 力量提供关键工具和洞见。

指南的目标

应对 AI 的独特挑战

KPMG《AI 风险与控制指南》作为专业资源，帮助组织管理与人工智能（AI）相关的特殊风险。它认识到，虽然 AI 潜力巨大，但其复杂性和伦理问题需要有针对性的风险管理方法。该指南为负责任、有效地解决这些挑战提供了结构化框架。

融入现有治理体系

本指南并非替代现有系统，而是旨在补充当前的风险管理流程。核心目标是将 AI 专属因素融入组织的治理结构，确保与现有运营实践顺畅对接。通过这种方式，组织无需彻底重塑框架，就能强化风险管理能力。

与权威标准保持一致

本指南建立在 KPMG 可信 AI 框架之上，倡导价值驱动、以人为本的 AI 方法。它融合了 ISO 42001、NIST AI 风险管理框架、欧盟 AI 法案等广受认可的标准原则，既具实用性，又与全球最佳实践和 AI 治理法规要求保持一致。

实用工具包，助力落地

本指南提供了可操作的洞见和实用案例，针对 AI 相关风险量身定制。它鼓励组织结合自身实际，如 AI 系统是否自研或由供应商提供、所用数据及技术类型等，灵活调整实践。这种适应性确保指南对各行业、各种 AI 应用都具有现实意义。

支持道德与透明的 AI 部署

指南重点帮助组织安全、道德、透明地部署 AI 技术。通过涵盖 AI 风险的技术、运营和伦理层面，帮助组织在利用 AI 变革力的同时，赢得利益相关方的信任。

本指南作为资源，确保 AI 系统既服务于业务目标，又规避潜在风险。它推动创新的同时，优先考虑问责和责任。

谁应使用本指南？

AI 治理关键利益相关方

KPMG AI 治理指南为负责 AI 实施与安全、道德、高效部署的专业人士而设计，适用于组织内各领域团队，包括：

• 风险与合规部门：这些团队可借指南将 AI 治理实践与现有风险框架及监管要求对齐。
• 网络安全专家：面对 AI 系统对抗性攻击风险日益增加，网络安全团队可据此建立强有力的安全措施。
• 数据隐私团队：为数据隐私官提供工具，负责任地管理敏感信息，应对个人数据合规问题。
• 法律与法规团队：法律专业人士可依靠指南与 GDPR、ISO 42001、欧盟 AI 法案等全球框架的对齐，确保 AI 系统符合法律法规。
• 内部审计人员：审计师可用指南评估 AI 系统是否有效满足道德与运营标准。

领导层与战略决策者

高管及高级领导者（如 CEO、CIO、CTO）可借助本指南将 AI 作为战略重点进行管理。根据 KPMG 2024 美国 CEO 展望，68% 的 CEO 将 AI 视为关键投资领域。本指南帮助领导层将 AI 战略与组织目标对齐，并应对相关风险。

AI 开发者与工程师

软件工程师、数据科学家及其他负责开发和部署 AI 解决方案的人员，可利用本指南将道德原则和健全控制措施直接融入系统。指南聚焦将风险管理实践适配于 AI 模型的具体架构与数据流。

各行各业各规模组织

无论是自研 AI 系统、采购供应商产品，还是使用专有数据集的企业，本指南均可灵活适用。它对金融、医疗、科技等对高级 AI 应用和敏感数据高度依赖的行业尤为重要。

此指南的重要意义

没有明确治理框架的 AI 部署，可能带来财务、监管和声誉风险。KPMG 指南与现有流程协同，提供结构化、道德化的 AI 风险管理方法，促进问责、透明与伦理实践，帮助组织负责任地释放 AI 潜力。

指南使用入门

将 AI 风险纳入现有风险分类体系

组织应首先将 AI 专属风险与当前风险分类体系对齐。风险分类体系是一种结构化工具，用于识别、组织和应对潜在漏洞。由于 AI 带来独特挑战，传统分类体系需扩展纳入 AI 专属因素，如数据流准确性、算法逻辑、数据源可靠性等。这样，AI 风险就能成为组织整体风险管理的一部分，而非被割裂对待。

指南强调应评估 AI 系统的全生命周期。重点考察数据来源、流程中的流转方式，以及 AI 模型的基础逻辑。从全局视角，有助于发现开发和使用 AI 过程中的潜在薄弱环节。

针对组织实际需求调整控制措施

AI 系统因用途、开发方式和数据类型不同而各异。无论是自研模型还是外部采购，风险都各不相同。同样，专有、公开或敏感数据，以及所用技术方法，也需定制化的风险管理策略。

指南建议根据 AI 系统的具体需求适配控制措施。例如，依赖专有数据时需更严格的访问控制；使用供应商产品则要进行深入的第三方风险评估。因地制宜调整控制，有助于更有效应对 AI 系统的特殊挑战。

在 AI 生命周期各阶段嵌入风险考量

指南建议在 AI 生命周期每一阶段都融入风险管理实践，包括设计阶段的风险规划、部署过程的强监控机制，以及系统迭代时的风险定期更新。分阶段应对风险，可减少薄弱环节，保障 AI 系统道德且可靠。

将 AI 风险与现有风险分类体系对齐，并结合实际调整控制措施，为可信 AI 奠定坚实基础。这些举措帮助组织系统性识别、评估和管理风险，搭建强有力的 AI 治理框架。

可信 AI 的 10 大支柱

KPMG 可信 AI 框架基于十项关键支柱，聚焦人工智能的伦理、技术与运营挑战。它们为组织负责任地设计、开发与部署 AI 系统提供指引，确保整个 AI 生命周期的信任与问责。

问责

每个 AI 生命周期阶段都应有人类监督和责任归属。这意味着明确谁负责管理 AI 风险，确保符合法律法规，并在必要时具备干预、覆盖或撤销 AI 决策的能力。

公平

AI 系统应致力于减少或消除可能对个人、社区或群体产生负面影响的偏见。这包括审查数据是否代表多样人群、开发阶段采取公平性措施，并持续监控结果以促进公平对待。

透明

透明性要求公开 AI 系统的工作原理及决策原因。这包括记录系统局限性、性能结果和测试方法。用户应知晓其数据何时被收集，AI 生成内容须清晰标注，且如生物识别分类等敏感应用必须向用户明确告知。

可解释性

AI 系统必须为其决策提供可理解的理由。为此，组织应详尽记录数据集、算法与性能指标，使利益相关方能有效分析和复现结果。

数据完整性

数据在整个生命周期内（收集、标注、存储、分析）的质量和可靠性至关重要。需设立控制措施，防范数据损坏或偏见风险。定期检查数据质量、在系统更新时进行回归测试，有助于保持 AI 系统的准确性和可靠性。

隐私

AI 解决方案必须遵守隐私及数据保护法规。组织需妥善处理数据主体请求，开展隐私影响评估，运用差分隐私等先进技术，实现数据可用性与个人隐私保护的平衡。

可靠性

AI 系统应始终如一地实现既定目标和准确性。这需要充分测试、异常检测机制，以及持续反馈回路以验证系统输出。

安全

安全措施保护 AI 系统免受对个人、企业或财产的伤害。这包括设计故障保护、监测数据投毒或提示注入攻击等问题，并确保系统符合伦理与运营标准。

安全性

必须采取强有力的安全实践，防范威胁和恶意行为。组织应定期审计、开展漏洞评估，并用加密技术保护敏感数据。

可持续性

AI 系统应致力于降低能耗，支持环境目标。从设计初期就纳入可持续性考虑，并在整个生命周期持续监测能耗、效率与排放。

遵循以上十项支柱，组织可打造道德、可信、符合社会期望的 AI 系统。该框架为管理 AI 挑战、推动负责任创新提供清晰结构。

关键风险与控制措施——数据完整性

AI 系统中的数据完整性

数据完整性对于保障 AI 系统的准确性、公平性和可靠性至关重要。数据管理不善会引发偏见、不准确与不可靠等风险，削弱对 AI 输出的信任，并造成重大运营及声誉问题。KPMG 可信 AI 框架强调，维持数据全生命周期高质量是确保 AI 系统有效运行、符合伦理标准的基础。

数据完整性主要风险

缺乏数据治理

缺乏强有力的数据治理，AI 系统可能产生错误结果。数据不完整、不准确或不相关，会导致偏见或不可靠的输出，增加各类 AI 应用风险。

数据传输过程中的损坏

在训练、测试或运营等活动中，数据常在系统间流转。若传输不当，数据可能损坏、丢失或退化，影响 AI 系统表现。

降低风险的控制措施

制定全面的数据治理政策

提升数据治理，组织可：

• 制定并执行数据收集、存储、标注与分析的政策；
• 实施全生命周期管理，确保数据准确、完整和相关性；
• 定期质量检查，及时发现并修复问题。

保护数据传输

为降低数据传输风险，组织应：

• 使用安全协议防止数据损坏或丢失；
• 定期审查训练和测试数据集，尤其在系统更新时，确保其充分性和相关性，包括按需补充新数据以保障系统性能。

持续监控和验证

采用持续监控系统，可在 AI 生命周期内保持数据完整。这些系统可发现数据质量意外变化或处理不一致等问题，便于及时纠正。

总结

维护数据完整性是部署可信 AI 系统的关键。组织通过建立强大治理框架、保护数据交互、持续验证流程，能够降低风险，提高 AI 输出的可靠性，并遵守伦理与运营标准，助力建立对 AI 技术的信任。

关键风险与控制措施——隐私

数据主体访问隐私

处理与数据主体访问相关的请求是 AI 隐私管理中的重要挑战。组织必须确保个人能够按照 GDPR 和 CCPA 等法律行使其访问、纠正或删除个人信息的权利。若请求处理不当，可能导致合规违规、消费者信任流失与声誉受损。

为降低风险，企业应建立教育项目，帮助个人了解其与 AI 交互时的数据权利。系统必须能够快速、透明地处理这些请求，并妥善记录处理过程，以便审计时证明合规。

数据泄露导致的隐私违规

AI 系统常处理敏感个人信息，成为网络攻击的高价值目标。一旦泄露，可能带来巨额罚款、公司声誉受损和客户信任丧失。

对此，KPMG 可信 AI 框架建议，对使用个人数据的 AI 系统开展伦理审查，确保其遵守隐私法规。还需定期开展数据保护审计和隐私影响评估（PIA），尤其是在用敏感数据训练 AI 模型时。此外，采用差分隐私等方法，通过增加统计噪声助力数据匿名化，同时保证分析能力。

缺乏隐私设计

若 AI 系统开发初期未植入隐私保护，会带来重大隐患。未落实隐私设计原则，组织易暴露敏感数据，或无法符合法律要求。

企业应在 AI 系统开发阶段就纳入隐私措施。这包括通过强数据管理实践，遵循隐私法律及数据保护规定。应清晰记录数据收集、使用与存储方式，且在采集和处理敏感数据（如生物特征数据）时，须获得用户明确同意。

用户交互透明度

AI 系统若未清楚说明用户数据的处理方式，易引发不信任和法律风险。用户应知晓其数据何时被收集及用途