跳到主要内容

AI合规与组织治理实践

面试定位：当面试官问“你们 AI 系统怎么做合规和治理”，本篇给你可背诵的法规清单（欧盟 AI Act / 中国生成式 AI 暂行办法 / GDPR）+ 组织机制（伦理委员会 / RACI / DPO / 供应商尽调）+ 工程化门禁（能力分级 / 模型升级 checklist / Prompt 版本化 / 灰度 / eval 门禁）。

目录​

治理的核心目标​

AI 治理的目标不是降低创新速度，而是在可控前提下提高交付稳定性与合规确定性。核心是让“谁能做什么、合不合规、出了问题怎么回溯、如何持续改进”都有明确机制。

合规与治理可分三层：

  • 法律合规层：满足所在司法辖区的强制法规（欧盟 AI Act、中国生成式 AI 办法、GDPR/个保法等）。
  • 组织治理层：伦理委员会、RACI 责任矩阵、DPO、供应商尽职调查。
  • 工程门禁层：能力分级、模型升级 checklist、Prompt 版本化、灰度、eval 门禁。

全球主要 AI 法规​

欧盟 AI Act（风险分级监管）​

欧盟《人工智能法案》是全球首部综合性 AI 法律，2024 年生效，2025-2027 分阶段落地，按风险分级监管：

风险等级示例义务
不可接受社会信用评分、操纵性/利用弱势群体的 AI、（原则上）公共场所实时人脸识别禁止使用
高风险招聘、信贷、教育评分、医疗设备、关键基础设施、执法风险管理体系、数据治理、技术文档、可追溯日志、人工监督、合格评定（CE）、上市后监测
有限风险聊天机器人、深度伪造、生成内容透明义务：告知用户在与 AI 交互、生成/合成内容须标识
最小风险垃圾邮件过滤、游戏 AI无强制义务
  • GPAI（通用目的 AI / 大模型）义务：提供技术文档、训练数据摘要（含版权合规说明）、遵守欧盟版权法；对“具系统性风险”的 GPAI（高算力，约 ≥10^25 FLOPs）追加模型评估、对抗测试（红队）、系统性风险评估与缓解、严重事件报告、网络安全保护义务。
  • 处罚：违规最高可达全球年营业额 7%（禁止类）或 3%（其他义务）的罚款。

中国《生成式人工智能服务管理暂行办法》（2023）​

2023-08-15 起施行，由网信办等七部门联合发布，是中国生成式 AI 服务的核心规范：

  • 适用范围：向中国境内公众提供生成式 AI 服务（文本、图片、音频、视频）。
  • 核心义务：训练数据来源合法、尊重知识产权与个人信息、内容真实准确、防歧视；对生成内容进行标识（与 2025《AI 生成合成内容标识办法》衔接）；建立投诉举报机制；发现违法内容及时处置。
  • 算法备案：具有舆论属性或社会动员能力的算法须在网信办做算法备案（《互联网信息服务算法推荐管理规定》）。
  • 大模型（生成式 AI）上线备案：面向公众的生成式 AI 服务上线前须完成大模型备案/登记与安全评估。
  • 数据出境：涉及个人信息/重要数据出境，须遵守《数据出境安全评估办法》《个保法》——满足条件时做安全评估申报、标准合同备案或保护认证。

GDPR 与 AI​

欧盟《通用数据保护条例》对 AI 处理个人数据有直接约束：

  • 合法性基础：处理个人数据需有合法依据（同意/合同/合法利益等）。
  • 自动化决策（第 22 条）：对个人有重大影响的纯自动化决策，个人有权要求人工介入、表达意见、获得解释。
  • 数据最小化与目的限制：训练/推理只收集必要数据，不得超目的使用。
  • DPIA（数据保护影响评估）：高风险处理（如大规模画像）须做 DPIA。
  • 被遗忘权 / 可携权：用户可要求删除其数据——在训练数据/向量库中需有对应删除机制。

面试一句话：欧盟 AI Act 按风险分级 + GPAI 义务管，中国按暂行办法 + 算法/大模型备案 + 数据出境 + 内容标识管，GDPR 管个人数据的合法处理与自动化决策解释权。

组织治理框架​

  • 策略层：定义可接受风险、合规边界、业务红线，对齐适用法规。
  • 流程层：需求评审（含合规/安全评审）、开发评审、上线审批、复盘改进。
  • 技术层：权限控制、日志审计、评测门禁、应急开关（kill switch）。
  • 监督层：AI 伦理委员会 / 治理委员会，定期审计与跨团队协调。

AI 伦理委员会与 RACI​

  • AI 伦理 / 治理委员会：跨职能（业务、法务、安全、技术、合规、数据保护）评审高风险用例，对“是否上线、如何缓解风险”拍板。
  • RACI 责任矩阵：对每项治理活动明确 R（执行）/ A（负责/拍板）/ C（咨询）/ I（知会）。
治理活动产品负责人技术负责人安全负责人DPO伦理委员会
用例风险分级ACCCI
模型上线审批CRCCA
数据合规/出境评估ICCA/RI
高风险事件复盘CRACI
  • 数据保护官（DPO）：GDPR/个保法要求的角色，负责数据合规监督、DPIA、与监管沟通。
  • 第三方模型供应商尽职调查：评估供应商的数据使用条款（是否用你的数据训练）、数据驻留地、合规认证（SOC2/ISO 27001）、安全事件历史、模型卡与下架/变更通知机制，纳入合同与定期复审（对应 OWASP LLM03 供应链）。

权限与责任模型​

AI 能力分级（L0–L3 自治度）​

按 Agent/AI 的自治程度与权限分级，决定所需的人工监督强度：

等级名称说明监督要求
L0纯建议只读、只生成建议，不执行任何操作低，人工决定是否采纳
L1受限只读执行可调用只读工具（查询、检索），无副作用中，结果可审计
L2受控写入可执行有副作用但可逆/低风险操作，需 schema/权限校验高，关键操作 HITL 审批
L3高风险自治可执行不可逆/高影响操作（支付、生产变更）强制人工审批 + 全程审计 + 可回退
  • 对 AI 能力按风险分级：只读、受限写入、高风险执行。
  • 对人员角色按职责分层：产品负责人、技术负责人、安全负责人、DPO、审计角色。
  • 每次高风险变更必须有明确 owner 和审批记录。

审计与可追溯机制​

  • 记录完整链路：输入、系统指令版本、模型版本、检索证据、工具调用与参数、输出结果、审批记录。
  • 对敏感字段进行脱敏与分级访问。
  • 支持按任务 ID / Trace ID 快速回放，定位问题来源并复现实验环境。
  • 满足欧盟 AI Act 高风险系统的“自动日志记录”与中国办法的可追溯要求。

变更管理与应急响应​

模型升级 Checklist​

模型/Prompt/工具链升级是事故高发区，必须按清单走：

  • 变更说明：升级了什么（模型版本、Prompt、工具、参数）、为什么、影响范围。
  • 回归评测：跑 golden set + 安全用例，对比上版本（成功率、安全指标不退化）。
  • Prompt 版本化：Prompt 纳入版本控制（Git / Prompt 管理平台），可 diff、可回滚，记录 prompt_version。
  • eval 门禁：未达红线指标自动阻断发布。
  • 灰度发布：1% → 10% → 50% → 100%，每阶段观察指标与告警。
  • 回退预案：保留上一版本，定义自动回退触发条件（错误率/成本/延迟阈值）。
  • 应急开关：kill switch 可一键关闭某能力/工具。
  • 合规检查：是否触发新的备案/标识/数据出境义务。

应急响应​

  • 重大变更先灰度再全量。
  • 建立故障分级机制，明确自动回退和人工接管触发条件。
  • 安全/合规事件标准化流程：隔离 → 止损 → 复盘 → 补丁 → 再评测，并按法规要求（如 AI Act 严重事件报告）上报。

2026 合规一览表​

维度欧盟 AI Act中国GDPR / 个保法
监管思路风险分级（4 级）+ GPAI 义务暂行办法 + 备案制 + 内容标识个人数据保护
上线前置高风险需合格评定算法备案 + 大模型备案 + 安全评估DPIA（高风险）
内容标识深伪/生成内容须标识显式 + 隐式标识（2025 标识办法）—
数据出境受 GDPR 约束数据出境安全评估/标准合同跨境传输充分性/SCC
自动化决策高风险须人工监督算法须可解释、可申诉第 22 条解释权
处罚上限全球营收 7%责令整改、罚款、停服全球营收 4%

治理落地路线图​

  1. 30 天：建立基础审计日志、最小 eval 门禁、用例风险分级、确认适用法规与备案义务。
  2. 60 天：完成权限分层（L0–L3）、高风险操作 HITL 审批、Prompt 版本化、供应商尽调。
  3. 90 天：形成治理看板（成功率/安全指标/合规状态）、定期复盘节奏、伦理委员会评审机制，完成必要备案与内容标识落地。

相关阅读​