《人工智能资讯周报》|中国《人工智能安全治理框架》2.0:从原则到

刊物介绍

《人工智能资讯周报》探讨人工智能对公共政策、治理和政策建议的影响，探索人工智能对商业、政治和社会的影响，以确定潜在的研究领域，探讨可能的合作研究和机构伙伴关系。本刊着重提供中国人工智能发展动态和对人工智能的思考，同时关注全球范围内人工智能相关研究动态。本刊旨在通过可靠的研究，来帮助企业、研究机构和公民预测和适应技术引领的变化和成就。

摘要

2024年9月，全国网络安全标准化技术委员会（TC260）在“国家网络安全宣传周”主论坛上发布了《人工智能安全治理框架》（1.0版）。该文件首次提出中国版AI安全治理的系统性结构，确立“包容审慎、确保安全”“风险导向、敏捷治理”“技管结合、协同应对”“开放合作、共治共享”等四项治理原则，并围绕安全风险、技术应对、综合治理、开发指引构建全过程治理体系，为中国人工智能治理奠定了基础。

一年后，2025 年 9 月，框架升级为 2.0 版，由国家计算机网络应急技术处理协调中心（CNCERT）联合 TC260 发布，并在国家互联网信息办公室指导下完成。作为国家标准化体系中的指导性政策文件，2.0 本身并不具有法律强制效力，但属于人工智能安全治理领域的重要规范性依据，被用于支撑监管要求、行业标准制定和地方政策细化。

新版《人工智能安全治理框架》展现出从原则性指引向系统化监管体系的显著跃迁，其变化不仅体现在内容扩展，更体现在治理逻辑的深化与操作链条的成型。整体来看，这一升级主要包括以下七个层面的结构性调整。

第一，风险识别体系显著拓展。1.0 将风险分为“内生风险”和“应用风险”，主要聚焦技术层面的模型偏差、系统失效和内容违规等问题；而 2.0 新增“应用衍生安全风险”，将就业结构冲击、科研伦理风险、社会系统性影响、数字鸿沟扩大等外溢效应纳入监管。这意味着风险识别从技术链条延伸到社会链条，从工程问题升级为社会治理问题。在全球范围内，这类风险尚无成熟法律监管先例，2.0 的纳入体现出政策试图通过前置治理机制，对 AI 的制度性与结构性外溢风险提前管理。

第二，风险分级治理机制落地。在风险类型拓展基础上，2.0 通过附件明确设立五级风险等级：低风险几乎无影响；一般风险影响可控；较大风险带来局部社会面危害；重大风险具有区域性冲击；特别重大风险则具备系统性、灾难性特征。为后续评估、备案、监测和应急响应提供清晰的执行基准。

第三，全生命周期与测评体系成型。在分级治理框架的基础上，2.0 将安全治理延伸至模型“从研发到报废”的全链路，首次形成闭环式管理体系。在研发端，2.0 要求模型自设计阶段就具备可靠、公平、透明、可解释、隐私保护及价值观对齐等内生安全能力；在训练端，通过数据来源规范、数据清洗、标注审核和脱敏处理等方式确保数据供给链可控；在测试端，要求建立分级测评体系、丰富测试数据集，并开展沙箱仿真、人工/自动混合测试，形成完整测试报告；在运行端，引入版本回退机制、行为监测与异常处置披露。

第四，数据治理与开源生态安全同步加强。在 1.0 的数据安全框架基础上，2.0 将数据安全、开源安全与供应链安全整合为一体，构建完整的底层合规体系。一方面，文件明确训练、标注、使用、输出等环节需落实数据合法性审查、去标识化处理与敏感行业额外防护，加强数据全链路安全。另一方面，2.0 首次将开源生态纳入国家级治理框架，要求对开源模型和框架开展安全审计、漏洞修复，明确使用者责任与禁止性行为，防止开源模型被恶意复用或产生“作恶模型”。加之对开源透明度和规则建设的强调，2.0 在原有数据治理基础上补齐了开源生态的制度缺口。

第五，供应链与内容可追溯机制全面升级。2.0 将供应链安全视为人工智能安全治理的基础底座，要求推进芯片、框架、软件等关键组件的开放供应链建设，增强产品与服务的来源多样性，减少关键节点“单点故障”风险。与此同时，文件要求服务提供者从官方渠道获取模型与工具，开展完整性校验与漏洞追踪，以确保底层链条在技术上“可验证、可溯源”。在内容治理方面，2.0 将 AIGC 内容标识从“倡导性质”提升至“体系化要求”，明确生成内容需进行显式或隐式标识，并覆盖从制作、传播到分发的所有环节，构建国家级风险威胁共享和内容可追溯体系，为深度伪造治理和平台责任认定提供制度抓手。

第六，可信 AI 准则构建伦理安全框架。2.0 附录首次提出具有体系化结构的“可信 AI 基本准则”，将技术安全与伦理安全整合起来，形成中国式 AI 治理的规范体系。其中包括“人类最终控制”“安全终止机制”“国家主权尊重”“价值观对齐”“透明与可解释性”等核心原则，要求技术系统既要可控、可干预，又必须符合法治体系与主流价值体系；既要保证责任链可追溯，又要在跨主体合作中形成透明、可审计、可问责的机制。为跨境合作与国际治理提供一定的规范基础。

第七，法律与伦理制度底座进一步夯实。在治理体系整体升级的背景下，2.0 将法律、伦理与数据三者整合为 AI 安全治理的制度底座。文件提出完善 AI 安全法律法规体系、推动分级分类监管制度化、加强最终用途管理与重点领域应用规则建设；同时要求建立覆盖研发—应用全过程的科技伦理审查体系，并对中小企业提供伦理支持；在数据方面，进一步明确合法性、必要性、最小化原则，强化对敏感行业核心数据的保护要求。整体来看，这些制度共同构成 AI 全生命周期安全治理的基础，使监管从技术标准化走向法律化、制度化与场景化结合。

第一，从国内治理逻辑看，2.0 的推出与国家层面的“人工智能+”战略高度契合。2025 年 8 月，国务院印发《关于深入实施“人工智能+”行动的意见》，提出要推动人工智能向产业、民生、消费、治理等多领域“广泛深度融合”，并将“安全可控”列为八项基础能力之一。这意味着 AI 应用场景的快速扩张必须与风险管控同步推进，否则产业化规模越大，系统性风险越难追踪和修复。1.0 更多起到“方向引导”作用，而在 AI+ 进入全面落地阶段之前，监管部门迫切需要一套可执行的风险工具箱，用以应对模型扩散、跨行业嵌入和关键领域数字化带来的不确定性。

这种需求在央企“AI+”专项行动中体现得尤为突出。自 2024 年起，国资委推动交通、能源、电力等关键行业大规模建设数据集、智算中心和领域大模型，同时反复强调“自主可控、安全可靠”的底线。随着 AI 从试点走向规模化部署，其风险也从技术问题转变为系统性问题：算力、数据与模型在关键基础设施中高度集中，使得安全事件不再是单点，而可能影响整个社会服务链。在此背景下，将风险分级、全生命周期治理、开源与供应链安全、内容可追溯等机制整合进 2.0，不仅是治理升级，更是为 AI+ 的大规模应用提供制度化护栏。

第二，技术生态的快速扩张构成 2.0 提前推出的直接诱因。随着大模型与开源体系能力跃迁、生态复杂度上升，1.0 已不足以应对连续出现的‘模型不可控’与治理能力缺口。近年大模型与开源模型迅速扩散，中国监管层与科研机构对其“难以收拢”的潜在失控风险愈发警惕。2.0 将可解释性、对抗鲁棒性、水印标识与“安全终止机制”等工程化要求直接写入框架，使治理由原则性识别推进到工程性落地。分级测评、统一测试规则、沙箱仿真与版本回退机制填补了 1.0 的操作空白。2.0 为开发者与平台构建了一套更完整、可对照执行的技术治理模板，使中国 AI 安全治理从原则导向迈向工程化、体系化的执行阶段。

第三，在全球科技竞争加剧的背景下，2.0 的推出还具有清晰的外溢战略动机。随着人工智能成为国家间竞争的关键领域，各国不仅争夺算法与算力，更通过规则建构提前占位全球治理体系。2.0 明确提出推动通过联合国、APEC、金砖国家等多边平台制定 AI 安全治理规则，这表明 2.0 的功能不仅限于国内治理，也旨在参与全球 AI 规则塑造。