扫码订阅《中国信息安全》

邮发代号 2-786

征订热线：010-82341063

文 | 中国信通院互联网法律研究中心研究员 袁纪辉

10月30日，美国总统拜登签署发布《安全、稳定、可信的人工智能》行政令，以确保美国在把握AI的前景和管理其风险方面处于领先地位。该行政令系统对人工智能安全和可信标准，保护隐私，保障人权，维护消费者等权益，支持劳工，推动创新和竞争，提升美国全球领导力，确保政府负责有效使用人工智能等内容进行规定。行政令重点关注四个方面内容：

一是关注安全，致力于塑造人工智能生态安全保障体系。行政令聚焦在人工智能技术对关键基础设施以及化学、生物、放射性、核和网络安全风险的威胁，提出制定专门标准和实践指南的防范思路，遏制社会固有的深层次、系统性风险。同时，行政令关注到人工智能在医疗、教育、司法、住房等领域存在的歧视、偏见和其他风险，提出通过发布指导规范、辅助侵权起诉、制定实践样本等方式促进平等、保障民权。

二是关注创新，提出强制披露共享等突破性制度安排。行政令通过援引《国防生产法》的授权性规范，要求“开发任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型的公司，在训练模型时就得通知联邦政府，并且必须分享安全测试结果和相关数据”。根据此前拜登政府简报披露，为了保证既有产业投入的稳定性，披露共享要求的效力不适用存量模型，只适用增量模型。同时，根据行政令精神及风险消除的逻辑来推测，增量模型范围应当包括存量模型的更新版本。此外，基于产业、风险及治理逻辑的冲突协调推测，最终的执法权衡点应当聚焦在“构成严重风险的基础模型”的范围之上。

三是关注方法，提出“标准+测试”、“工具+测试”等治理手段。行政令要求高级AI系统的开发者与美国政府必须共享所有红队安全测试的结果等关键信息，这一举措利用强披露制度倒逼企业提高防御能力。同时，行政令要求美国商务部制定内容认证和水印指南，明确标注AI生成内容，以提升公民防AI诈骗意识能力。此外，行政令利用“以技制技”手段，在“AI网络挑战”（AI Cyber Challenge）治理活动基础上建立网络安全计划，通过开发AI工具查找、修复关键软件中漏洞，以提升网络系统鲁棒性及抗风险能力。

四是关注影响，延伸美国在人工智能领域的全球领导力。行政令提出扩大多双边合作、开发国际标准等方式，强化人工智能领域国际合作，企图主导全球人工智能规则。同时，行政令要求通过建立研究试点、为中小企业提供援助、吸引人才等方式保持美国在人工智能创新和竞争方面的领先地位。

总体来看，行政令基于《人工智能权利法案蓝图》等美国政府现有的人工智能治理行动，展开了以促进安全发展为主线、以提升治理能力为补充的系统AI治理路径，广泛动员联邦层面的监管部门，通力协作提升AI治理监管能力。对此，我国积极关注国际AI治理动态，在提升保障我国治理能力、向国际社会传递我国AI标准的基础上，积极以“人工智能领域中与欧美各国的非竞争性风险”为基点展开治理共识推动，并期望以此为纽带缓和国际AI治理合作僵局。

（来源：信通院互联网法律研究中心）

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图 了解详情