7月4日，2024世界人工智能大会（WAIC 2024）在上海拉开帷幕。本次大会以“以共商促共享，以善治促善智”为主题，汇聚了来自世界各地的政府代表、行业精英和学术界领袖，深刻探讨了人工智能安全治理的现状与未来。

2024世界人工智能大会展览会场

本刊 桂畅旎 摄（下同）

人工智能安全治理已成为全球“优先事项”

无论是AI Safety还是AI Security，都成为本次大会的高频词汇。大会期间举办了10余场人工智能安全治理相关主题的论坛，吸引了包括多位图灵奖得主在内的学术大咖以及行业一线研究者参与。

对话中，专家们深入探讨了人工智能的模型安全、算法偏见、可解释性与透明性等自身安全问题，以及人工智能快速发展和广泛部署带来的应用安全问题，特别是数据安全、隐私保护以及伦理与社会影响的紧迫性。

清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜总结了当前人工智能存在的一些突出风险，在此背景下，与会专家普遍意识到，人工智能安全治理已经成为世界各国共同面临的重大课题，亟需通过对话与合作凝聚共识，管控风险，推动人工智能朝着科技向善的方向发展。

薛澜院长在“前沿人工智能安全和治理论坛”发表演讲

统筹发展与安全下的人工智能安全治理路径

如何平衡人工智能的发展与安全，既充分发挥人工智能的赋能作用，同时又能确保人工智能发展过程中的安全性、可靠性、可控性和公平性是与会专家讨论的焦点。

图灵奖得主、中国科学院院士姚期智认为，当前人工智能安全治理的研究大多都十分零碎，比较像40年前网络安全问题刚出现时的情况。他呼吁针对超大型大模型的治理尽快研发规范。上海人工智能实验室主任、首席科学家周伯文提出探索“人工智能45°平衡律”，呼吁推动安全与性能平衡发展，实现强技术驱动、全流程优化、多主体参与以及敏捷治理。

周伯文主任在“前沿人工智能安全和治理论坛”发表演讲

推动人工智能协同共治成为共识

与往届不同，本次大会也是人工智能全球治理高级别会议，在“以共商促共享，以善治促善智”的主题下，与会专家普遍呼吁加强国际合作，推动人工智能安全治理的协同共治。

中国科学院自动化研究所人工智能伦理与治理中心主任曾毅表示，目前，人工智能治理在全球形成一些“小圈子”，给治理造成不利影响。他表示，不同国家在人工智能发展水平上的差异，使得他们的立场和关注点并不一致。发达国家更倾向于向发展中国家推广技术，但在此过程中，他们似乎并不关心对方真正需要的是什么。曾毅认为，人工智能治理更应该追求公平公正的格局，而不仅仅是出于利益导向，并建议在人工智能治理中形成一个“机制复合体”，政产学研，包括媒体和公众，都应该承担相应的义务。姚期智院士也表示，人工智能安全治理中需要科学家、政府官员、法律界专家、经济学家等广泛参与。

“前沿人工智能安全和治理论坛”圆桌讨论

产业探索人工智能安全实践

此外，本次大会的展览规模、参展企业数、亮点展品数、首发新品数均达历史最高，集中展示一批“人工智能+”创新应用最新成果，同时也有大量聚焦人工智能安全的产品和案例展示。例如，华为展厅展示了其最新发布的盘古安全大模型，聚焦安全四大场景，训练出围绕攻击识别、攻击研判、攻击处置、攻击溯源的安全场景大模型，并可广泛应用于各个行业和领域，提供智能化的安全解决方案。

可以看出，产业界在探索人工智能安全实践方面已经积累了相当的经验，这些实践旨在解决人工智能系统中的安全漏洞，保护数据隐私，防止算法偏见，促进技术的可持续发展。

世界人工智能大会展厅现场

中国向全球展示了人工智能安全治理的大国担当

7月4日，国务院总理李强在大会开幕式致辞中表示，中国始终积极拥抱智能变革，大力推进人工智能创新发展，高度重视人工智能安全治理，实施了一系列务实举措，发布了《全球人工智能治理倡议》，向第78届联合国大会提出了加强人工智能能力建设国际合作决议并获得一致通过，为全球人工智能发展和治理作出积极探索，贡献了建设性思路和方案。大会同步发布了《人工智能全球治理上海宣言》，聚焦人工智能发展与安全，呼吁建立全球范围内的人工智能治理机制，支持联合国发挥主渠道作用，欢迎加强南北合作和南南合作，提升发展中国家的代表性和发言权。这份宣言得到了与会者的广泛响应和支持，普遍希望各国加强合作共同推动人工智能安全治理迈入新阶段。

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”