邮发代号 2-786
征订热线：010-82341063
![]()
随着人工智能（AI）技术的发展和应用，全球人工智能治理成为一个紧迫且复杂的问题。当前，全球人工智能治理正面临前所未有的挑战，技术发展的速度远远超过了治理机制的建立和完善。全球人工智能治理呈现出发展不均衡的特点，发达国家和发展中国家在人工智能技术和治理能力上存在显著差距。因为不同国家的利益、文化和法律体系存在差异，导致人工智能治理国际合作面临诸多挑战。如何建立有效的国际合作机制是全球人工智能治理成功的关键，需要国际社会的共同努力和持续关注。通过分析联合国框架下人工智能治理的现状、挑战和未来展望，可以揭示全球人工智能治理的复杂性和紧迫性，并为提出解决方案和建议提供参考。联合国在全球人工智能治理中发挥了重要的作用，通过加强国际合作、推动包容性发展、建立有效的治理机制、协调解决互操作性问题，以及促进技术创新与社会责任的平衡，以期待促进更加公正、安全和可持续的人工智能发展。
根据经济合作与发展组织（OECD）2019 年发布的《关于人工智能的建议》（The Recommendation on Artificial Intelligence），人工智能被定义为一种通用技术，有潜力改善人们的福利和福祉，也给社会和经济带来了挑战；而人工智能系统是一种基于计算机的系统，可以针对一组给定的人类定义的目标，做出影响真实或虚拟环境的预测、建议或决策。人工智能全球治理是指塑造全球人工智能的开发和使用的机构、政策、规范、程序和措施的总和，通过这些机构、政策、规范、程序和举措为全球人工智能的开发和使用带来更多的可预测性、稳定性和秩序。人工智能的治理涉及在非领土空间进行的复杂行动，涉及不同的参与者以及文化、政治、经济和社会差异。联合国作为处理全球社会经济问题的主要政治机构，原则上在人工智能全球治理方面具有独特优势。尽管各国普遍支持联合国在全球人工智能治理中的核心地位，但是对于联合国应该如何改革，也存在不同观点间。虽然联合国已经提出了一系列治理框架和建议，但是这些机制的实施和效果仍需时间验证。联合国框架下已经开展的一系列针对人工智能治理的行动和倡议包括：联合国教育、科学及文化组织（UNESCO）通过的《人工智能伦理问题建议书》（Recommendation on the Ethics of Artificial Intelligence）和人工智能《准备情况评估方法》（Readiness Assessment Methodology），国际电信联盟（ITU）推出的“人工智能向善”（AI for Good）平台，以及联合国互联网治理论坛（IGF）组织的全球多利益相关方人工智能政策网络（PNAI）。
在此基础上，联合国大会和联合国秘书长提出了更加系统的全球人工智能治理方案。这一方案在《我们的共同议程》（Our Common Agenda）和联合国大会关于人工智能的决议中得到体现。该方案包含《全球数字契约》（Global Digital Compact）和由多方利益相关方组成的人工智能高级别咨询机构。2020 年，联合国大会第三次全体会议通过了一项宣言并承诺将加强数字合作。随后，联合国秘书长在 2020 年和 2021 年分别发布了《数字合作路线图》和《我们的共同议程》报告，提出了数字治理领域向多边主义去中心化的重要转变，同时，通过关键步骤加强全球数字合作，包括 2019 年发布数字合作高级别小组报告，2020 年发布数字化合作路线图，2021 年发布《我们的共同议程》报告提出未来峰会和全球数字契约，2023 年 5 月发布《我们的共同议程政策简报５：全球数字契约》，开展 2023 年 9 月全球数字契约多边谈判，以及将要召开未来峰会以期达成《未来契约》（Pact for the Future）等。这些机制共同强调联合国在全球人工智能治理中的中心角色，以及以人为本的治理理念，确保基本人权、自由得到保护，并遵循国际法。这些治理机制还强调数据保护和赋权的重要性，以及采用敏捷、多学科和去中心化的多边主义治理方法。这意味着治理过程将涉及成员国之间的谈判和多利益攸关方的咨询，同时建立国际指导和规范、国家监管框架、技术标准之间的协调和互操作性。这些机制还旨在促进文化、语言和数据的多样性，以及加强南北合作的能力建设和利益共享。《我们的共同议程》的核心在于构建一个更加强大、网络化和包容的多边体系，强调国家间以及社会各界的合作与团结。该议程计划在 2024 年 9 月的联合国未来峰会上通过涉及所有利益相关方的《全球数字契约》。《我们的共同议程》旨在建立一个克服数字、数据和创新鸿沟的包容性全球框架，其中，包括促进人工智能规制的措施，确保其符合全球共同价值观。2022 年 10 月 27 日，联合国大会主席任命卢旺达和瑞典为共同协调人，领导全球数字契约的多方咨询和政府间进程。2023 年发布的《我们的共同议程政策简报５：全球数字契约》提出了构建共同的人工智能框架，包括人工智能的设计和使用需要透明、可靠、安全且可控，人工智能治理的核心包括透明度、公平性和问责制，并且结合国际指导和规范、国家监管框架、技术标准、人类价值观和社会目标。同时，需要建立一个高级别的咨询机构考虑新出现的区域、国家和行业人工智能治理情况，并使监管标准与普遍人权和法治框架相一致；制定基于部门的指导方针，与行业协会就人工智能衍生工具的设计、实施和审计的指导意见达成一致，教科文组织和世卫组织等联合国相关实体提供支持；建设公共部门的监管能力，包括建立司法能力，确保人工智能法规和公共采购，促进包容、安全，解决产生的风险。《我们的共同议程政策简报５：全球数字契约》还提出了全球人工智能治理的四个方向和三个目标，以及相关的行动方案。四个方向包括：超越自我监管，建立多层次治理框架；建立有效和一致的跨国原则；合作促进人工智能技术发展；激励投资解决全球挑战。三个目标包括：一是以人为本的人工智能治理。评估和调整人工智能应用需要进行全球性的跨学科对话，需要利益相关者共同努力，确保符合普世人权和价值观；需要吸引全球人才，让公共管理部门、中小企业和社区参与制定本地相关的应用程序。二是数据保护和赋权。数据治理旨在确保数据的安全和合法使用，促进公民权利的保护和全球数据流动的安全，建立一个更加公正和包容的数据环境。这包括赋予个人对其数据的控制权，例如，选择同意数据使用和选择退出数字平台的权利；制定数据质量、测量和使用标准，推动可持续的数据流动和全球经济的发展；倡导制定体现透明度和数据权利的宣言，确保数据驱动决策的合理性和互操作性，并防止数据操纵和歧视。三是人工智能的敏捷治理。将透明度、公平和问责制作为人工智能治理的核心。政府有识别和解决人工智能系统可能带来风险的责任，开发人工智能系统的研究人员和公司有监测、透明地沟通和解决此类风险的责任；将国际指引和规范、国家监管框架和技术标准结合到人工智能敏捷治理框架中，并交流跨境、跨行业和跨部门的经验教训和新兴的最佳实践；监管机构协调数字、竞争、税收、消费者保护、网络安全和数据保护政策以及劳工权利，确保新兴数字技术与人类价值观保持一致。2023 年，卢旺达和瑞典的共同协调人完成了《全球数字契约》的多利益相关方公开咨询。《全球数字契约》旨在建立一个开放、自由和安全的全球数字共同原则，并且在联合国秘书长秘书处新成立技术特使办公室（OEST），就技术的主要趋势向联合国高级领导层提供咨询，指导联合国在此类问题上采取战略，充当数字合作的倡导者和联络点。技术特使办公室统筹《全球数字契约》以及人工智能高级别咨询机构进程。2024 年 4 月发布的“全球数字契约零案文”（Global Digital Compact:zero draft）重申了以人为本的人工智能治理原则，敏捷、多学科和网络化的多利益相关方治理路径，协调统一规范、安全标准、风险管理和互操作性，促进文化和语言的多元，以及能力建设和利益共享。此外，该版本也提出了具体的实施机制，包括成立人工智能国际科学小组，进行独立的多学科科学风险和循证机会评估；要求联合国大会就人工智能治理问题发起年度全球对话并制定对话模式；设立全球人工智能和新兴技术促进可持续发展基金，用于开发具有代表性和质量标准的数据集，支持大规模的人工智能公共使用，发展将现有的人工智能模型应用于本地化的数据集，以及与科技公司、技术和学术界合作，提供基于技能的培训等。各成员国从 5 月开始就“全球数字契约零案文”进行政府间磋商。如果政府间达成一致，该契约将成为 9 月举办的未来峰会的主要成果之一，并将作为《未来契约》的附件。2024 年 3 月 21 日，联合国大会通过了一项具有里程碑意义名为《抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展》（Seizing the Opportunities of Safe, Secure, and Trustworthy Artificial Intelligence Systems for Sustainable Development）的决议。这是该机构首次以多边框架形式敦促多利益相关方制定和支持监管和治理安全人工智能系统的决议。这项决议标志着全球人工智能治理达成了最新的共识。该决议虽不具有强制性，但其影响力和指导意义不容忽视。这项决议的核心在于推动所有联合国会员国共同致力于制定和支持一套旨在确保非军事领域人工智能系统安全、可靠且值得信赖的监管和治理框架。这些原则特别强调了人工智能的开发和应用应当服务于集体利益，同时保障人权，确保技术的安全性和可靠性。决议的通过体现了对人工智能治理动态发展的认同，并呼吁对治理方法进行持续审议，并强调创新与监管之间的共生关系。治理措施需建立在国际法基础之上，具备互操作性、灵活性、适应性和包容性，满足不同国家的需求和能力，确保全球范围的公平受益。决议的主要内容包括七个方面：一是强调在人工智能系统的整个生命周期尊重基本人权、自由及遵守国际法。二是鼓励会员国根据国家政策、优先事项和国际义务制定和执行相应的国内监管和治理措施。三是致力于缩小发达国家与发展中国家之间在条件、可能性和能力方面的数字鸿沟。四是突出在全球范围就安全、可靠和值得信赖的人工智能系统达成共识的紧迫性。五是认识到数据是人工智能系统开发和运行的基础，推动数字公共产品的使用，以及数据管理方面的国际合作和协作。六是促进负责任的人工智能实践，将决议作为指导负责任的人工智能实践的关键指南。七是强调可持续发展的重要性，平衡和统筹兼顾经济、社会和环境三个方面，实现全面可持续发展。此次决议的通过也是南北国家在人工智能治理领域合作的重要成果。在此之前，国际人工智能倡议多由发达国家主导。这次决议由美国提出，并得到了中国和其他 122 个国家的共同提案。发展中国家在文本中加入了关于人工智能对就业的影响和公平获取新兴人工智能技术所需的基础设施如电力和宽带互联网等内容。为了加强全球人工智能治理的协调和效力，联合国秘书长在 2023 年发起并成立了一个多利益相关方参与的人工智能高级别咨询机构。该机构的成立旨在帮助协调现有和新的人工智能治理倡议。机构的主要任务之一是在 2023 年底前发布一系列初步建议，并在 2024 年的未来峰会上提出最终建议。在 2023 年 12 月发布的中期报告中，该机构强调建立一个全球治理框架的重要性，并指出这一框架可以由单一机构或多个机构组成的网络实施。该机构或网络应具备七层治理功能（见图 1）。![]()
图2 不同人工智能治理工作之间互操作性的三重简化模式该机构提出的全球人工智能治理原则与“全球数字契约零案文”和《我们的共同议程政策简报５：全球数字契约》中提出的原则相似，强调包容性、公共利益、数据治理的核心地位、普遍性和网络化多利益相关方的参与，以及基于《联合国宪章》、国际人权法和可持续发展目标的原则。中期报告还特别提出了简化不同人工智能治理工作之间互操作性的模式（见图 2），并计划进一步发展这一模式。这一点尤其重要，因为目前国家和跨国风险管理框架之间缺乏统一的标准和基准，导致人工智能治理的复杂性。目前，该机构正在全球征集多利益相关方对一些关键问题的反馈，以便支持其下一阶段的工作。这些问题主要集中在人工智能带来的机遇和挑战、风险管理以及国际治理的有效实施，并着重实现中期报告中确定的原则和目标所需的具体标准、要求和机制。人工智能高级别咨询机构的联席主席卡梅·阿蒂加斯（Carme Artigas）在 2024 年 2 月 13 日迪拜举行的世界政府峰会上强调，鉴于联合国的合法性和信任度，人工智能高级别咨询机构提出的人工智能规则建议应具有一定的约束力，确保其建议具有实际影响力。公开咨询预计将收到来自不同国家、区域和全球的广泛意见和建议。例如，IGF 的PNAI 对中期报告提出了反馈和实施机制的建议。这些建议强调解决数据多样性和偏见、推进数字公共基础设施、缓解算法能力不平衡、平衡创新与责任、人工智能监管制度的互操作性、包容性和反思性治理方法等问题的重要性，同时也指出了全球治理原则和职能需要更具体的指导，进而实现有效实施。再如，英国皇家学会（Royal Society）提出了改进建议，强调应建立一个讨论平台为各种观点提供发声机会，并鼓励联合国在组织未来的全球人工智能安全峰会和协调联合国成员国在其管辖范围内执行基本最低标准方面发挥作用。联合国提出的多边主义去中心化是对现有全球治理机制的一次重要改革。这一转变旨在解决全球治理中存在的规范和绩效合法性问题，通过赋予新兴主体和多边主义框架更大的作用，弥补传统治理结构的不足。学者阿米塔布·阿查里亚（Amitav Acharya）和丹·普莱施（Dan Plesch）认为，这一转变不必以牺牲联合国的权威为代价，而应被视为一种正和游戏，为全球人工智能治理开辟新的空间。在全球化的背景下，新兴大国在国际舞台上的作用日益重要。在全球治理体系面临权力转移和跨国危机的关键时刻，这些国家应发挥领导作用，与其他国家和地区合作，共同推动全球人工智能治理的进步。然而，多边主义去中心化和碎片化也可能带来新的挑战，如增加交易成本、削弱现有治理机构的有效性，以及巩固强大国家和非国家主体的全球统治地位。
在全球人工智能治理中，非国家主体如非政府组织和私人企业也扮演重要角色。然而，这些主体在弱国和发展中国家的影响力和资金支持不足。这导致全球治理的不平衡和鸿沟，特别是在参与标准设定过程中，例如由于工作的无偿性以及参与讨论需要高水平的专业知识，参与标准设定过程的非政府组织很少来自发展中国家。为了解决这一问题，联合国框架下的全球人工智能治理强调区域平等参与和促进边缘化群体、社区和个人参与的意义。这种多边主义的进一步权力下放和碎片化是否加剧了其内部不平衡的权力结构和代表性，或者，是否提供了新的机会增强边缘化和不同群体的声音和能力，以便建立更公正和有效的全球治理秩序，有待观察。人工智能技术的发展呈现不平衡性，包括人工智能基础模型、芯片，训练数据集的集中，少数国家垄断技术和人才，而公共资金特别是全球公共资金的缺乏，限制了多利益相关方参与国际政策和标准讨论和合作。联合国秘书长技术特使阿曼迪普·吉尔（Amandeep Gill）在 2024 年 2 月 13 日迪拜举行的世界政府峰会上指出，当前人工智能系统的发展依赖大量来自北美的英语数据，而这忽视了语言和文化多样性的需求。联合国仍然是唯一为南半球国家创造参与机会的多边全球体系。全球南方的许多国家之前并没有参与全球人工智能治理生态系统。为了确保人工智能全球治理过程中的文化多样性和公平受益，联合国应继续为南半球国家创造参与机会，并提供能力建设及技术和财政支持。例如，鼓励公共和私人投资治理基础设施，通过全球人工智能和新兴技术促进建立可持续发展基金和提供基于技能的培训。人工智能人才培养有赖于联合国各级机构，例如，南北和南南国家间的发展合作、技术和资金援助和学术伙伴关系的协同，支持和加强互联网治理论坛进程及其区域和全球多方利益相关方倡议，为开放、透明、包容和跨境的人工智能治理共识和能力建设创造空间。这尤其包括政策倡导技能，从而使利益相关者能够参与与人工智能治理相关的政策讨论并影响决策过程。同时，要推进联合国全球数字公共基础设施（DPI）进程，支持到 2030 年为 100 个国家建设安全、包容的数字公共基础设施。因此，需要解决人工智能技术使用的数据的代表性和多样性的问题，可以鼓励和支持收集、使用多样化和代表性的数据集等措施，反映全球不同文化和群体的特点。全球人工智能治理需要在防范不利因素和保护创新空间之间取得平衡。例如，建立人工智能开发者对疏忽造成损害的归责法律框架，以及为人工智能开发者、部署者和用户建立红线标准和评估机制，实施受污染大型模型的全球召回机制；人工智能系统的部署应以成完成经过验证的伦理和社会影响评估为条件，并关注系统的基础训练数据，这是确保人工智能安全和可靠的重要措施。联合国的人工智能治理机制虽然不具有约束力，但其有效性仍然是全球人工智能治理的关键。核安全和管理组织国际原子能机构（IAEA）经常被认为是人工智能安全监管的一种可能模式，但是建立像这样有约束力的机构需要很长时间而且涉及国际条约等问题。然而，制定关于人工智能的国际公约非常困难，因为这是一个发展快速的领域。实际上，建立一个由政府、学术界、技术社区、私营部门和民间社会代表组成的包容性的国际人工智能治理机构，制定全球标准监督人工智能治理，是一种可行的模式。全球人工智能治理综合体是一种敏捷和网络化的方式，由多个机构执行，联合国在其中发挥重要作用。它可以成立一个人工智能国际科学小组进行独立的多学科科学风险和机会评估；召集广泛的国家和集团，阐明和制定人工智能治理的愿景、纲领、政策，组织未来全球人工智能治理年度对话和全球人工智能安全峰会；协调成员国在其管辖范围执行最低标准方面发挥作用等。此外，必须加强联合国系统职权范围与人工智能重叠的机构，例如OSET、UNESCO、ITU 和 IGF 等通过适当的机构间机制就职权范围达成一致。明确机构职责和加强沟通渠道将有助于确定哪些机构应解决和监督人工智能发展引发的问题，并加强协作、协调和包容，为全球和成员国人工智能战略提供建议、指引、协调和能力建设的支持。当前，联合国框架下的全球人工智能治理已经就一些原则达成共识。未来，全球人工智能治理工作重点将从制定原则走向制定具体的通用指引、规范和实施机制。
在这个过程中，互操作性的设计或许可以成为解决不同人工智能治理路径差异、推动国际共识的方法。通过这种方式，全球人工智能治理将逐步实现更加统一协调发展。国际资助计划也应重点关注如何建立人工智能治理的互操作性。PNAI 对人工智能治理的互操作性提出了七点建议：一是准确定义并商定需要在全球层面解决的问题；二是建立以人工智能治理互操作性为重点的国际资助计划；三是加强立法合作，尽可能避免因区域要求不同而产生不必要的成本和碎片化，例如可以分析以人权为基础的人工智能治理模式和以“兼顾发展安全”为基础的人工智能治理，以及存在的本质性的差异冲突；四是促进区域性多利益相关方治理行动并将其在全球相互联系，根据不同的成熟度和公共政策需求，允许不同的合作速度；五是缩小地区差距，鼓励全面的政治、科学和产业交流与合作；六是监测和评估在国家、区域和全球层面制定的政策目标方面取得的进展，促进互操作性；七是维护和加强互联网治理论坛进程及其区域和全球多利益相关方倡议，培育开放、透明、包容、跨国界的人工智能治理共识和能力建设空间。如果联合国能够在 2024 年 9 月未来峰会达成《未来契约》和关于人工智能的决议，那么这些文件将成为全球人工智能实践和治理的重要指南。这些成果不仅是联合国人工智能治理的新起点，也可能为全球人工智能实践和治理的未来提供方向和框架。（本文刊登于《中国信息安全》杂志2024年第4期）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664217166&idx=1&sn=a981a2cdd0dc04ca08d51b2b8fe237fb&chksm=8b59b8b7bc2e31a1f743fce0ce5f496a07cad1c16b19abc0bf0425ff425821a361bf0a3d9be0&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh