邮发代号 2-786
征订热线：010-82341063
今年是习近平总书记提出“努力把我国建设成为网络强国”战略目标10周年，也是中国全功能接入国际互联网30周年。经过长期不懈努力，中国制定出台网络领域立法150余部，网络法治体系从无到有、逐步健全，已经探索出一条既符合国际通行做法、又具有中国特色的依法治网之路。进入智能时代，世界所面临的网络环境，与30年前，甚至10年前的网络时代有所不同，我国正处于从网络大国迈向网络强国的关键时期。习近平总书记指出：“当前，新一轮科技革命和产业变革迅猛发展，人工智能等新技术方兴未艾，大幅提升了人类认识世界和改造世界的能力，同时也带来一系列难以预知的风险挑战。”党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》明确要求，“完善生成式人工智能发展和管理机制”“加强网络空间法治建设，健全网络生态治理长效机制”“加强网络安全体制建设，建立人工智能安全监管制度”，提出了加强人工智能法治的改革任务。如何治理人工智能，是世界各国共同面对的挑战和难题。目前，人工智能大模型爆发性增长，其风险已经溢出网络空间，直接威胁现实社会，欧盟、美国、中国等国均将人工智能立法提上议事日程。我国十三届、十四届全国人大常委会立法规划均将人工智能立法列入其中。国务院2023年、2024年也连续两年将人工智能法草案列入年度立法计划。纵观人类社会的发展历程，每一次重大技术革命，都会带来新的治理难题，给法律适用带来挑战，但也预示着国家治理的机遇和法治的进步。人工智能作为新一轮科技革命和产业变革的重要驱动力量，具有技术属性与社会属性高度融合的特点，人工智能大模型及生成式人工智能已经冲击现有的秩序规则，必然催生出既不同于传统法，又不同于网络法的人工智能法。
在人工智能治理方面，世界各国既有合作，也有竞争，既有共识，更有分歧，无论是理论研究，还是制度构建，都面临选择困惑。
一是关于以人为本、智能向善的宗旨。人工智能发展应坚持以人为本、智能向善的宗旨，这是国际社会的最大共识。于是，专家学者提出以人工智能的价值对齐解决智能向善的问题，希望人工智能向人类看齐，能够理解人类的思想和行为，并遵循人类基本的规范、伦理、道德和价值观形成认知逻辑。但是，在全球多元文化及价值体系差异的背景下，各国对世界观、生死观、善恶观、美丑观等认知不一，价值对齐的统一标准进程难以推进。而法治领域的价值观，如公平正义、人权保障、约束权力、良法善治等，在世界各国比较容易形成基本共识，所以，法治价值观可以成为人工智能价值对齐的优先领域，构成人工智能立法的基本原则。
二是关于法律治理的介入时机。纵观人类社会的发展历程，每一次重大技术革命，都会给国家治理带来新的挑战。人工智能立法面临的最大问题是，人工智能技术发展的全景尚未充分展现，未知远远大于已知，怎么在具体规则中体现人工智能的特质？因此，立法者对于人工智能技术的发展规律和治理规律需要一个认识过程。根据英国学者提出的“科林格里奇困境”，如果法律过早干预或者过晚规制人工智能，都不利于人类的福祉。所以，谨慎出台人工智能立法是可以理解的。但是，对于具有现实危险性的风险，应该制定法律及时规制。人工智能的研发和应用不得损害人的权利和尊严，是世界各国的最大共识，人工智能伦理和安全受到国际社会的普遍重视。中国先后发布《全球数据安全倡议》《全球人工智能治理倡议》等文件，为相关国际讨论和规则制定提供了有益借鉴。2023年，中国、美国、英国等28国及欧盟签署了首个全球性AI安全文件《布莱切利宣言》，呼吁各国充分认识人工智能风险监管的必要性和迫切性。因此，针对人工智能可能危害人类的现实风险，及时出台监管性立法是必要的，确保人工智能安全、可靠、可控是当务之急。
三是关于发展与安全的价值平衡。鼓励创新与监管风险是治理人工智能的基本原则。凡出台人工智能法案的立法者都声称体现了“发展和安全并重”原则，但是，每个国家出台的人工智能方案都有很大争议，各利益攸关方感受不一，特别是监管机构与技术企业对法案是否有利于创新发展往往意见对立。对欧盟人工智能法，包括空客和西门子在内的数十家欧洲大型企业曾采取集体行动，以“可能损害欧洲竞争力”等为由，公开反对欧盟通过《人工智能法案》。我认为，在数字技术发展过程中，不可能有绝对安全，只能保障相对安全。最好的立法政策是对数字技术的发展型保护，而不是禁止型保护。无安全不可能有发展，不发展是最大的不安全，这是国际社会的广泛共识。所以，平衡发展与安全的关系，应该强调发展是主线，安全是底线，明确发展的优先顺序，以发展保安全，以安全促发展，在创新中防范风险，在发展中治理乱象。我国对人工智能治理一贯坚持“发展和安全并重、促进创新和依法治理相结合”原则。习近平总书记指出：“我们应当把握数字化、网络化、智能化发展大势，把创新作为第一动力、把安全作为底线要求、把普惠作为价值追求，加快推动网络空间创新发展、安全发展、普惠发展，携手迈进更加美好的‘数字未来’。”2024年9月22日，联合国未来峰会正式通过了《全球数字契约》，强调发展优先、普惠包容、创新驱动、保护数字空间文化多样性，营造开放、公平、包容和非歧视的数字发展环境。“世界领先的追赶者”是我国人工智能技术与产业发展的独特地位。面对美西方在高科技领域的封锁与打压，要以促进发展为导向，加快构建促进发展的人工智能治理机制，增强我国在人工智能技术领域的战略平衡能力。所以，我国立法应将人工智能定位为新兴科技和新质生产力，可以优先出台《人工智能促进法》，鼓励创新、倡导发展、提供保障，充分尊重科技自主，关注科技伦理。可以引入“监管沙盒”机制，在风险可控的前提下，通过设立限制性条件和制定风险管控措施，允许创新产品技术服务或商业模式在真实市场环境中，以真实用户为对象进行深度测试。对人工智能研发、应用中的风险规制，应该秉持“谦抑、节制”理念，推行包容审慎监管，如采用容错性监管、帮扶性监管，慎用惩罚性监管，提高常态化监管水平，特别是增强监管的可预期性。对已经导致危害社会后果的情形，可辅以“制裁性”法律规范处罚。
四是关于规制人工智能的立法模式。人工智能立法属于新生事物，各国均处于探索阶段。人工智能法律是全方位介入人工智能领域，还是分领域、分阶段选择性介入，各国基于本国的具体国情、发展实际和价值取向，选择了不同的立法路径。欧盟采用统一性专门法，出台的《人工智能法》具有法典编纂性质，期望“一揽子解决”问题。美国则推动地方立法，通过各州自治的方式防范人工智能风险。今年，美国《犹他州人工智能政策法》、科罗拉多州《人工智能消费者保护法》生效。中国采用“小切口”的暂行法，开展试验性监管，如《生成式人工智能服务管理暂行办法》。应该讲这几种立法模式各有利弊。欧盟的人工智能法全面监管人工智能技术的研发和应用，统一了治理规则和监管标准，是一个有益的尝试，但也存在一些争议。欧盟包括27个国家，各国人工智能发展状况不平衡，统一适用人工智能专门法可能阻碍一些国家的人工智能发展。所以，欧盟的做法不具有普适性，很难借鉴。目前，除欧盟以外，世界上尚无任何主要国家准备效仿欧盟制定统一的人工智能法。美国各州立法有利于地方自治，并为联邦立法积累经验，但各州的监管框架不和谐，导致人工智能治理的“碎片化”。美国已有20多个州提出人工智能领域的法案，各州在立法内容方面差异巨大，使美国的人工智能监管复杂化，也提高了数字企业的合规成本。中国“小切口”暂行法有利于促进技术创新、及时防范风险，便于探索立法经验，但仅针对具体问题立法，缺乏系统性和稳定性，容易出现定位偏差，可能导致“头痛医头、脚痛医脚”现象。
迄今为止，我们关于人工智能的所有解释和理论都是过渡性的，仍需不断接受实践的检验。人工智能立法也需要一个认识逐步深化的过程，需要树立长期治理的思维，不宜急功近利、毕其功于一役，更不能采用激进的方式解决。我个人认为，我国对人工智能技术的法律规制可以采取“双管齐下”的方式：一方面，先出台一个“总则式”“框架性”法律，如《人工智能促进法》，为人工智能技术创新和产业发展保驾护航。“框架法”应坚持发展主线，坚守安全底线，明确人工智能治理的基本原则、鼓励创新发展的基本制度、监管风险的基本要求，既要为人工智能的发展提供保障，又要破解人工智能治理的紧迫问题。另一方面，继续采用“小切口”“拼图式”立法，可以选择人工智能的细分领域、若干环节进行试验性监管，待经过实践检验证明行之有效后，再适时出台统一规范的“人工智能综合法”。为适应科技发展的特性，我国的科技立法一般采用“小快灵”模式，“小”即调整对象精准，“快”即针对突出问题及时立法，“灵”就是增强立法的针对性、实效性。暂行法体现“小快灵”模式的优势，坚持“急用先行”原则，面对当下的突出问题，便于通过短期政策填补制度空白。如果暂行法不符合实践需求，也容易快速纠偏、及时完善。当然，暂行法也需要立法机关统筹协调各项立法活动，保证人工智能法治体系逐步建立健全。
（来源：人民法院报）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664231353&idx=3&sn=abc269b84b1b15dc23779673bfcc534b&chksm=8b59f340bc2e7a56aa8adbed0e3908253f04aec52ab38775a4f75b479c503ce743689bd232cb&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh