邮发代号 2-786
征订热线：010-82341063
文 | 伏羲智库创始主任、清华大学互联网治理研究中心主任、中国科学院计算技术研究所研究员 李晓东；伏羲智库研究总监 杨晓波当前，互联网正在迈向新的发展阶段，各行业、各领域的数字化转型不断深入，网络生态也变得更加复杂。各种网络暴力信息在互联网上不断滋生和传播，借助新兴技术和服务演进、升级，对公民个人权益和社会公共利益造成损害。因此，进一步加强对这些网络暴力信息的治理，是实现建设数字中国和网络强国目标的必要举措。从全球范围来看，网络暴力信息的治理已成为各主要国家和地区政府共同关注并致力于解决的问题，有关国际组织以及数字平台企业也围绕这一议题开展了诸多工作。
近年来，中国持续加大网络暴力治理力度并加快推进有关立法进程。2024 年 8 月，国家网信办、公安部、文化和旅游部、广电总局四部门出台的《网络暴力信息治理规定》正式实施，这是中国首部专门规制网络暴力的部门规章。在该规定出台之前，我国已有多部法律为网络暴力治理提供依据，例如，《民法典》规定网络用户、网络服务提供者利用网络侵害他人民事权益的，应当承担侵权责任；《刑法》中规定了侮辱、诽谤罪；《网络安全法》《个人信息保护法》等规定任何组织和个人不得侵害他人名誉、隐私以及个人信息权益；《互联网信息服务管理办法》《网络信息内容生态治理规定》等规定不得侮辱、诽谤他人等。2022 年，中央网信办曾印发《关于切实加强网络暴力治理的通知》，针对网络暴力行为进行专项整治。此外，最高人民法院、最高人民检察院还于 2013 年发布《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》，明确规定利用信息网络实施诽谤、寻衅滋事等认定及处罚问题；2023 年，最高人民法院、最高人民检察院、公安部又联合印发《关于依法惩治网络暴力违法犯罪的指导意见》，结合司法实践对在信息网络上针对个人肆意发布谩骂侮辱、造谣诽谤、侵犯隐私等信息的网络暴力行为进行司法解释。美国对网络暴力的治理重点体现在保护未成年人免受网络欺凌、网络骚扰和隐私侵犯等网络暴力的伤害上。作为互联网的起源地，美国在网络内容治理方面起步较早，在 21 世纪初就出台了《儿童在线隐私保护法》《儿童互联网保护法》等法律，使儿童在线上免受隐私侵害等网络暴力行为的危害。2009 年，在被称为美国“网络暴力第一案”（发生于 2006 年）的梅根·梅尔案件的影响下，美国曾试图通过《梅根·梅尔网络暴力预防法案》，在联邦层面对网络暴力行为进行规制，但由于存在可能影响网络言论自由的争论，该法案未能通过。在各州层面，根据网络欺凌研究中心的数据统计，截至 2023 年，美国已有 48 个州的法律中包括了网络欺凌或网络骚扰的相关内容，其中 45 个州涵盖了刑事处罚条款。此外，美国政府还通过完善预防和举报制度应对网络暴力问题，例如通过美国联邦调查局下属的美国网络犯罪举报中心接受相关举报，以及在“停止霸凌”政府网站上设置“网络欺凌”专页进行宣介等。欧洲在网络暴力治理上注重保护儿童、妇女等弱势群体在网络空间的合法权益，并不断强化数字平台在治理仇恨言论等网络暴力信息方面的“守门人”作用。欧洲委员会在 2001 年推动多国签署了《网络犯罪公约》，该公约中包含涉及利用计算机系统传播、获取儿童色情内容的条款。2007 年，该委员会推动签署《保护儿童免受性剥削和性虐待的兰萨罗特公约》，并在后续通过了关于利用信息和通信技术开展针对儿童的性犯罪的解释性意见。2011 年，欧洲委员会推动签署《防止和反对针对妇女的暴力和家庭暴力公约》，公约解释报告中提出，针对女性的威胁行为包括在虚拟世界中反复跟踪且进行不受欢迎的交流等。在数字平台的义务方面，欧盟 2022 年通过的《数字服务法》中明确规定，超大型在线平台和超大型网络搜索引擎的提供者应采取措施降低风险，这些措施包括调整内容审核程序、决策程序以及专用资源等，对包括非法仇恨言论和网络暴力在内的内容进行处置。德国 2017 年通过的《网络执行法》中，也明确要求大型社交网络平台运营者承担对网络仇恨言论等相关信息内容的处置义务。此外，欧盟还积极促进区域内的行业自律，发布了《关于打击网上非法仇恨言论的行为守则》和《关于虚假信息的实践守则》等。联合国体系内多个机构持续关注网络欺凌、仇恨言论和暴力信息等问题，包括《儿童权利公约》及其《任择议定书》在内的多个国际文件为防止和应对欺凌问题提供了国际法框架，这些议题也在联合国互联网治理论坛（IGF）、信息社会世界峰会（WSIS）论坛等平台上得到广泛讨论。近年来，联合国加快推进制定国际数字规则，网络暴力相关内容也被纳入其中。2023 年 6 月，联合国秘书长在其发布的《数字平台信息完整性》政策简报中提出，数字平台面临虚假信息、错误信息和仇恨言论的威胁，亟需制定一套行为守则供成员国、数字平台和新闻媒体等遵守。2024 年 8 月，联合国网络犯罪问题特设委员会投票通过了《关于打击为犯罪目的使用信息和通信技术行为的全面国际公约》，并将在秋季提交联合国大会审议。如获通过，该公约将成为首个由所有联合国成员国通过协商一致达成的网络犯罪法律框架。该公约中涉及与预防和治理与网络暴力相关内容，如专门制定了“涉及网上儿童性虐待或儿童性剥削材料的犯罪”“未经同意传播私密图像”等条款，同时要求各缔约国“根据本国法律制定战略和政策，以预防和消除通过使用信息和通信技术系统发生的性别暴力”。9 月，联合国“未来峰会”通过了《全球数字契约》，其中特别指出要对妇女和儿童在网络空间进行保护和赋权，提出“必须紧急打击和应对一切形式的暴力（包括通过技术手段发生或加剧的性暴力和性别暴力）、一切形式的仇恨言论和歧视、错误信息和虚假信息、网络欺凌以及儿童性剥削和性虐待”。数字平台已成为提供商品销售、生活服务、社交娱乐、信息资讯、金融服务等日常功能的软性基础设施，人们日益依赖这些平台，并通过其不断生成和传播网络信息。数字平台的基础性和普遍性在某种程度上为网络暴力信息的滋生和蔓延提供了“土壤”，成为网络暴力信息流转的关键场所。其中，社交网络服务类平台为“重灾区”，因此，压实平台企业的责任也是各国普遍采取的措施。出于合规、营造良好平台生态以实现可持续发展等方面的考虑，数字平台企业正在不断加强机制建设、完善平台规则、改进技术措施，加大力度治理网络暴力。例如，境内社交媒体平台微博在《2024 微博网暴治理半年报》中统计，上半年针对辱骂攻击他人，批量造梗、恶意嘲讽，传播泄露他人隐私信息等六类违规行为进行处置，共发现并处置站内外网暴舆情 284 起，回查清理不友善信息 6 万余条，处置账号 3 千余个。境外社交媒体平台脸书制定并不断更新其社区规则，明确禁止仇恨言论、骚扰、欺凌、恐吓、诽谤、色情暴力等内容，建立用户举报和审核机制，并利用人工智能技术来识别和删除违反社区规则的帖子和账户。根据统计，2022 年第一季度，脸书利用人工智能技术对超过 900 万条内容进行审核，并删除了超过 67% 的欺凌内容。近年来，尽管陆续出台了网络暴力信息治理举措，但仍未能完全遏制该类信息在网络空间的蔓延。根据 2024 年中国《最高人民法院工作报告》的数据统计，2023 年人民法院针对网络暴力“按键伤人”“按键杀人”，审结网络诽谤公诉案件 32 件，判决有罪人数达 85 人，同比分别增长 10.3% 和 102.4%。《国家信息化报告（2023）》显示，公众对于“打击网络谣言”和“整治网络戾气”治理措施的感知方面，认为“成效非常显著”的占比分别为 45.3% 和 41%；此外，超过 60% 的受访者对个人隐私和数据安全问题表示非常或比较担忧。网络暴力形式多样，既涉及侮辱诽谤、侵犯隐私、造谣生事，也可能是煽动仇恨、指责嘲讽等。一方面危害普通网民的合法权益和身心健康；另一方面也污染了清朗的网络空间。总体来看，网络暴力信息屡禁不止的主要原因可以从以下几方面分析。
一是互联网本身的匿名性导致个人责任感缺失。早期曾流传一句话：“在互联网上，没人知道你是一只狗”，充分说明了互联网的这种特性。正如《乌合之众》中所言，“群体是个无名氏，因此也不必承担责任。这样一来，总是约束着个人的责任感便彻底消失了”，匿名或前台匿名的互联网就是如此。人性的缺陷在匿名性和群体性的“保护”下容易被放大，使其容易脱离现实社会中的法律和伦理约束，或持有某种侥幸心理。同时，匿名性也使得网络暴力事件中的取证和举证面临困难，并非每个受害者都有时间、精力或能力去追踪实施暴力行为人的真实身份。二是海量数据和用户对治理带来巨大挑战。根据中国互联网络信息中心发布的《第 54 次中国互联网络发展状况统计报告》，截至 2024 年 6 月，中国已有近 11 亿网民。数字平台的繁荣发展，使得如此大规模的网民时刻通过电脑或移动终端生成信息或与其他人交互。一方面，海量数据和互联网的匿名性往往使网络暴力信息的追踪溯源、管控以及被害者取证等变得困难；另一方面，网络暴力一般体现为群体行为，个人可能无形中参与了网络暴力行为，进行群体追责也不现实，如何追究法律责任也是一个问题。三是网络暴力信息背后可能涉及灰色产业链。获取经济利益或开展不正当竞争是部分网络暴力信息存在的关键原因。在流量为王的时代，制造争议性话题、挑起观点对立等是引发广泛关注和讨论的惯用伎俩，在此过程中极易引发对特定个体或群体的网络暴力行为。同时，部分机构或个人通过雇佣“网络水军”，对竞争对手进行有规模的造谣抹黑、侮辱诽谤、人肉搜索等行为，在社交媒体上屡见不鲜。四是数字文明时代相匹配的社会数字素养尚未形成。在互联网、人工智能等数字技术的驱动下，我们正加速进入到数字文明新时代。在此期间，新规则的建立是一个循序渐进的过程，个人和整个社会的数字素养水平也在不断培养和提升中。这种素养不足既体现在对网络暴力的认知上，也体现在遭遇网络暴力后的自我救济能力上。随着规模的扩大和数据的累积，互联网的核心需求从早期的数据交换、信息共享逐步演变为支撑经济社会发展的知识构建，推动互联网从数据互联网、信息互联网发展至价值互联网阶段。在此互联网新阶段背景下，对网络暴力信息的治理面临着新的挑战，可以从两个维度来看待。
一是从数据资源视角看，网络暴力信息会使数据受到“污染”，导致互联网应用和技术创新生成网络暴力内容的可能性升高。在价值互联网阶段，关键问题是如何在不可信的网络上交换可信数据以形成知识，这种知识一定是无害的、不侵犯他人利益的。所谓确保交换“可信数据”，是指既要保障数据的安全，防止数据侵权和数据泄露，也要保证数据的真实性，避免伪造数据、劣质数据或不实数据的传输，进而导致数据使用者难以依托互联网数据构建有价值的知识成果。网络暴力信息属于侵权数据、伪造数据或劣质数据的范畴，在这些数据基础上进行技术和应用创新将存在瑕疵和风险，因此，加强网络暴力信息治理是解决不可信网络上交换可信数据的重要一环。以人工智能技术发展为例，全球新一轮人工智能技术的突破与互联网海量数据的快速积累密不可分。公开资料显示，OpenAI 的 GPT-3 的原始训练数据集至少达到了 45TB，经过滤后约为 570GB，其中大量来自网络数据。如果数据本身存在网络暴力信息，则可能会影响大模型本身的公平公正和非歧视性等。因此，该阶段的挑战不仅在于控制网络暴力信息的生成传播并对相关行为人进行制裁，还需加强数据治理，以确保数据的高质量，为技术和应用创新提供优质数据。二是从技术创新视角看，新技术和新应用形态的产生都可能为网络暴力信息生成和传播提供新的能力或空间。例如，利用人工智能技术深度伪造其他人（特别是公众人物）的声音或视频，用于制造虚假或淫秽内容，将严重侵害这些人的名誉权、肖像权乃至财产权。生成式人工智能技术使得这些内容的生成变得更加简单。联合国秘书长在《数字平台信息完整性》政策简报中指出，生成式人工智能技术生成的内容“以假乱真”，提高了虚假信息、错误信息和仇恨言论传播的可能性。《关于依法惩治网络暴力违法犯罪的指导意见》明确规定，利用“深度合成”等生成式人工智能技术发布违法信息，实施网络暴力违法犯罪的，依法从重处罚。又如虚拟现实（VR）、增强现实（AR）技术和元宇宙等，可能为网络暴力信息提供新的形态或提供新的空间。美国信息技术与创新基金会的一项研究分析认为，VR/AR 技术的沉浸式体验及其与触觉技术的搭配使用，在多用户场景下可能存在煽动暴力或破坏行为、“身临其境”的性暴力、网络欺凌和虚拟骚扰等问题。特别是未成年人是该类技术应用的积极使用者，其危害和影响不可小觑。网络暴力治理面临的挑战在于，需要敏捷并及时地应对和处理新技术、新应用所引发的问题。《网络暴力信息治理规定》的正式施行，对进一步完善网络暴力治理法规体系具有标志性意义。该规定提出多项具体措施，强化数字平台主体责任，如在网络暴力信息的预防预警方面，要求网络信息服务提供商细化网络暴力信息分类标准规则、建立健全网络暴力信息预警模型和建立健全用户账号信用管理体系等，具有较强的可落地性。面向互联网新的发展阶段，应持续完善法律法规体系，优化升级传统治理措施，应用前沿技术赋能治理，运用数据思维开展治理，不断助力网络强国和数字中国建设。有关建议包括以下五点。
一是持续健全规制网络暴力法律规范体系。除了加强对网络暴力信息的监管外，还需不断完善法律规范体系，协调法律适用标准，并让公众强烈感知到实施和参与网络暴力行为应承担的法律责任。在法律层面，受害人可以侮辱诽谤、侵犯个人隐私和个人信息权益、寻衅滋事等名义，依据《民法典》《刑法》《网络安全法》《个人信息保护法》等寻求民事、行政或刑事上的法律救济。这些治理和救济措施具有分散性的特征，需要进一步有效协调衔接，对部分条款进一步修改或修正。此外，在强化网络暴力行为应承担法律责任的同时，也应避免对公民合法享有的言论表达自由造成损害。二是利用人工智能等前沿技术辅助治理。人工智能、大数据等前沿技术虽然可能使网络暴力信息形势更加严峻，但也能为我所用，在控制网络暴力中发挥关键作用。脸书等境外社交网站发布的有关数据证明了这一点。《网络暴力信息治理规定》中也提出，要“采用人工智能、大数据等技术手段与人工审核相结合的方式，加强对网络暴力信息的识别监测”。应鼓励国内数字平台积极应用相关技术开展治理，总结并推广优秀经验，制定行业标准和技术规范等。三是探索并应用数据层面的创新治理措施。数字平台在履行合规要求、完善平台规则和机制的基础上，还应积极探索并应用新的技术手段，努力将治理措施对平台生态造成的影响降至最低。互联网发展新阶段的基础技术攻关的核心，应围绕支撑数字经济发展所需的更高知识密度和更小治理粒度的可信数据展开。数据互操作技术为实现数据维度的网络暴力信息治理提供了可能，基于该技术的系统能够与数据治理规则相兼容，从数据流通的底层架构中为数据治理留出操作窗口。该技术的应用也将有利于网络暴力治理后的数据资源治理。四是加大数字文明时代的数字素养培育力度。应充分发挥广大院校、行业组织、公益组织和媒体机构的作用，进一步加强对网络暴力表现形式及其危害、面对网络暴力的自保措施等宣传，宣贯我国在网络暴力治理方面的政策法规，不断提升用户对网络暴力的认知、辨别和保护能力。同时，应鼓励用户参与网络暴力治理，自觉抵制网络暴力行为，积极投诉举报网络暴力信息，共同营造清朗的网络空间。五是支持开展网络暴力新形态和新形势研究。随着数字技术和应用创新层出不穷，网络空间的范围也在不断扩大，信息生产和传播方式持续变化。建议充分发挥互联网行业的资源优势，支持科研机构和智库针对网络暴力的新形态、新场所和新发展趋势进行深入研究，并提出针对性的应对策略和技术解决方案。（本文刊登于《中国信息安全》杂志2024年第9期）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664231353&idx=1&sn=29be6d70ef1519b972a46ee0d09e17da&chksm=8b59f340bc2e7a56dbd331e2aaeb57dd16c9b67ffcc7bf0c1d4a9910820d7adc4ebd2048aedf&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh