邮发代号 2-786
征订热线：010-82341063
从传统法律概念上讲，网络暴力并非一个法律术语，而是伴随着社交媒体的兴起而产生的一种网络传播现象。网络暴力的本质特征在于其违法性，不仅侵犯了不特定个体的合法权益，还损害到网络传播秩序和公共利益。为此，最高人民法院、最高人民检察院和公安部专门出台了相关司法解释，对其进行最为严格的治理；同时，网信管理部门近年来也陆续出台了相关治理措施。在实践中，网络暴力治理遵循特定的法律逻辑，并随着网络技术和应用的发展而逐步演进。本文将根据网络暴力治理的逻辑关系，探讨更具针对性的治理建议。我国尚未在法律层面出台“反网络暴力法”，从民事、行政和刑事现行规定看，网络暴力治理分成不同的体系，其中大部分规定着重强调的是责任承担的划分，缺少对技术因素的充分考虑。同时，网络暴力治理规定中对技术的影响尚未得到应有的彰显，导致治理更偏向于事后追责，忽略了更为重要的事先预防。
在法律适用领域，涉及网络暴力的相关法律法规主要包括三大体系。首先，以《民法典》及其司法解释为代表的民事法律体系，主要从权利人人格权保护、禁令制度、侵权责任和维权诉讼程序角度适用。民事法律体系是保障网民权利的基础，既是网民进行非诉维权和诉讼维权的民事法律请求权基础，也是依法提起人格权禁令以保护自身合法权益的基础。其次，以《刑法》及其司法解释构建的刑事法律体系，网络暴力行为主要涉及以下几个罪名。第一，诽谤侮辱罪名。该类罪名一般以自诉为原则，公诉为例外。但两高一部的司法解释对网络暴力涉及公共利益和严重危害社会秩序做出了更为明确的规定，使得涉及网络暴力行为公诉的可能性相较之前大幅增加。第二，侵犯公民个人信息相关罪名。该罪名不仅涉及侵害个人信息犯罪，还可能会涉及非法经营和拒不履行信息网络安全管理义务等其他罪名。第三，寻衅滋事罪名。该罪名未直接出现在两高一部的专项司法解释中，但在之前诽谤罪的司法解释中已有明确规定，对于明知虚假信息仍继续传播的行为人，情节严重的可以适用该罪名。值得注意的是，两高一部的司法解释增加了“非法利用信息网络罪”，该罪名与寻衅滋事和非法经营行为较为接近，更侧重于那些借机蹭炒热点的非法营销行为。第四，拒不履行信息网络安全管理义务罪。该罪名适用犯罪主体是网络信息服务提供者，适用前提是拒不履行法定职责而导致损害结果的扩大。该罪名属于网络主体责任在刑事法律体系中的延伸，也是网络安全法律体系在网络暴力责任认定中的体现。最后，以网络安全法律体系为代表的行政责任法律体系，主要包括中央网信办、公安部、工信部、广电总局和文旅部出台的相关网络信息安全专项规定。其中，2024 年 8 月 1 日实施的《网络暴力信息治理规定》是最典型的专项立法，该规定主要从信息治理、涉案账号处置和平台责任承担等角度做出规定。该规定的法律责任承担属于转致性规定，责任承担落脚点在《网络安全法》《个人信息保护法》等其他法律规定上。从民事、行政和刑事法律体系来看，涉及规制网络暴力信息、行为和责任的法律、法规数量众多，虽然相互交织，表面上看似已经做到了面面俱到，但实质性问题仍未得到解决。首先，现行具有强制力的立法往往偏向于事后责任追责，缺乏未雨绸缪的预防力。这三种责任的承担前提都是在网络暴力结果发生之后。然而，网络暴力与其他违法违规行为不同，一旦发生，损害结果很难通过事后责任追偿进行弥补。其次，具有预防效果的人格权禁令适用非常困难。《民法典》第 997 条首次规定人格权禁令，并在两高一部的司法解释中再次引用重申。然而，在实践中，人格权禁令实施成功的案例非常少。即便可以成功获得禁令，往往也是在网络暴力结果出现之后，或者在诉前和诉中之时，此时的效果仅在于避免损害结果的扩大，对尚未发生的预警效果并不理想。最后，网络暴力治理是一个综合体系，需要包括平台、网民、司法机关、行业协会和相关机关的全面参与。目前，在尚未出台统一“反网络暴力法”的情况下，各个立法机构根据各自的职能范围进行立法，缺乏统一协调，导致法律适用上存在大量交叉，进而造成责任混同和权能重复的问题。技术法治化和法治技术化构成了网络时代法治革新的双重维度，是推动法治与时俱进的必由之路。技术法治化聚焦于新技术出现对传统立法、司法及执法框架的冲击与重塑，而新的法治目的则在于将技术规则转化成法治手段，这被形象地比喻为“数字即法律”。反过来，有了新的立法后，在平台、网民等落实过程中，需要以技术的方式执行立法目的，只有将技术与法治充分结合，才能避免法治被技术架空，这就是所谓的“法律即数字”。网络暴力的治理过程可划分为两个阶段，其起点便是技术法治化的深入实施。此阶段聚焦于针对滥用网络传播、数字技术、算法推荐等侵害他人权益的行为，进行专门立法。随着新立法的确立，治理进程迈入第二阶段，即执法和司法层面的严格执行。在这一阶段，所有相关主体，包括网络平台在内，在执行新法的过程中，需要将立法目的与技术相结合，在算法、数据等技术角度，增加人工智能审核和预警监管审核制度，以避免立法目的被技术“隔离”。从技术层面分析，至少在以下几个部分会对网络暴力信息和行为的产生决定性影响。
在当今数字化时代，热搜、热榜及热词几乎无一不伴随着或多或少的网络暴力，而这些现象背后，一个不容忽视的决定性因素便是算法推荐技术。从逻辑层面剖析，算法推荐依托于人工智能学习构建的庞大模型，通过精密计算从数据层面将信息与受众偏好相匹配。然而，正是这一技术特性，使得网络暴力信息得以迅速扩散并加剧其影响力，尤其是那些造成严重后果的网络暴力事件，往往离不开算法的推波助澜。算法推荐对网络暴力的影响可归纳为两个主要方面：一是对信息传播推送机制及由此产生的热度流量的影响。这种影响具有显著的社会性效果，可能导致事实上的“社会性死亡”结果。二是对当事人自身的影响，包括对其关注焦点、偏好及信息选择权的干预。算法可能将所有与网络暴力相关的信息均推送给当事人。这种集中推送对当事人的心理和认知造成了巨大冲击。在发生网络暴力的特殊时段，这种推送模式极易导致当事人对网络环境的误判，进而对其自身判断和社会性后果的评估产生误导，最终可能引发不可估量的严重后果。因此，亟需建立一种能够及时识别并熔断网络暴力行为和信息传播的特殊机制，避免权利人承担难以估量的不利后果。从世界范围来看，包括美国和欧盟在内的多个国家和地区都相继对人工智能进行了立法，特别是在技术伦理和安全角度进行了规制。我国先后出台了针对深度合成和生成式人工智能领域的相关专项规定，并进一步通过发布国家标准等规范性文件，为这一新兴领域的健康发展提供了更为详尽的指导原则。这一系列举措标志着人工智能正式迈入法治化管理时代，原则上已初步构建起法治逻辑体系。聚焦于网络暴力治理这一特定领域，人工智能技术的运用主要包括以下几个方面：第一，深度合成和生成式人工智能的信息标记、核实、监管和责任。网络暴力信息中存在大量利用人工智能技术进行深度伪造、深度合成或自动生成的文字、音视频及图片信息。这些信息的发布、审核和标记责任，依法应由生成平台、发布平台和发布者、转发者承担。第二，在违法违规检测过程中，人工智能的模型、数据学习以及机理制度需要持续的迭代学习。在实践中，无论是网络信息内容的发布审核、推荐审核还是违规举报审核，人工智能均是底层基础逻辑，即所有信息首先由人工智能进行核准，仅在需要人工介入时才会转交人工处理。因此，为应对不断变化的审核需求，人工智能必须进行不断的迭代更新、学习训练和大模型的发展。第三，算法推荐的底层逻辑是人工智能大模型按照用户偏好进行精准推荐的技术逻辑。决定某条信息能否被推送到更大的流量池，以及某条信息是否应该被受众看到，均是以人工智能为基础的算法推荐决定判定。可见，在治理网络暴力信息和行为的过程中，核心问题集中在平台服务提供者所应用的人工智能模型是否切实有效。为应对网络信息和行为可能产生的不利后果，人工智能在深度合成和生成式内容生产、传播以及算法推荐和违规举报审核等领域的应用，应以现行法律为基础，同时符合传播伦理和技术伦理的要求。网络暴力信息和行为产生的基础在于网络账号的表达行为。根据《网络安全法》等相关法律法规，网络真实身份认证制度已经实施多年，但在实践中，仍存在大量违规批量账户，如“水军”和传播矩阵等行为。一些网络公关公司利用多渠道网络（MCN）机构，通过控制大量账号在同一期间发布同质化内容，从而产生巨大流量，借此影响算法推荐机制，触发热搜、热榜和热词，进而引发网络暴力事件。在司法实践中，多次出现未履行网络真实身份认证的账号侵害他人合法权益的情况，进入司法程序后却无法找到现实侵权人的对应关系。因此，平台应在技术上强化真实身份认证制度，杜绝批量注册账号、“傀儡账号”和“僵尸账号”等违规账号注册行为。同时，应严格按照中央网信办出台的《关于加强自媒体管理的通知》相关规定，落实“一人一号，一企两号”的基本规定，确保每个账号都有明确的责任主体。在账号认证过程中，按照现行法律法规规定，除了需要提供真实身份信息外，还应标识地理位置信息、所属 MCN 机构信息以及信用等级信息等。对于依法需要资质认定的账号，如金融、司法、教育、医疗和新闻机构等，还需审核相关资质证明。此外，对于具有较大社会影响力的大V账号和营销号等，应依法、依规、依约推进前台实名制落实，确保表达者承担主体责任和法律义务。首先，制定“反网络暴力法”是有效协调法治与技术逻辑的关键。目前，涉及网络暴力治理的专项立法法律位阶较低，缺乏跨部门的可协调性。在法治技术化的过程中，各部门需要按照职权责任进行监管，同时要求网络平台逐一落实相关措施。以《网络暴力信息治理规定》为例，预警性指标体系和信用联合惩戒机制的实施，需要相关标准和信用监管部门配合。预警机制和模型至少需要工信管理部门、网信管理部门和标准制定部门介入，而信用联合惩戒同样需要跨部门的合作。因此，立法的法律位阶应以法律为宜，条例和规章法律位阶难以起到跨部门协调效果。
其次，技术治理是网络暴力治理的核心抓手，与法治互为表里。法治通过立法明确技术伦理与标准，而技术治理则按照法律规定展现法治之目的。例如，在“两高一部”的网络暴力治理司法解释中，平台需要履行网络信息安全管理者的责任，这种责任在司法解释中被定义为事后责任。然而，网络暴力治理需要将事后责任前移至预防责任，这需要立法将责任法转化为义务法。刑事责任规定了不履行责任法的法律后果，而义务法则是在未出现损害后果时，权利人也可以行使排除妨害的权利。治理网络暴力的核心在于避免这种违法犯罪情况的发生，事后追责只是治理环节中的一个部分，不能仅以刑事法律的震慑效果代替技术实现效果。因此，在网络暴力治理领域中的法治技术化，就是将相关成文法和科技伦理转化应用于算法推荐、人工智能和账号审核责任之中。再次，维权措施的技术化实践应考虑时限性。按照现有的法治维权逻辑分为按照用户与平台协议的约定维权、按照《民法典》为基础的人格权禁令和通知删除规则、按照《网络安全法》等强制法的违法举报和按照专项法律规定的报告制度。然而，在实践中，上述制度均需要大量时间和人工成本，特别是民法体系中的通知删除，仍需通知、反通知、转通知等复杂程序，人格权禁令更需当事人向法院提出申请。即便是按照用户与平台约定的在线维权，往往也需要一个工作日或数小时才能完成。鉴于网络信息传播速度极快，热搜存在机制也仅存在数小时，等到维权行动产生实际效果时，损害已经无法挽回。因此，在落实举报效果方面，网络平台应参照中央网信办出台的《网站平台受理处置涉企网络侵权信息举报工作规范》中规定的“限时加私”技术措施。“限时加私”即在无法判断举报真实性，或司法机关和监管部门未能及时介入的情况下，根据网络暴力客观要求的时限性要求，对相关信息进行技术处理，在一定期限内不予公开。尽管这项技术举措目前并不属于法定措施，但可以考虑网络暴力的时限性和紧迫性，在未来出台“反网络暴力法”时予以明确。最后，应强化基于大数据的预警处理机制。现行网络暴力治理的专项相关法律法规均规定了预警机制，但在实践中的应用应考虑预警机制与信息发布、算法推荐、私信聊天、设置话题以及受理举报等技术相结合。目前，预警级别尚未有国家强制性或推荐性标准，结合实践操作，预警机制至少应分为两个级别。当出现集中私信、特定话题讨论及高频提醒某人时，预警机制应判断是否涉及网络暴力信息，并应及时通知权利人维权的渠道和措施。当网络暴力信息初步形成时，结合权利人的维权措施，预警机制应熔断相关信息发布与传播，屏蔽相关话题、热词、热榜和热搜，并暂停相关群体的私信功能等。预警机制应从立法层面结合技术，落实到实践层面，从低到高，对应技术和应急处理措施。（本文刊登于《中国信息安全》杂志2024年第9期）
分享网络安全知识 强化网络安全意识
欢迎关注《中国信息安全》杂志官方抖音号
文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664232324&idx=1&sn=bb5deed49b0eb932d72df8a56d6e0b60&chksm=8b59f77dbc2e7e6be2ba6ad31068b653c34444323ee5de8d268e917e8f06ccb1778d54bc87b3&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh