前沿 | 算法“武器化”及其对权力的塑造
2024-8-12 19:29:50 Author: mp.weixin.qq.com(查看原文) 阅读量:3 收藏

 扫码订阅《中国信息安全》

邮发代号 2-786

征订热线:010-82341063

文 | 对外经济贸易大学国际关系学院教授 董青岭
当前,伴随着全球数字基础设施的完善和人工智能技术的进步,数字地缘政治竞争日趋加剧,算法被用作政治竞争武器的态势越来越明显。从对抗神经网络生成深度伪造到推荐算法影响社会舆论、从政治机器人操纵虚假账号到自主杀手武器执行无人侦杀任务、从面部微表情识别刻画政治人物心理曲线到深度数据挖掘实现跨国精准政治沟通,算法在数字政治运行中的武器化倾向愈发明显。

计算思维介入政治场域

所谓算法“武器化”指的是在数智环境中政治行为体以算力为支撑、以计算思维为指导,有目的、有组织、有策略地运用算法工具和算法策略在政治互动中影响他者行为、塑造政治环境,进而实现其政治目标和价值追求的一整套计算政治操作。在此过程中,算法不仅被策略性地用作施加政治影响力的工具,同时它还被战略性地用作塑造规则的武器。

与传统政治思维的主观经验判断不同,计算思维是一种典型的社会工程思维。它假定万物皆数、万物皆可计算,旨在利用系统科学方法和计算手段来理解社会系统的运行,即社会环境与社会行为的可监测、可计算与可评估。就此而言,算法可具象为面向社会问题的任务识别、过程控制与实现方法,用计算思维来研判和解决社会问题具有明显的工程技术性质。将计算思维应用于政治场域,核心是通过某些自动化和智能化的任务模块实现常规解题方法所不能实现的效果,从而优化政治资源配置并提升政策执行效果。不同于以往依据已经发生的社会事实被动总结经验的方式,计算思维更多是一种积极探索、自动挖掘问题以求主动应变的思维方式。它用数据替代经验、用算法代替直觉,旨在实现政治观察由主观的人为分析向客观的智能发现转变。
简单来说,算法“武器化”可以直观地理解为计算思维在政治场域中的介入与应用。合适的算法能够准确地监测和捕捉社会事实,清楚地判断问题及其发展状况,进而为政策响应提供超越传统思维的应对之道。

以“计算”对抗“计算”

放眼未来,在数智环境下,算法将无所不在,传统的国际竞争正在悄然演化为“以计算对抗计算”为特征的“算法政治”竞争。首先,在军事领域,算法正被用作一种新式作战武器与新型作战策略。譬如,2017年,美国国防部提出了“算法战”(Algorithmic Warfare)概念,并明确了“算法战”的三大要素,即针对关键任务需求的算法研发、建设与实现算法相匹配的计算资源、部署基于算法的各种智能化军事应用技术及系统,此举标志着美军正式将“算法战”作为其官方的作战概念加以布局。有鉴于此,越来越多的学者认为,算法介入军事冲突将革命性地改变战争规则与战争形态,并给军备竞赛和危机管控带来前所未有之挑战。在算法驱动下,未来战争很可能会走向以算法为核心的智能对抗。其次,在外交领域,算法作为一种技术驱动正在革新外交工作流程和改变外交工作形态。继“网络外交”“新媒体外交”和“数据外交”之后,“计算外交”的崛起可视之为外交决策、外交行动和外交工作流程智能化变革的一种社会可计算形态。依托超强算力基础设施和可选择的算法工具,计算外交将社会计算理论与计算方法融于外交全过程,具体体现为外交态势感知、外交决策过程、外交战略执行与外交工作流程的算法化、自动化和智能化。放眼未来,计算外交整体的发展趋向是借助数字化赋能与有效算力支撑走向外交全过程的多模态和跨模态数据的全息计算,诸如智能化情报感知、自动化外交工作流程、可视化外交策略执行以及即时性和可追踪性政策反馈。简而括之,计算外交本质上是以算法驱动为表现形态的智慧外交形式。

算法“内嵌”与规则建构

算法正逐步呈现出一种被政治行为体越来越频繁“武器化”运用的趋势。就此而言,算法不仅已成新的风险源和新的安全挑战,同时其本身也在嵌入社会结构的过程中日渐成为权力塑造主体。

首先,算法具有穿透性。算法能够轻松越过国家的物理疆界和人际关系网络,对他国和本国公民进行悄无声息的政治扰动,以至于传统的国家主权疆界和政治游戏规则形如虚设。譬如,以伊朗“推特革命”为例,在算法技术的加持下,一国网络民意表达很容易为他国政客煽动为有目的、有计划、有组织的“网络颜色革命”。2024年4月,媒体研究中心(MRC)的一份研究报告披露,科技巨头谷歌自2008年以来多次使用算法干扰美国和他国大选。该报告指证谷歌搜索算法利用其有偏见的搜索结果帮助其所支持的候选人赢得选举,同时审查他们的对手。简言之,算法的渗透性正逐步突破主权疆界和人际关系网络的限制,并延伸了政治行为体的跨域影响力。在此意义上,算法渗透正逐步演变为国际政治颠覆与反颠覆的技术对决。
其次,算法具有嵌入性。算法作为人工智能系统实现功能的逻辑规则,总是嵌入特定的社会情境,由某些特定行为体开发并部署应用于具体任务领域,通过嵌入性的调配资源和支配行动以实现特定的政治目的。就此而言,算法可视之为一种弥漫于人工智能应用各个场景、各个角落的“内嵌型权力”。它以便利化、自动化和智能化实现任务为名、以后台运行和隐形嵌入模式全面参与到人类社会生产、生活、工作和娱乐的各个环节,日趋演变为驱动各领域智能化转型、塑造人类认知并改变资源分配格局的重要力量。在此情形下,算法越来越被用作一种“社会规则塑造工具”。在日趋激烈的国际政治博弈中,政治行为体有目的、有组织和有意识地运用算法逻辑实现社会规范建构的现象将日趋频繁,算法越来越被视为影响他者行为、增强权力、获取优势或保障安全的常态化智能工具。
最后,算法具有泛在性。简单来说,“泛在性”指的是算法人工智能实现其功能和提供服务的各个环节无时不在、无所不在。算法不仅是人工智能实现自动感知与自动计算的核心一环,更为重要的是,算法与社会各领域的深度耦合将物理空间与虚拟空间融合成了一个庞大的数字生态系统,扩展了智能技术的能力边界。算法在嵌入社会任务解题的过程中通过逻辑规则的内嵌形成了泛在化权力,亦即算法建构逻辑、逻辑形成规则,规则内嵌于社会结构。总体而言,伴随着人工智能技术的进步与大规模应用,算法将进一步深植于人类生产生活的各个环节,并将以更加隐蔽且不易觉察的方式塑造人们的认知、支配人们的行为,进而以“智能化”为名建构起基于算法驱动的社会结构及其规范体系。

(来源:中国社会科学网)

分享网络安全知识 强化网络安全意识

欢迎关注《中国信息安全》杂志官方抖音号

《中国信息安全》杂志倾力推荐

“企业成长计划”

点击下图 了解详情


文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664222240&idx=4&sn=66976c561debcb65e1c86e064d764c91&chksm=8b59ccd9bc2e45cf287bca3d2457f3288686257b872aa3aada69aa6369a52e0bf3f469c51c91&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh