本文系日内瓦安全政策中心政策简报第9号。

21世纪是前所未有的、指数级的技术进步。这些进步正在改变国家影响、胁迫、颠覆和发动战争的方式，并使非国家行为者，甚至个人获得全球影响力的途径民主化。这加速了所谓混合形式的战争的流行。“冷漠的时代”似乎已经确立，具有普遍的非和平和非战争意识。利用数字传播虚假信息和工具化社交媒体技术的影响运动已经激增，加强了针对人类思维的工作方式。人工智能(AI)、认知科学、神经技术和其他相关领域的当前和未来发展将进一步增加大规模操纵的风险，并导致作为未来战场的大脑军事化的可能性。

认知领域作为第六作战领域的出现将导致认知战行为的增加，这可能会提高非动能颠覆手段相对于动能胁迫手段的形象和效率，同时受益于缺乏国际治理。如果这些工具高速推进，国际治理仍然停滞不前，那么国际体系将缺乏管理21世纪颠覆手段所需的框架、工具和理解。

本文探讨了认知战的出现——其目的是控制对手的想法和如何思考——以及新兴技术促成的非动力颠覆手段在国际舞台上的崛起。它建议建立治理框架，以规范将新兴技术用于最终目的是颠覆的认知战。它倡导“颠覆控制”的概念，以防止思想军事化。它还建议对诸如神经技术和人工智能等扶持性新兴技术进行管制，同时促进“社会复原力”的提高，特别是在民主国家，民主国家的开放和数字化信息环境使它们在结构上更容易受到认知战做法的影响。最后，该文力求促进对认知战概念本身的更多研究，这反过来将有助于治理努力。

安全挑战

颠覆

颠覆在世界舞台上的使用正处于一个范式变化的尖端。虽然颠覆策略本身并不新鲜，但最近新兴的技术正在使颠覆活动以前所未有的规模、更大的粒度和更多的国家和非国家行为者的可及性成为可能。认知战——或旨在控制对手思想、观念和行动的认知行动的总和，是使用武力或外交手段实现战略目标的一种越来越可行的替代方案。然而，战争的认知领域很少或根本没有受到国际治理。因此，国际社会需要建立对认知领域和认知战争的复杂理解，它们在实现更有效的颠覆中的作用，以及在这个空间内操作的潜在治理框架。

颠覆可以定义为“在非军事秘密行动中使用的权力工具”。它利用漏洞秘密渗透规则和实践系统，以控制、操纵和利用该系统对对手产生有害影响。典型的颠覆机制依赖于间谍或其他手段渗透和影响对手的机构，通过一系列可能的环境敏感机制和效果，使社会或其他系统反对对手。其中包括"影响公众舆论、瓦解社会凝聚力、破坏经济、破坏基础设施、影响政府政策，以及在极端情况下推翻政府"。然而，颠覆活动的成效受到各种因素的限制，例如:

1.资源:传统的颠覆战术，特别是间谍活动的使用，需要大量的资源来准备特工并让他们渗透到对手的机构中。

2. 协调:从颠覆作业中获得战略意义上的重大影响需要巨大的组织能力，特别是在长期侵蚀作业中，旨在通过各种活动的高潮来实现目标。

3.范围:当颠覆的目标是在国家层面上改变公众舆论时，它必须针对足够多的受众来实现战略影响。

4. 粒度:从根本上说，颠覆涉及访问和操纵个人的思想。颠覆操作必须能够在足够细粒度的级别上操作，以与个人思维模式的复杂性以及相关团体或机构的独特动态和脆弱性相结合。

由于这些限制因素，有效的颠覆活动通常是由具有必要能力的强大国家进行的，但通常影响有限。俄罗斯无法通过其在乌克兰的长期颠覆行动(网络攻击、虚假信息运动)实现其战略目标，就是这样一个例子。”然而，今天，神经技术、认知科学和人工智能领域的发展以及相关技术的民主化从根本上改变了这些限制因素。通过支持更准确、规模更大、成本更低的认知操作，颠覆将以更低的成本变得越来越容易获得，并具有高粒度级别的全局影响操作机制和自动化协调。这有力地表明，在不久的将来，颠覆仍未得到充分研究和治理，而影响和操纵对手的潜力呈指数级增长，国家和非国家行为体进入的障碍可以忽略不计。

认知战

新兴技术，如人工智能(尤其是生成式人工智能)或神经技术，在战争的认知领域内实现了高度可访问和有效的颠覆战争被理解为在域内和跨域展开，通常被定义为军事行动发生的不同作战环境。这些传统上是与敌人发生接触的地理空间，即陆地、海洋、空中、外层空间以及最近的网络空间战争的领域长期以来与技术创新紧密相连，例如，随着海军和航空技术的进步，最近为战争打开了海洋和天空，也许更有争议的是，数字技术打开了网络领域。除了它们发生的领域之外，战争中的活动可以进一步分为动能行动(即具有物理效果的行动)和非动能行动。虽然“热”冲突继续在世界各地肆虐，最明显的是在乌克兰，但自第二次世界大战结束以来，主要军事大国之间的对抗主要是通过代理人和代理人发生的，通常低于战争的门槛，或者越来越多地通过非动能手段发生。

最常见的是，这种类型的战争被称为“混合战争”，其特征如下:

这是一种创造性的力量行为，结合了广泛的军事和非军事工具以及在扩展的多域作战空间中的力量向量……虽然在战争与和平、朋友与敌人、内部与外部关系、民事与军事以及国家与非国家行为体和责任领域之间的模糊界面的阴影/灰色地带中含糊不清地运作，但最终目标是使自己能够决定主要在非军事重心上的对抗，同时防止被军事推翻或被敌人强迫。

21世纪，混合战争形式的盛行——至少在大国之间——模糊了领域、国内外领域、国家与非国家行为体、和平与战争之间的界限。由此产生的环境是一种“长期潜伏的斗争”，而不是明确划定的和平与战争状态。这种状态被称为“新世代的战争”、“不和平”或“人类圈”的冲突。

最近的学术研究开始关注认知战的概念，虽然对该术语的定义没有达成共识，但以下工作定义突出了文献讨论的关键特征:认知战是旨在影响个人和/或群体的理解和决策机制的任何颠覆操作，以实现战略目标。认知战“可以在动能行动之前、期间和之后使用，而不受当前国际上对构成战争行为的定义的限制”。随着人工智能或神经技术等新兴技术的日益迅速发展，以及这些技术与日常生活的日益融合，这些操作也将变得更加普遍和有效。认知战不同于信息战，信息战“侧重于控制信息流”，而认知战“旨在控制目标对所呈现信息的反应”正如Hung所写的，“尽管……网络战、信息战、认知战、混合战……包含影响操作的元素，并可能影响人类的认知，只有认知战是专门通过将神经科学武器化到各种实践中来控制大脑的”。认知战的目标是一个国家的整个人力资本;人类——以及他们的认知空间——成为有争议的领域。

认知战在实现颠覆目标(即操纵、破坏或推翻政府)方面越来越有效。认知战影响的一个最突出的例子是对2016年美国总统大选的干预。俄罗斯互联网研究机构负责在所有可用的平台上创建虚假的社交媒体账户，仅在Facebook和Instagram上就获得了超过2.635亿的活跃参与，在选举前的一段时间里，至少有5万个机器人账户和3000多个虚假账户定期在推特上发帖。这些干预采取了一系列立场，包括鼓励非裔美国人、墨西哥裔美国人和西班牙裔选民抵制或不信任选举;赋予极右翼选民权力;向政治光谱两边的选民传播虚假信息，从而加剧了美国国内人口的两极分化，扰乱了选举。认知战被部署在一系列其他领域，比如俄罗斯“在全球范围内削弱对民主国家的信任”，以及基地组织(Al-Qaeda)或伊斯兰国(Islamic State)等非国家行为体促进激进化和支持自己的招募活动。

虽然这些操作的有效性很难量化，但缺乏对认知攻击的构成、影响以及如何应对的明确认识，是使用这些操作的强烈动机。认知战的间接影响，以及它通过影响独立行动者的信仰来拉拢他们的倾向，提供了这样的好处:发动此类攻击的人可以合理地推卸责任，有时甚至在重视言论自由的民主国家得到法律保护。因此，认知攻击目前可以在国际社会报复的风险很小的情况下部署，并且由于这些国家的开放性，对民主国家特别有效。

这些因素与高度可获得的新兴技术相结合，这些技术将继续提高认知战的效率。这些包括认知技术的进步，例如监测和与大脑交互的技术(如脑机接口(BCI)技术)或复制人类认知的技术(如机器学习)。此外，社会和技术系统的快速融合扩大了认知攻击的目标区域。因此，新兴技术通过两种方式通过认知攻击增强颠覆的潜在影响:

1. 间接:信息技术与日常生活的融合创造了新的、高频率的在线空间，这些空间可以成为攻击目标(社交媒体，如Twitter、TikTok、Instagram、Facebook、元数据库或通过bci访问的未来空间)，并产生越来越多的用户数据供操纵，可用于资源认知攻击。

2. 直接:通过开发可用于认知战的工具，例如那些协调复杂的广泛操作、描述个人行为和/或生成目标内容的工具，甚至那些直接与人脑交互的工具。例子包括人工智能协调的机器人网络、人工智能生成的内容、由bcl引起的错误感知，或者根据目标的情绪状态进行调整的“情感人工智能”。

这些进步绕过了颠覆操作的传统限制。数据的大规模生产和自动化的内容创建导致了可用于认知战的大量公开数据。算法现在可以在大量人口中协调准确的分析和目标，并采用根据特定个体行为调整策略的颗粒方法诸如ChatGPT之类的大型语言模型(llm)可用于收集数据，以便“理解”对话者，并通过了解对话者在一天中的哪些时间最容易受到操纵，从而高效地推动和影响对话者，同时实时更新这些数据随着人口越来越深入地融入数字空间，这些模型能够全面了解个人的活动、思想和行为，其影响将得到增强。非侵入性脑监测技术的出现，如脑电图(EEG)、脑磁图(MEG)或功能性磁共振成像(fMRI)，以及侵入性技术，如bcl，进一步加剧了这些脆弱性，允许记录目标受试者的神经过程，甚至直接影响他们的思维模式。

颠覆作为战争和地缘政治的组成部分早已存在。然而，今天的技术进步既代表了数量上的转变，这是由于神经影响设备和工具的扩散，也代表了质量上的转变，这是由于新兴技术的效率和实用性，这些技术提供了前所未有的影响认知领域的能力。因此，认知战将受益于这些发展，并加速颠覆的使用，以在全球范围内施加权力。影响手段将逐渐从纯粹的动力手段转向颠覆。

通过有针对性的、自动化的认知战，可能比使用武力或威胁这样做更有效地实现政治目的。目前还没有治理框架或工作工具来处理这种事态的动态变化。

政策影响

认知领域缺乏治理，会在国家和非国家行为体可以用来发动新型战争的新工具周围，造成法律、规范和道德真空。这是一个巨大的风险，背离了现在确立的寻求减少战争可能性和影响的做法。它可能导致规范战争的道德和法律规范的侵蚀，思想的无限制军事化和对精神隐私的侵犯，以及神经技术和神经武器领域的技术军备竞赛，从而导致国际稳定的总体下降。

无人管理的空间

国际治理框架，如国际人道主义法(IHL)和各种军备控制协议的存在是为了增加稳定，减少战争的可能性，并在发生战争时减轻痛苦这些框架的根本基础- -例如什么构成“攻击”或“武器”- -与使用武力、领土和可识别的影响(例如可见的伤害或破坏)有着密不可分的联系然而，这些概念化侵略的方式不能转换到认知战的现实。

正如我们已经证明的那样，认知战将加快颠覆的速度和效率——颠覆在本质上很大程度上是非动态的——作为权力的工具。目前对战争动能影响的关注已经在国际人道法中造成了对混合战争所利用的非动能行为的解释空白。由于认知战争和用于发动战争的“武器”将不适合我们为治理战争而概念化战争的方式，传统的治理框架将不再适用。虚假信息运动或网络攻击等混合战术一直具有破坏稳定和颠覆性，但迄今为止在实现战略目标方面的记录好坏参半。因此，到目前为止，缺乏治理的影响还不是灾难性的。然而，随着认知战争将颠覆转变为实现这一目标的日益有效的工具，缺乏国际商定的治理机制的影响变得更加严重。

集中在思想上的治理努力已经开始出现，最明显的表现是神经权利的概念在神经权利基金会的支持下，神经权利寻求加强人权框架，创造一种新的权利类别，以更适当地保护人类的思想。因此，平行的努力应旨在管理这些工具- -神经武器和附属手段- -以及这些权利可能受到威胁的方式。今天的治理制度，主要关注的是动能的使用，需要更新，以反映非动能能力，即认知战。因此，负责任的国家行为规则;对“武器”种类及其使用方式的限制;为此，应该制定法律、伦理和道德准则。

国际稳定

如果没有适当的治理制度，开发、军事化和部署相关能力以获得战略优势的动机可能会成倍增加。由于人工智能和神经技术等新兴技术是认知战的关键推动者，各国可能会感到有必要将这些军民两用技术军事化。这可能反过来加速这些领域的技术军备竞赛。军备竞赛的动态可能导致对这些技术的开发和使用的道德、法律和规范限制方面的逐底竞赛。由于各州担心落后，它们很可能放弃严格的监管，以便从这些技术对国家安全事务最具破坏性的能力中获益这可能会使思维军事化正常化，并导致认知领域不受限制的不负责任行为。最终,这些动态可以防止出现关于精神隐私、操纵、影响、自决和诚信的规范。随着这些技术成为颠覆活动的关键推动者和重要的国家安全工具，已经很明显的大国技术脱钩趋势也可能加速。

认知战也可能对攻防平衡产生全面的影响。攻防平衡理论的支持者认为，国际稳定可以与我们是否生活在一个进攻或防御占优势的环境中联系起来，前者引起不稳定和冲突，后者引起稳定与和平他们进一步认为，影响这种平衡的主要变量是技术，它可以使平衡向任何一方倾斜在这方面，进行有效认知战的能力可能会造成不断升级的压力，并有利于进攻性地使用这些能力。

事实上，当认知攻击发生时，在检测和保护自己免受攻击的能力方面存在固有的困难。在任何特定时刻受到认知攻击的可能性，都可能在进行认知战时激发“首先使用”的动力。合理的推诿是在战争中使用代理人，包括技术代理人的主要动机在认知战的情况下，用于发动战争的工具的不明确和不受监管的性质，以及它们的效率，可能会助长这种貌似合理的否认，并进一步鼓励首次使用。此外，随着技术的民主化和扩散，认知战将变得更加不稳定，非国家行为体、公司甚至个人都可以获得影响大量人群的能力。

政策建议

根据上文所述的安全挑战和政策影响，我们可以推出以下政策建议:国际社会应努力制定“颠覆控制”的国际治理框架。

国际社会制定了国际人道法和军备控制制度等工具，通过限制各国可获得的武器类型、建立使用武器的条件，并从总体上限制各国相互胁迫的方式，来管理武力的使用。同样，应该制定负责任的行为规则、红线、禁令和软法律颠覆及其支持技术，以避免技术军备竞赛，不受限制的技术支持的影响运动和认知战。治理颠覆的努力将更好地反映新的现实，更有效地控制这些新武器和发动战争的方式。

各国应努力建设社会复原力。在目前缺乏一个框架来管理通过认知战实现的颠覆活动的情况下，国家——尤其是民主国家——需要通过“全社会方法”建立国内抵御认知操纵的韧性这些新的颠覆工具和战术的目的不是削弱敌人传统的关键基础设施、物质资产或军事力量，而是主要针对民众的思维和行动方式。因此，各国必须能够承受针对其人民的持续、同时和复杂的混合威胁。在这方面，使民众认识到数字信息生态系统的脆弱性以及技术在造成这些脆弱性方面所起的作用至关重要，并应从基础学校教育开始。

各国应深化对赋能技术，特别是人工智能和神经技术进行国际监管的努力。为此目的的努力已经在进行中，例如欧盟的人工智能法案或智利的国家大脑数据条例在制定规则来管理国家通过认知战以颠覆意图使用此类技术的行为之前，国际技术监管至少可以引导此类技术的开发和部署，从而最大限度地减少其潜在的负面影响。鉴于这些技术之间日益趋同，应加强管理工作之间的相互促进，以便更好地为未来的技术现实做好准备。

需要开展和促进更多关于认知战的研究。认知战作为一种与其他传统领域明显不同的新型战争领域，需要进行额外的定义工作。使用与战争物理领域相同的术语已经阻碍了我们对非物理领域(如网络领域)的理解和后续治理。由于无法将我们用于管理战争的术语与认知领域的现实相协调，我们迫切需要避免重新产生解释上的差距。因此，对战争认知领域的进一步研究应着眼于开发正确的语言来描述该领域的活动。这包括定义认知领域中构成“攻击”、“武器”或“伤害”的阈值。这可能需要将对战争的理解从单纯的物理和强制转变为更好地结合非物理和颠覆性活动的模式。

应提倡技术监测、前瞻性方法和博采众长的思维。数字领域的发展速度是指数级的。最近的深度造假和生成人工智能等例子表明，政府往往对此类发展猝不及防。为了减轻这种情况，应该投入资源来监测影响认知空间的技术发展，并预测新兴技术的影响。为此，在政策制定过程中，预见方法应该变得更加普遍。在这方面，识别“微弱信号”至关重要。这需要“博学多才的技能”，而不是经常导致思维僵化的高度专业化。通才思考者能够理解技术以及它们赖以发展的社会、政治、经济、规范和战略环境。这些是发展有效管理制度的关键技能。