恐怖组织已经开始尝试使用人工智能，尤其是利用生成式人工智能，以制造大量新的宣传内容。专家们担心，这些组织越来越多地使用生成式人工智能工具，可能会颠覆科技巨头们近年来为阻止其进入互联网而做的努力。

科技反恐组织（Tech Against Terrorism）执行董事亚当•哈德利（Adam Hadley）说道：“我们最担心的是，如果恐怖分子开始使用生成式人工智能大规模操纵图像，这很可能会摧毁作为解决方案的哈希共享。这是一个巨大的风险。”

多年来，科技巨头们一直在竭力创建已知的恐怖分子内容的数据库，即所谓的哈希数据库，这些数据库在各平台间共享，以快速、自动地从互联网上删除此类内容。不过据哈德利声称，他的同事们现在每周都会发现大约5000个人工智能生成内容的例子。

哈德利表示：“科技行业在开发自动化技术方面做得如此出色，恐怖分子很可能会开始使用生成式人工智能来规避已经部署的系统。”

除了详细介绍可以改动图像的生成式人工智能工具带来的威胁外，科技反恐组织还发布了一份新报告，列举了生成式人工智能工具可用于帮助恐怖组织的其他方式，其中包括使用自动翻译工具，可以快速轻松地将宣传内容转换成多种语言，或者能够大规模地创建个性化信息，为在线招募工作提供便利。不过哈德利认为，人工智能也提供了一个机会，让我们可以领先恐怖组织一步，使用技术做到先发制人。

哈德利说道：“我们将与微软公司进行合作，研究是否有办法利用我们的资料档案创建一种生成式人工智能检测系统，以便应对生成式人工智能被大规模用于恐怖组织的新威胁。我们相信，生成式人工智能可以用来抵御生成式人工智能的恶意使用。”

这一合作关系是在克赖斯特彻奇呼吁领导人峰会（Christchurch Call Leaders' Summit）前夕宣布的，克赖斯特彻奇呼吁领导人峰会是一场旨在消除互联网上的恐怖主义和极端主义内容的运动。

微软公司副董事长兼总裁布拉德•史密斯（Brad Smith）在一份声明中说：“使用数字平台来传播暴力极端内容是一个具有实际后果的紧迫问题，通过将科技反恐组织的能力与人工智能相结合，我们希望有助于创造一个线上线下都更加安全的世界。”

虽然微软、谷歌和Facebook等公司都有自己的人工智能研究部门，但新倡议最终将帮助到那些无法独立应对这些问题的公司。

参考及来源：https://www.wired.com/story/generative-ai-terrorism-content/https://www.wired.com/story/generative-ai-terrorism-content/