当地时间10月30日，拜登总统发布了一项具有里程碑意义的行政命令，以确保美国在兑现人工智能(AI)的承诺和管理风险方面发挥带头作用。该行政命令为人工智能安全和保障制定了新标准，保护美国人的隐私，促进公平和公民权利，维护消费者和工人的利益，促进创新和竞争，提升美国在世界各地的领导地位等等。作为拜登-哈里斯政府负责任创新综合战略的一部分，该行政命令建立在总统之前采取的行动的基础上，其中包括15家领先公司自愿承诺推动人工智能安全、可靠和值得发展的工作。该行政命令指示领先的人工智能实验室向美国政府通报产生具有潜在国家安全风险的模型的培训运行，指示美国国家标准与技术研究院制定如何对抗性测试人工智能模型的框架，并制定一项计划，利用人工智能来自动查找并修复软件漏洞等措施。针对与人工智能模型相关的隐私、公平性和存在风险等问题，该命令是在世界各地的政策制定者争先恐后地为人工智能制定规则之际为监管制度奠定基础的一次全面尝试。白宫的一份情况说明将该命令描述为“有史以来为保护美国人免受人工智能系统潜在风险而采取的最全面的行动”，试图在利用人工智能的巨大能力和保护“美国人免受人工智能系统的潜在风险”之间划定界限。该命令还呼吁国家安全委员会和白宫办公厅主任制定一份国家安全备忘录，列出军队和情报界将如何在任务中“安全、道德和有效”地使用人工智能，以及采取直接行动对抗对手使用人工智能。业界专家们对该命令表示欢迎，但警告说，其潜在影响将取决于其实施方式以及为各种举措提供资金的能力。该命令的关键条款，例如呼吁解决人工智能模型的隐私风险，将要求国会根据联邦隐私立法采取行动，而这一立法优先事项仍处于停滞状态。 弗吉尼亚州民主党参议员马克·沃纳(Mark Warner)在一份声明中表示，虽然该命令“范围之广”给他留下了深刻的印象，但“其中许多内容只是触及表面，尤其是在医疗保健和竞争政策等领域。”华纳表示：“虽然这是向前迈出的一大步，但我们需要额外的立法措施，我将继续努力工作，以确保我们优先考虑安全，打击偏见和有害滥用，并负责任地推出技术。”更广泛地说，该行政命令代表了华盛顿对技术监管方式的转变，部分原因是社交媒体平台监管失败。由于未能解决社交媒体平台对从选举到青少年心理健康等各个方面的影响，华盛顿的政策制定者希望在制定人工智能规则时不要再次措手不及。 Veracode首席技术官兼联合创始人Chris Wysopal表示：“这种积极主动的做法与政府过去监管新技术的方式截然不同，这是有充分理由的。” “政府监管互联网和社交媒体所采取的‘观望’策略在这里行不通。”然而，一些行业团体和自由市场倡导者警告称，这种积极主动的做法可能会在人工智能创新的早期阶段扼杀创新。自由市场智库R Street的高级研究员Adam Thierer表示：“政府正在对人工智能政策采取一种包罗万象的方法，这种方法既极其雄心勃勃，又可能过于热心。” “该命令代表了美国对待数字技术市场的方式可能发生巨大变化，因为联邦政策制定者似乎准备避开开放创新模式，这种模式使美国公司在几乎所有计算和数字技术领域成为全球领先者。”卡内基梅隆大学网络安全教授兼网络安全公司ForAllSecure首席执行官戴维·布鲁姆利(David Brumley)表示：“这感觉就像杀毒软件的早期发展。” “当我看到它时，我知道它是恶意的，并且我可以防止同样的恶意事情发生，但很难主动阻止某人创建更多恶意软件。”布鲁姆利警告说，该命令所依赖的实施新安全举措的机构可能缺乏执行这些举措的能力。例如，该命令要求NIST制定执行人工智能系统安全测试的标准，并指示国土安全部将这些标准应用于其监管的关键基础设施部门。NIST可能需要与外部专家合作来制定这些标准，因为它目前缺乏正确的专业知识。“他们依赖的是NIST等非常传统的政府机构，而这些机构在这方面没有专业知识，”布鲁姆利说。前美国国家安全局(NSA)黑客、IANS Research教员杰克·威廉姆斯(Jake Williams)评论说，这些命令主要是为了保护整个社会，对组织影响不大。威廉姆斯在一份电子邮件声明中指出：“行政办公室强调检测人工智能生成的内容并制定措施确保内容的真实性。” 虽然这可能会安抚许多对深度造假内容深感担忧的政府官员，但实际上，生成技术总是会超过用于检测的技术。此外，许多人工智能检测系统需要达到大多数人认为不可接受的隐私侵犯程度。”威廉姆斯说：“也许EO最重要的贡献是专门为人工智能隐私保护技术的研究提供资金。” “在人工智能的使用中，对隐私和公民权利的强调渗透到了《行政命令》中。在社会层面上，人工智能技术最大的近期风险是它们的使用方式以及它们被赋予的任务。”国土安全部的国土威胁评估最近将人工智能称为对关键基础设施更相关的威胁之一，并警告说美国的主要对手可能会使用人工智能来开发特定行业的恶意软件。并强调称，恶意网络攻击者已经开始测试人工智能开发的恶意软件和人工智能辅助软件开发的能力，这些技术有可能针对管道、铁路和铁路等关键基础设施目标进行更大规模、更快、更高效和更具规避性的网络攻击。美国联邦政府正在开始应对这些威胁，国家安全局上个月宣布成立人工智能安全中心，该中心将监督人工智能的开发和使用。最新的行政命令包含解决这些更狭隘的安全问题的其他举措，包括在国土安全部内设立人工智能安全委员会。该委员会将被赋予什么权力，以及它与网络安全审查委员会等其他审查机构的相似之处，还有待观察。1.https://cyberscoop.com/white-house-ai-executive-order-cybersecurity/2.https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-and-trustworthy-artificial-intelligence/3.https://www.darkreading.com/endpoint/biden-artificial-intelligence-executive-order-broad-concerns![]()
文章来源: https://mp.weixin.qq.com/s?__biz=MzkyMzAwMDEyNg==&mid=2247540431&idx=5&sn=ab8aa5659c48508fd3d35d61e758d2aa&chksm=c1e9d29ef69e5b88edfabb9bd70fa81cc74b60953a3a6f104ec2ff52b197a33c39dd999e7cf3&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh