谷歌发布漏洞奖励计划和其它举措,保护AI安全
2023-10-27 17:47:34 Author: mp.weixin.qq.com(查看原文) 阅读量:6 收藏

 聚焦源代码安全,网罗国内外最新资讯!

编译:代码卫士

今天,谷歌宣布多项举措提升AI安全,其中包括一项漏洞奖励计划和1000万资金支持。

谷歌表示,这项新的漏洞报告计划将奖励从生成式AI中找到漏洞的研究人员,解决多种问题如不公平的偏见、幻觉以及模型操控。

谷歌指出,漏洞报告应该详述可导致提示注入、数据泄露、模型行为篡改、安全控制分类不当以及机密/专有模型确切架构或权重的提取等。

谷歌指出,安全研究员如能在受AI驱动的工具中发现其它漏洞或行为可导致合法的安全或滥用问题,则也可报告。谷歌解释称,“我们提出的范围旨在便于测试传统的安全漏洞以及特有的AI系统风险。值得注意的是,漏洞奖励金额取决于共计场景的严重性以及受影响的目标类型。”

为了提升AI的安全性,谷歌已引入AI安全框架(SAIF),旨在确保“驱动机器学习的关键供应链组件的安全”。

谷歌推出模型签名和测试验证的首个原型,它利用 Sigstore 和 SLSA 来验证软件身份并提升供应链弹性。该计划旨在提升开发生命周期中机器学习供应链的透明度,以缓解供应链攻击数量不断增长的趋势。

谷歌提到,“基于开发生命周期与威胁向量之间的相似性,我们提议将SLSA和 Sigstore 的供应链解决方案也应用到机器学习模型中,保护这些模型免遭供应链攻击。”

另外,谷歌还与Anthropic、微软和OpenAI共同宣布创建1000万美元的AI安全资金,提升AI安全领域的研究。

代码卫士试用地址:https://codesafe.qianxin.com
开源卫士试用地址:https://oss.qianxin.com

推荐阅读

因担心安全风险,菲律宾军方禁用AI应用

微软推出新的AI漏洞奖励计划,重在Bing用户体验

微软AI研究员不慎泄露38TB 数据,内含密钥、密码和内部消息等

AI管道的十大常见风险

原文链接

https://www.securityweek.com/google-announces-bug-bounty-program-and-other-initiatives-to-secure-ai/

题图:Pixabay License

本文由奇安信编译,不代表奇安信观点。转载请注明“转自奇安信代码卫士 https://codesafe.qianxin.com”。

奇安信代码卫士 (codesafe)

国内首个专注于软件开发安全的产品线。

    觉得不错,就点个 “在看” 或 "” 吧~


文章来源: https://mp.weixin.qq.com/s?__biz=MzI2NTg4OTc5Nw==&mid=2247517995&idx=2&sn=aa7c780dbbe15bdfa9149c612cc02a53&chksm=ea94b641dde33f57d58495235b0c8364876b2834bf5b00df2c2a91f9125634d621d15c9ac6d6&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh