OpenAI 曝新漏洞,允许新用户“无限试用”;给 AI 上“紧箍咒”,美国斥资 1.4 亿美元成立 7 个国家级科研机构
2023-5-6 10:3:13 Author: 黑白之道(查看原文) 阅读量:18 收藏

OpenAI 曝新漏洞,允许新用户“无限试用”

通过该漏洞,用户可以免费获得无限的信用额度来测试不同的OpenAI项目,包括ChatGPT。

不久前,OpenAI 为了让用户尝试其他开放的人工智能项目,特意为新用户提供了免费的信用积分额度(约7美元)。随后网络安全公司Checkmarx表示,目前发现了一个漏洞,允许用户滥用试用,并在新账户上获得无限的信用积分额度。

研究人员表示:通过拦截和修改OpenAI的API请求,我们发现了这一漏洞。该漏洞能够使用同一个电话号码注册任意数量的账户,获得无限的免费积分额度。

为了注册试用,用户必须输入他们的电子邮件地址,点击发送到收件箱的激活链接,输入一个电话号码,然后输入短信验证码。电子邮件和电话号码都必须是唯一的,用户才能获得免费的积分额度。

然而,不法分子为了让同一账户获得更多的信用积分额度。他们对电话号码进行细微的改动,例如在国家/地区代码前面添加前缀。最终,他们通过使用同一电话号码的不同前缀的变化绕过了要求。

研究人员解释说:这一漏洞允许一个恶意的用户拥有多个账户,并获得更多的信用积分额度,而且用的是同一个电话号码。

但这对他们来说似乎还不够,因为他们想将信用积分值提高到一个更恐怖的数额。

然后,研究人员将开源工具REcollapse投入使用。这允许用户模糊输入和绕过验证等。

经过一些初步测试,观察到OpenAI API对一些模式进行了清理。在某些非ASCII(美国信息交换标准代码)字节上使用Unicode编码使我们能够绕过它并注册更多帐户。

目前该公司在收到通知后修复了该漏洞。

给 AI 上“紧箍咒”,美国斥资 1.4 亿美元成立 7 个国家级科研机构

IT之家 5 月 5 日消息,美国宣布投资 1.4 亿美元(IT之家备注:当前约 9.67 亿元人民币),成立 7 个国家级人工智能研究机构,确保美国在 AI 领域保持领先的同时,遏制 AI 引发的道德、社会问题等担忧。

图源:pixabay

美国政府于去年 10 月提出了相关的倡议,目前已得到 Anthropic、Google、Hugging Face、Microsoft、NVIDIA、OpenAI 和 Stability AI 六家公司的承诺,将提交他们的人工智能系统供专家社区进行公开评估。

美国政府在一份声明中表示:“AI 需要负责任的创新,在不损害这些公司权利和安全的情况下,这些是改善人们的生活的重要步骤”。

文章来源 :freebuf、IT之家

精彩推荐



文章来源: http://mp.weixin.qq.com/s?__biz=MzAxMjE3ODU3MQ==&mid=2650569278&idx=1&sn=a0cd36f98202f24aa78c0112d802e99d&chksm=83bd1fdab4ca96cc445706c59003212dead7d80ba5833ae9c57b2c4ac2d3fcc8beb3811a4865#rd
如有侵权请联系:admin#unsafe.sh