点击上方蓝色字体免费订阅“灰产圈”
只需要上传一张照片,你可以变成任何你想成为的人!冠希哥、小李子、张柏芝、玛丽莲梦露、尔康、中餐厅黄晓明……
“ZAO”涉嫌过度攫取用户授权
网友担忧个人信息泄露
针对网友因AI换脸担忧金融安全问题,支付宝随即发表声明:“网上换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。”
“AI换脸”非新技术
“ZAO” 背后是陌陌系公司
所谓AI换脸,技术上并不新鲜。早在2017年12月,国外某ID名为“deepfakes”的Reddit论坛用户,就首次发布了自己制作的AI换脸视频。它能够把照片和视频中的人脸替换成任何想要替换的人脸,且效果十分逼真。
天眼查资料显示,长沙深度融合是海南喵咖网络科技有限公司(海南喵咖)的全资子公司。而王力和雷小亮各持海南猫咖50%的股份。王力为陌陌公司董事、总裁及COO,雷小亮则为陌陌公司联合创始人兼游戏业务部总裁。
“AI换脸”
会不会被“刷脸支付”?
看到有人担心,玩这个软件会不会导致自己的支付宝刷脸被冒充?
先说结论:这点完全别担心,不会的。
这不是互联网上的第一款换脸App,也一定不是最后一款,
但不管怎么换,也不管换的有多「逼真」,你都不用担心支付宝刷脸支付的安全性。
1、「刷脸支付」采用的是3D人脸识别技术
在进行人脸识别前,会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。
2、在支付宝App上开通刷脸支付需要曾输入过密码
支付宝还会通过各种安全风控策略确保账户安全。比如刷脸支付功能需要用户进行开通操作,开通之后才能进行支付,用户也可以随时关闭。而且只有在输入过密码的支付宝App上才能开通刷脸支付。
3、多因子校验,确保万无一失
在支付宝App上,人脸识别并不是唯一的校验方式,我们的智能风控引擎会通过设备、环境等多个因素辅助校验。部分用户还需要输入与账号绑定的手机号以及验证码进行校验,进一步提高了安全性。
4、100%的保障
即便出现账户被冒用的极小概率事件,支付宝也会通过保险公司进行全额赔付。
实际上,AI换脸技术并不是一个刚刚出现的技术,在《速度与激情7》中,为了让保罗·沃克重现荧屏,影片的技术团队就曾大量使用了AI换脸技术。
这项技术的核心是一个“自动编码器”,这个“自动编码器”实际上是一个深度神经网络,它能够接收数据输入,并将其压缩成一个小的编码,然后从这个编码中重新生成原始的输入数据。
简单点说,就是如果你想把视频A中的人物b换成人物c,那么首先需要对视频A进行逐帧切片,并把没有人物b的帧删掉,然后还需要提供人物c的大量图片或视频,方法同上。之后深度学习算法会提取人物b每帧的特征,我们将之命名为feature b,找到人物b变换成feature b所需的光照、扭曲等条件。之后对人物c进行基于feature b的转换,形成feature c,然后用feature c替换feature b即可。
技术本身没有错,错的都是使用技术的人
AI换脸技术自从出现开始,与其相关的争议就没有停止过。2017年,一名叫deepfakes的人,使用AI换脸技术,把一部18禁电影的女演员的照片换成了神奇女侠—盖尔·加朵,并把视频上传到了Reddit论坛上,这应该是大众第一次真正见识到AI换脸这项技术。
之后,deepfakes还使用AI技术侵犯过更多的明星跟名人,被他侵权的人不仅有好莱坞明星,还有特朗普这样的公众人物。迫于各方压力,Reddit论坛封禁了deepfakes的账号。出于报复,deepfakes直接开源了AI换脸项目的代码。因此,这项技术,也被命名为“deepfakes”。
而这项技术在国内被大众所知,是因为B站UP主“换脸哥”发布的一段94版射雕英雄传视频。视频中,原本饰演黄蓉的演员朱茵的脸被替换成了杨幂的脸,从流出的视频和动图看,虽然是用AI合成的,但是整体效果十分逼真。
该视频在网上引发了轩然大波,在对技术的感叹过后,人们开始讨论AI技术的侵权问题。
无论是国内的例子还是国外的例子,都表明了同样的一个问题,AI换脸因其技术门槛较低的缘故,很容易产生侵犯他们名誉权和肖像权的行为。
事实上,AI换脸的黑产早就不是什么新鲜事。
门槛降低带来的也就是鱼龙混杂,有一些人专注于研究、分享自己的换脸作品,出于爱好或是出于玩乐。也有一些人看到了这里面的“商机”,于是对18禁影片进行换脸并打包售卖,最受欢迎的当然就是女明星,据有的卖家透露,其换脸作品几乎囊括国内所有一二线女明星。
在国内,AI换脸俨然已经形成了一个黑产产业链,上游提供软件及技术、中游提供视频、照片定制、下游售卖成品视频,也有的商家做全产业链的生意。部分卖家供不应求,求之者众,黑产规模可见一斑。
不过,值得庆幸的是,目前监管部门已经注意到了AI换脸的危害性。今年4月提交十三届全国人大常委会第十次会议审议的民法典人格权分编拟规定,任何组织或个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。
5月底,国家网信办会同有关部门发布《数据安全管理办法(征求意见稿)》,其中要求,网络运营者利用大数据、人工智能等技术自动合成新闻、博文、帖子、评论等信息,应以明显方式标明“合成”字样;不得以谋取利益或损害他人利益为目的自动合成信息。
政府部门的这两个动作也表明,关于AI换脸等的法律文件或将出台,未来如果再利用AI换脸进行相关操作损害了他人利益的或涉及侵权违法。
未来,AI换脸技术想要更好的发展,关键就是与其相关的配套政策能否完善。作为普罗大众的我们,要做的是用一个合理的态度去看待这个技术。
← 向右滑动与灰产圈互动交流 →