评论 | 给AI投喂数据 应取之有道
2023-11-22 18:17:21 Author: mp.weixin.qq.com(查看原文) 阅读量:4 收藏

扫码订阅《中国信息安全》

邮发代号 2-786

征订热线:010-82341063

近日,办公软件WPS在其隐私政策中的表述被质疑滥用用户隐私,引发关注。随后,WPS官方微博回应称,去除了容易引起误解的表述,并承诺所有用户文档不会被用于任何AI训练目的,也不会在未经用户同意的情况下用于任何场景。
据媒体报道,近期WPS在大模型新风口方面动作频频。4月中旬WPS AI首次对外亮相,7月上旬WPS AI官网上线,9月下旬基于大语言模型的智能办公助手WPS AI接入金山办公全线产品。作为一家IT行业的科技企业,向AI靠拢是顺应潮流,趋势使然。但是,也不能囫囵吞枣,不管用户同不同意,什么信息都往自家AI嘴里塞。
类似问题并不是第一次出现,也不可能是最后一次。
此前,一款基于生成式人工智能的摄影软件“某某相机”,也因存在滥用用户信息的嫌疑而引发批评。这段时间以来,AI大模型如雨后春笋般席卷全球,以深度学习为代表的新一代人工智能不断取得技术突破,并将成为智能产业的根技术和智能经济的基础设施。但是,AI大模型要真正好用,离不开海量数据的填喂。
把数据比作信息时代的“石油”,并不夸张。那么,数据哪里来?或者说,合法合规的数据从哪里来?
就技术角度而言,用户的数据挖掘、沉淀、分析、存储早已不是问题,问题在于这些数据的来路正不正,用户知不知情、同不同意。科技部人工智能发展研究中心5月底发布的《中国人工智能大模型地图研究报告》显示,当前国内10亿参数规模以上的大模型已发布79个。一边是“嗷嗷待哺”的AI大模型,另一边是越发重视个人信息保护的用户。两厢如何平衡?这事关个人信息和数据安全,事关万千网民的切身利益。
技术大跨步向前,治理的步伐须紧紧跟上。各国AI领域竞争十分激烈,国内企业早一点站上新风口,抢占先发优势的心理可以理解,但是AI训练也要守住底线。否则,失去科技伦理制约的先进技术,早晚会反噬人类自身。今年7月,我国出台《生成式人工智能服务管理暂行办法》,明确“不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益”,强调开展训练数据处理活动“涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形”。这些约束,明确了原则,划出了红线。
更好统筹发展和安全,让技术永续地造福人类,须从一条条隐私条款的合法合规做起。
(来源:潮新闻)

《中国安全信息》杂志倾力推荐

“企业成长计划”

点击下图 了解详情


文章来源: https://mp.weixin.qq.com/s?__biz=MzA5MzE5MDAzOA==&mid=2664197982&idx=8&sn=1a9c59fe1b5964722051e496b11dcba9&chksm=8b596da7bc2ee4b1c3f91a15b27e97ed38349a215f63d59d6064d27a44831289e0239ac518fa&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh