前沿译文:美国算法正义和在线平台透明度法案
2021-06-17 22:48:34 Author: mp.weixin.qq.com(查看原文) 阅读量:543 收藏

翻译人员:陈慧、黄博、陈瑞庭、王玉颖(对外经济贸易大学2020级法学硕士、法律硕士)
指导教师:张欣(对外经济贸易大学数字经济与法律创新研究中心执行主任)

【法案要点提示】

2021年5月27日,美国参议员Edward J. Markey和众议员 Doris Matsui联合提出了算法正义和在线平台透明度法案。该法案禁止在线平台通过算法歧视性地对个人信息进行处理,同时提出一系列措施确保平台在算法使用过程中履行审核和透明度义务。

该法案有以下几点值得关注:

 一、该法案提出个人信息的“合理关联”标准即如果信息可以单独使用,或与一个人持有的或容易获得的其他信息结合使用,以识别一个人或某一设备,则可以合理地将该信息视为与一个人或设备相联系。

 二、提出了算法处理活动的通知义务。该法案提出,对于在线平台使用的每一种类型的算法处理,该在线平台应以明显的、可获得的、不具有误导性的语言向在线平台的用户披露以下信息:

(i)在线平台为该类型的算法处理而收集或创建的个人信息的类别。
(ii)在线平台收集或创建此类个人信息的方式。
(iii)在线平台如何在该类型的算法处理中使用这些个人信息。
(iv)该类型的算法处理对不同类别的个人信息进行优先排序、分配权重或排名,以隐瞒、放大、推荐或向用户推广内容(包括群组)的方法。
(B)所需通知的语言——该在线平台应以其提供服务的每种语言提供(A)项所述的通知。
(C)制定规则——委员会将通过规则制定,以识别在线平台被要求披露(A)项所述信息的每一类算法处理方式。

三、提出了在线平台对算法使用和处理记录的保留义务。该法案提出,在线平台应当对下列记录保留5年,以备审查。

(i)该类型算法处理所使用的个人信息类别;
(ii)该类型算法处理对某些类别的个人信息进行权衡或排序的方法;
(iii)在线平台开发其算法处理类型的方法,包括——
(Ⅰ)对在此种开发过程中使用的任何个人信息或其他数据的描述;
(Ⅱ)对用于持续训练该类型算法处理的任何个人信息或其他数据的描述;以及
(Ⅲ)如何对该类型算法处理进行准确度、公平性、偏倚和辨别性测试的描述;
(iv)如果在线平台(小型企业除外)利用了与住房、教育、就业、保险、信贷、公共设施使用权或使用条款相关的算法处理,则应评估此类算法处理是否基于个人或者某类人实际或认为的种族、肤色、族裔、宗教、国籍、性别、性别认同、性取向、家庭状况、生物识别信息或残疾状况等因素而产生不同的结果。

四、提出了在线平台的算法审核义务。该法案规定,自本法颁布之日起1年后,任何在线平台应以醒目、通俗易懂且不具误导性的语言,向平台用户披露平台内容审核实践的完整说明,包括任何类型的自动内容审核实践和使用人工操作的内容审核实践的说明。同时,该法案规定平台应当发布内容审核透明度报告。立法者要求自本法颁布之日起180天后,任何从事内容审核的在线平台(小型企业除外)应每年至少发布一份关于其内容审核惯例的透明度报告。

五、提出了在线平台算法使用的安全性和有效性标准。该法案提出了“算法处理的安全性和有效性”要求。其中,当满足下列条件时,一项算法处理应被认为是安全的:

(A)算法处理并不生成任何与第4(a)(2)(A)(iv)项下所作评估中描述的项下所作评估中的描述完全不同的结果;或者
(B)虽然产生了与第4(a)(2)(A)(iv)项下所作评估中描述完全不同的结果,但这种结果是非歧视性的,是为了令人信服的利益,且不能通过歧视程度更低的方式满足该利益。
算法有效性是指,如果在线平台使用或者其他对算法处理的利用已经采取合理措施以确保算法处理有能力生成期待的结果,则该算法处理应被认为有效。

六、提出建立在线平台算法处理机构间特别小组。该法案提出为了审查在线平台在算法处理过程中是否存在对个人信息的歧视性使用行为,委员会应针对在线平台算法处理问题建立机构间特别小组。特别小组的成员应当包括来自以下组织或者部门的代表:

(A)委员会;
(B)教育部门;
(C)司法部门;
(D)劳工部门;
(E)住房和城市发展部门;
(F)商务部;
(G)卫生与公共服务部门;
(H)退伍军人事务部门;
(I)平等就业机会委员会;
(J)消费者金融保护局;
(K)联邦通讯委员会;
(L)联邦选举委员会;以及
(M)白宫科学与技术政策办公室。

以下为法案全文:



来源:数字经济与社会

图文编辑:北京师范大学 曾若旸


文章来源: http://mp.weixin.qq.com/s?__biz=MzAxNzM4MDY3NA==&mid=2651371634&idx=2&sn=a361a2bc710b0adc010bf7ab7ca0d2b1&chksm=801a7c5fb76df54991b060d56e8202c2cb77c25160530a3cdab6fbc18ca19d8aa823383f7abb#rd
如有侵权请联系:admin#unsafe.sh