![]()
![]()
2019年7月31日，欧洲议会成员向欧盟数据保护委员会（EDPB）写信咨询欧盟《通用数据保护条例》（GDPR）作为一个欧盟立法是否具有保护公民免受不公平算法侵害的正当性。EDPB针对该问题进行了研究并于2020年1月29日进行了回复，其中表明EDPB非常重视不公平算法影响公民权利的问题，并进行了相关思考。EDPB是否认为GDPR能够充分保护公民免受不公平算法的侵害？EDPB认为，GDPR是保护公民数据保护权利的一个健全的法律框架。不公平算法的问题也可能在其他领域产生后果，例如在消费者保护、反歧视和竞争法方面。因此，EDPB一直与成员国和欧盟级别的其他相关监管机构保持联系。任何通过算法处理个人数据的行为，均属GDPR的监管范围。这意味着GDPR能够涵盖大多数算法的创建和使用。由于基于风险的方法、数据最小化原则以及数据保护的设计和默认要求，目前的法律框架解决了许多与通过算法处理个人数据相关的潜在风险和挑战。由于许多原因，算法可能会导致不公平甚至歧视性的结果，这些原因需要单独处理，因为每一个原因都可能需要对相关的个人提供特定级别的保护。正如个性化服务的情况一样，歧视可以是算法的创建者或决策者的一种故意选择。我们当前社会中收集的一些数据集可能包含有偏见、不公平甚至歧视性的信仰和行为，或者仅仅反映了大多数人的习惯，他们的偏好可能被认为是对少数人的不公平和歧视。因此，当算法根据这种有偏差的数据或根据多数派和少数派之间的不匹配进行训练时，得到的算法将反映这种偏差或不匹配。最后，歧视甚至可能是算法设计或使用无意中产生的副作用。其中一些歧视来源与人类的意图有关，需要特定的行为或道德保障，另一些则与数据(有时是个人数据)的处理方式有关。除了不公平待遇的风险之外，从数据保护的角度来看，算法还面临着另外两个挑战，这也是该技术所固有的。首先，有处理大量数据的动机。通常的假设是，用于训练算法的数据越多，它们在预测自己被训练做什么的时候就越准确。其次，算法变得越来越复杂，使用算法将更加透明。这种不透明是由于算法的内部工作非常难以理解或理解存在障碍(黑盒)。这可能会导致数据主体的数据被算法处理时缺乏透明度，并导致使用算法的人员失去自主性。虽然GDPR完全适用于所有的个人数据处理，但EDPB希望强调的是在处理使用算法所产生的潜在风险方面可以发挥重要作用的具体条款。如，第5条中规定的一般原则，特别是在创建和使用算法处理个人数据时的合法性、公平性和透明度、准确性、数据最小化和目的限制。第12-14条中进一步规定的透明度原则要求控制者采取适当措施，以使数据主体了解其数据的使用情况。这需要以一种简洁、透明、易懂和容易理解的方式来实现。这些规定要求使用自动决策算法的所有人必须通知数据主体，并提供关于其算法逻辑的资料，以及其意义和预想的后果。此外，数据控制者必须确保数据保护的措施，这意味着他们需要采取适当的措施在决定使用或训练算法时，有效地执行上述数据保护原则，保护自然人的权利和自由，并整合必要的保障措施。这就要求在开发技术的各个步骤中采用基于个人数据保护的方法，包括算法的选择和使用。责任原则要求数据控制者确保遵守GDPR，这意味着控制者必须考虑所有潜在的风险，即使用或创建特定的算法可能会给自然人带来的对权利和自由的影响，如果有必要，还要采取措施来解决这些风险。最后，GDPR包含了自动决策的具体规定。第22条禁止仅基于自动决策的任何处理，这意味着在实践中，通常不可能仅仅依靠算法的结果来做出敏感的决策。此外，第22条要求数据控制者采取适当措施，以保障数据主体的权利、自由及其合法权益，其中包括取得人为干预的权利。这种人为干预必须是有条件的，能够发现和纠正不公平的结果或歧视。考虑到已经普遍存在的法律框架，EDPB认为针对特定技术的数据保护出台立法还为时过早。相反，目前的重点是拓展现有的规范，特别是在机器学习算法的背景下对透明度、可问责性等要求。考虑到使用不公平算法可能会产生数据保护领域以外的后果，EDPB认为，为了保护个人不受算法的不公平或歧视性结果的影响，有必要采用跨学科方法。然而，当前的数据保护法律框架为在上述公平、透明和个人权利等方面进行有效的监督和执行提供了许多选择，并授予个人数据保护机构的控制权。这种执法可以采取多种形式，包括但不限于：积极告知公众他们的权利；提供咨询；进行调查等等。一些成员国数据保护机构机构已经收到了关于咨询的请求，以及来自包括算法技术组织在内的非正式咨询请求，其中一些机构已经发布并提供了指导。作者简介：刘耀华，中国信息通信研究院互联网法律研究中心研究员特别鸣谢！
文章来源: http://mp.weixin.qq.com/s?__biz=MzAxNzM4MDY3NA==&mid=2651362063&idx=1&sn=8690337331acf4f5b3849a96e3366a44&chksm=801a5722b76dde34615a377da7e491a9d47299736c64f9eed38d96913e0a256e42b0b02c7c1c#rd
如有侵权请联系:admin#unsafe.sh