欧盟强势：严控数据隐私之后 再立AI道德准则

欧盟不愧为地表最狠角色。

去年5月正式生效的《一般数据保护条例》(General Data Protection Regulation，下称“GDPR”)尚且如雷贯耳，自法律颁布之后，欧盟开始对科技公司的产品和做法是否合法展开调查。最新的消息是，日前微软公司相关的产品和服务也成为调查对象。

如今，欧盟又有新动作。

4月9日消息，据外媒报道，当地时间4月8日，欧盟委员会(European Commission)发布了人工智能道德准则。在周一发布的报告中，欧盟委员会列出了有关人工智能伦理的7项关键要求，包括维持人类对该技术的监督、让程序可追溯、建立机制让系统负责。

人工智能道德准则

欧盟将人工智能定义为显示“智能行为”的系统，允许它们分析环境并在一定程度上自主执行任务。如今，人工智能已经在改变人类的工作进程与生活，比如进行自动化的重复性任务，以及分析大量数据。

但这项技术亦随之引发一系列伦理问题，比如如何确保算法在编程时没有偏见，以及如果出现问题，人工智能如何承担责任。

具体而言，欧盟提出的AI准则包括以下内容：

1、人类作用和监督。人工智能不应该践踏人类的自主性。人们不应该被AI系统操纵或胁迫，而且，人类应该能够干预或监督软件做出的每一个决定。

2、技术的稳健性和安全性。人工智能应该是安全的、准确的。它不应该易于受到外部攻击(例如对抗性实例)的影响，而且，应该是相当可靠的。

3、隐私和数据管理。人工智能系统收集的个人数据应该是安全的、私有的。它不应该让任何人接触，也不应该轻易被盗。

4、透明性。用于创建人工智能系统的数据和算法应该是可访问的，软件所做的决定应“由人类理解和跟踪”。换句话说，操作员应该能够解释AI系统所做的决定。

5、多样性、非歧视和公平性。人工智能提供的服务应面向所有人，无论年龄、性别、种族或其他特征。同样地，系统不应该在这些方面存在偏见。

6、环境和社会福祉。人工智能系统应该是可持续的(即它们应该对生态负责)并“促进积极的社会变革”。

7、问责制。人工智能系统应该是可审计的，并被纳入企业可举报范畴，以便受到现有规则的保护。应事先告知和报告系统可能产生的负面影响。

“人工智能的道德维度既不是奢侈品，也不是附加功能。”欧盟负责数字单一市场的副主席安德罗斯？安西普(Andrus Ansip)周一在一份新闻稿中表示，“只有有了信任，我们的社会才能充分受益于技术。”

此前已多有探讨

在面对新技术尤其是AI的规范与约束方面，欧盟显然一路向前。不过，其他国家也从未忽视这个话题。

资料显示，早在数年前，韩国政府便着手拟订《机器人道德宪章》，美国信息技术产业委员会(ITI)则于2017年颁布了人工职能的14条政策准则。直到去年，欧盟出台了史上最严数据保护条例——《通用数据保护条例》(General Data Protection Regulation，简称GDPR)，旨在加强对数据的保护，以大数据为“养料”的AI行业也是其矛头所向。

不仅是政府在制定AI相关准则，科技企业也在做同样的事。

去年，谷歌在为美国国防部开发AI的Maven项目带来的舆论压力下，于当年6月申明，在人工智能开发应用中，将坚持公平、安全、透明、隐私保护等在内的7个准则。同时，谷歌方面承诺不会将AI技术应用于开发武器，不会违反人权准则将AI用于监视和收集信息，避免AI造成或加剧社会不公等。

微软去年同样提出了开发人工智能的六项基本原则：公平、可靠与安全、隐私与保密、包容、透明、负责。微软公司总裁施博德(Brad Smith)表示，这六项基本准则是为了确保人工智能能够以一种合乎伦理的方式得以使用。“微软认为，要设计出可信赖的人工智能，必须采取体现道德原则的解决方案，在赋予计算机更大力量的同时，也需要用社会伦理来引导它。”

施博德指出，这六项基本原则中，前四项(公平、可靠与安全、隐私与保密、包容)依赖于后两项(透明、负责)。“首先是透明，只有能够有透明度才能够确信前四大原则都得到实现。最后也是最重要的，也就是负责，需要确保追责机制，这意味着AI并非在没有人类监督的情况下任意制定决策。”

两周前，谷歌成立了一个讨论AI伦理问题的委员会，旨在指导谷歌的AI发展。据报道，该委员会一共有8名成员，其关注的问题包括AI如何在权威领域应用、AI算法怎样产生不同的结果、是否要在军事领域开展AI项目等等。但遗憾的是，这家科技公司因其挑选的成员而受到抨击。仅仅一个星期后，该委员会便已解散。

GDPR已开出罚单

欧盟委员会的建议，是欧盟约束科技巨头滥用技术力量的体现。

需要注意的是，在本次欧盟提出关于AI道德准则的7项关键要求中，其中一条就是保证不会拿公民个人资料，做出伤害或歧视他们的行为。这相当于再次强调了GDPR的规定。

去年，欧盟正式实施了具有里程碑意义的GDPR，并随后对谷歌和苹果等科技巨头开出创纪录的罚单。2019年初，法国相关监管机构依据GDPR向谷歌开出了5000万欧元(约合3.8亿元人民币)巨额罚单，理由是谷歌在向用户定向发送广告时缺乏透明度、信息不足，且未获得用户有效许可。

这也是GDPR实施以来首次对违反法令的企业提出诉讼并开出罚单，这张罚单也使谷歌成为欧盟GDPR实施后第一个被处罚的美国科技巨头。

更多的企业还在被盯上。去年11月底，万豪酒店宣布，其内部调查后发现，因未经授权访问入侵，喜达屋预定系统中用户个人隐私泄露可能被泄露。就此也引发相关调查，可能会面临诉讼和高达其年收入4%的罚款。

除此之外，包括Facebook、苹果、微软等科技巨头均有可能被开出相应罚单。

欧盟在技术投资上相对落后，这或许与他们对技术审慎的态度相关。欧盟委员会周一表示，欧洲在人工智能领域的私人投资落后，2016年在这项技术上的投资在24亿至32亿欧元(合27亿至41.5亿美元)之间。相比之下，亚洲高达109亿美元，北美高达209亿美元。

然而，欧盟对技术的强势、反思与规范，无疑将助推技术更好地为人类服务。

（文章来源：21世纪经济报道）