人工智能的伦理和隐私难题

【编者按】

如何深刻理解与全面把握“大变局”，决定着中国对当今世界未来与中国发展的清晰认识，也会直接影响中国人的日常生活。近日，《百年变局》一书出版，从政势之变、经济之变、数字之变三个篇章展开，阐述在百年变局的背景下政治、经济、科技的变化趋势，并在此基础上引出当前的中国应该怎么办，未来向何处去。本文摘录“数字之变”中的部分内容，在简要回溯人工智能的历史的基础上，探讨人工智能的伦理和隐私难题。

怎样进行人工智能监管？这已经成为一个全球性难题。普京曾经指出：“人工智能是未来，但也有难以预测的威胁。无论谁成为这个领域的领导者，都将会成为这个领域的统治者。”普京指出了一个残酷的现实——在人工智能领域是赢家通吃的世界，而不受约束的科技亦正亦邪，是锋利的双刃剑。

1.人工智能“一键脱衣”的危机

2019年6月27日，一款“一键脱衣”的软件DeeNude引起了全球媒体的焦虑。只要给DeepNude一张女性照片，借助神经网络技术，App可以自动“脱掉”女性身上的衣服，显示出裸体。

DeepNude的创建者阿尔贝托（Alberto）在接受媒体采访时表示，该软件基于加州大学伯克利分校研究者开发的开源算法pix2pix创建，并使用1万张女性裸图加以训练。这一算法与之前的人工智能换脸技术deepfake算法相似，也和无人车技术所使用的算法相似。阿尔贝托还表示，该软件目前之所以只能用于女性照片，是因为女性裸体图像更容易在网上找到，但他希望能创建一个男性版本的软件。反“色情复仇”组织Badass的创始人凯特琳·鲍登（Katelyn Bowden）感叹说：“真是让人震惊。现在每个人都有可能成为色情报复的受害者，即使没有拍过一张裸体照片，也可能会成为受害者。这样的技术根本不应该向公众开放。”

2.想避免风险会是发展的最大风险：以无人驾驶为例

2018年以来，随着人工智能技术带来的各种改变，例如对工作的威胁，对个人大数据信息的精准分析，引起了全球各国人们的普遍恐慌。规避风险是人的天性，但不是发展的目的。托马斯·阿奎那（Saint Thomas Aquinas） 曾经写道：“如果船长的最高使命是保护他的船只，那么他永远只会停留在港口。”和其他所有创新类似，人工智能的最终目标是促进人类社会的发展，而安全是发展的一部分。过度担忧在一定程度上会阻碍技术的发展。下面以无人驾驶为例来说明这个问题。当前无人驾驶技术发展全面加速。尽管2018年出现了两起无人驾驶致命车祸，但大部分无人驾驶汽车公司的发展并没有受到影响。自动驾驶的人工智能发展不能只局限于实验室，同时也需要大量的实际路况测试和数据训练。通过公路的无人驾驶实际运行，让驾驶AI学习规范、合法和安全的驾驶，不断修复存在的系统问题。当前美国有部分州政府通过了无人驾驶公路测试法案，其中加州对无人驾驶发展的支持最为积极。根据加州车辆管理局的报告，2017年无人驾驶车辆的实际公路测试中，测试车辆以完全无人干预的自动驾驶模式运行的里程数超过50万英里。其中Waymo（谷歌拆分出来的自动驾驶公司）和Cruise（通用汽车子公司）自动驾驶测试里程数最多。下图是加州车管局（DMV）公布的2017年1至11月各公司汽车自动驾驶平均里程数（自动行驶距离/人为干预次数）。

2017年1-11月加州路测汽车自动驾驶的平均英里数（自动行驶距离/人为干预次数）。资料来源：California DMV.

从图看，大部分公司2017年下半年人为干预自动驾驶的频率明显下降。Waymo公司1-6月无人驾驶平均英里数是4847英里，7-11月增长了55%。通用公司的无人驾驶里程数也从1-6月的627英里增加到了7-11月的2750英里，增长338.6%。百度也表现不俗，增长了600%，无人干预自动驾驶平均距离达到了119英里。根据加州DMV的数据，当前获准在公路上进行无人驾驶的汽车数量约400余辆（可查数据是409辆）。其中Cruise公司最多，占104辆；其次是苹果和Waymo，分别是55辆和51辆。Waymo公司是当前加州唯一在不配置备用驾驶员的情况下准许在公路进行自动驾驶测试的公司。

但民众特别是发达国家的民众对无人驾驶的担忧却开始越来越强烈。从2018年年初的民意调查看，亚非拉人民对自动驾驶的热情远高于西方发达国家。根据盖洛普2018年年初对1503名美国民众对无人驾驶相关问题进行的调查，有34%的人表示他们期望未来6至10年内美国能普及无人驾驶。有19%的受访人认为未来五年内无人驾驶就会随处可见。

民众对自动驾驶的接受程度，各地区差异较大。根据跨国咨询公司益普索集团（Ipsos）近期对中、印等15个国家2.15万人的抽样调查表明，亚非拉国家普遍比较欢迎自动驾驶，而西方发达国家反对人数占比反而更多。如下图所示，印度和中国对自动驾驶最热情，分别有49%和46%的人表示非常期待。根据Ipsos的调查，在南美，巴西有31%受访者表示欢迎自动驾驶，和俄罗斯接近。但美国可能由于受最近几个月无人驾驶车祸事件的影响，有近四分之一的人表示不会尝试自动驾驶。欧洲国家反对自动驾驶的人也比较多，德国占31%、法国和英国分别占25%和24%。加拿大也有24%的人表示明确反对。

部分国家民众对自动驾驶汽车的态度（省略态度中立人数占比）。资料来源：Ipsos

虽然无人驾驶汽车发展过程引发了民众对于安全的焦虑，但究竟是进一步加强监管还是提供较为宽松的环境？当前从美国和我国的实际情况来看， 并没有因为存在风险而加强对无人驾驶的束缚。

部分国家民众对自动驾驶汽车的态度（省略态度中立人数占比）

根据皮尤调查2016年的数据，2006-2016年十年中，美国的人类驾驶员造成4万人不必要的死亡。换句话说，每天有100人被一名人类驾驶员杀死。另一方面，自动驾驶汽车可以将交通事故死亡率降低多达90%。这意味着延迟的成本由于监管焦虑而无人驾驶的汽车技术每年将导致成千上万的不必要的死亡。莫卡特斯中心（Mercatus Center）模型表明，5%的监管延迟可能会产生额外的15500例不必要的死亡事故。延迟25%意味着112400名不必要的死亡。所以，从长远发展看，因为害怕无人驾驶带来的风险而限制其发展，本身就是最大的风险，因为无人驾驶较之于人类驾驶，有着显然的优势。其他人工智能领域也存在类似的问题。

3.当前我国人工智能发展遇到的问题

一是大数据生态有待进一步完善。当前人工智能是以大数据为基础的，需要依托大数据对机器智能进行训练。在这一方面，目前我国依然存在一些问题。一是大数据生态系统方面落后于美国，缺少统一的标准和跨平台的共享。二是公共大数据开放依然有限。开放政府大数据有助于私营部门的创新，但我国的公共部门开放的大数据依然相对少。三是跨国大数据流动的安全问题，我国在这方面面临的挑战越来越严峻。

二是人工智能人才问题。我国在人工智能基础研究方面依然落后于美国，其中主要原因之一是人才依然短缺。当前我国对高端人工智能人才的渴求依然是非常强烈的。美国超过半数的资据科学家拥有10年以上的工作经验，但据麦肯锡统计，我国相关领域经验不足5年的研究人员高达40%。我国当前只有不到30个专注于人工智能的大学研究实验室，仅靠这些实验室是无法产出足够的人才来满足人工智能行业的需求的。此外，我国当前人工智能人才分布也不均匀，主要集中在计算机视觉和语音识别领域，而其他领域的人才相对更少。

三是人工智能核心硬件依然存在诸多不足。我国的微处理器（micropro-cessors）长期以来严重依赖进口，部分类型的高阶半导体则几乎完全依靠进口。为解决这一难题并掌握半导体核心技术以提高我国在未来更广泛地部署人工智能领域的能力，我国在2014年发布《国家集成电路产业发展推进纲要》和《中国制造2025》，并设立了一个超过200亿美元的基金，通过并购、投资入股国内外半导体产业等，积极扶持国内半导体产业，虽然已见初步成效，但自主创新之路仍然艰辛漫长。

4.对未来我国人工智能发展的建议：夯实基础，保护知识产权，鼓励创新

纵观人工智能的发展，既有低谷，也有高峰，一路走来，在曲折中前进。回顾历史，人工智能的发展既离不开基础设施的发展，也受到市场利益的推动。未来，人工智能的发展会越来越广泛，它会促进全行业数据的加速产生，推动移动化计算的发展。在垂直领域，AI也会向商业化发展靠拢，创造出更多的直接经济价值。因此，回归基础建设，完善大数据生态，加强知识产权保护，依然是当前我国推动人工智能发展的重点，这三项基础工作做好了，才能进一步激发社会的创新能力，激活企业的人工智能创新动力，为我国在数字时代的腾飞培育坚实的核心动能。

《百年变局》，王文、贾晋京、刘玉书、王鹏/著，北京师范大学出版社2020年5月版。