李开复：人类最重要的器官，不是大脑，而是内心

从层出不穷的科幻电影，到阿尔法围棋（AlphaGo），再到产业机器工人，人工智能（AI）在我们时代的强劲出现，带来了知识、技能和生存的恐慌。你对科技有好奇，但是不是也感到了一种紧张？

书评君在“我有嘉宾”第2期中所征集到的问题，就弥漫着这样的恐慌与紧张。

现在，第2期的问答将如约与你相遇。在这一期，书评君请来的嘉宾是李开复先生。在他看来，人工智能工具正在改变着世界，但科幻电影误导了人们对人工智能的理解，它们没有情感也没有自我认知，所有程序都是被编制和控制的。阿尔法在围棋中胜利了，但它并未因此感到快乐。只不过，像任何技术一样，人工智能被怎样使用同样拷问着使用者的用意。

这些征集到的问题中，也有提问李开复先生曾被诊断患上淋巴癌的经历对其影响、普通人的读书境遇与选择。他用自己的经历提出建议，比如“少读成功学的书”、“少读翻译劣质的书”，但于他而言，所有话题都可归至近些年持续关注的人工智能，它不可怕，因为“人类最重要的器官，不是大脑，而是内心。”阅读的意义大概也在于此。

人工智能与我们时代的恐慌“没有一种技术可以告诉我们如何实现超人工智能”

提问（郑欣）：昨日刚刚听完您在哥伦比亚大学的毕业典礼演讲。你提到给毕业生未来职业选择和规划的建议。对于专业并非工程类的语言类学生，我很想知道应该如何做才能不被AI替代。

李开复：不必特别为你的专业担心，因为大部分的专业在人工智能时代，都有类似的问题。

我的建议是：如果你决定深耕一个领域，就要成为该领域的顶尖专家。任何领域的顶尖专家都不会被AI取代；尽量让自己能做战略性的、跨领域的工作或行业。比如说学外语不能只当做语言来学，要学会多国的不同文化和思维方式，并争取能用到这类知识的工作。

如果你有创造性，无论是理工还是人文，那都是不会被AI取代的工作。比如说文科生写诗、小说、剧本等都不会被AI取代；一旦找到一个工作，一定要掌握该领域的AI工具，善用这个工具，和它一起成长考虑服务业的各种机会，让自己更善于与人打交道，寻找基于人际沟通的行业。比如说：用你的外语能力做一个生动有趣，让人真心喜欢的老师或者导游。

1956年的达特茅斯会议（Dartmouth Conference）常常被公认为是人工智能的起源。2006年，会议五十年后，当事人重聚达特茅斯。

提问（陈欣玉）：如果人类要保证不受威胁，什么领域是人工智能绝对不允许涉足的？

李开复：任何一种技术，都是“水能载舟，亦能覆舟”，所以过早或过分担心未来的威胁，而扼杀或“绝对不允许”某种科技，肯定是过激了。比如说：为了保证不会有劫机威胁，我们是否就不允许发明制造飞机了？

当然，任何新的科技都需要关注，并且用法律和行规来降低严重问题。我认为值得关注的问题包括：全自动杀人武器的开发、人工智能使用的隐私数据的合法性、数据和人工智能很强大的公司如何不伤害用户隐私和安全、自我运作的软硬件都应该有人工手动关机功能、人工智能系统安全和防止黑客功能、软硬件植入人体的潜在伤害和影响。

《人工智能》

作者：李开复 王咏刚

版本：文化发展出版社 2017年5月

“我们无需担忧和惧怕人工智能时代的到来，我们所要做的，应当是尽早认清AI与人类的关系，了解变革的规律，更好地拥抱新时代的到来。”

提问（辛颖）：人工智能是否会等同于或超越人类本身的智能？

李开复（由王咏刚代复）：超人工智能诞生并威胁人类这件事发生的概率是非常小的。至少从现在的所有人工智能技术看来，没有一种技术可以告诉我们如何实现超人工智能。也就是说，我们没法在逻辑上预测，今天的人工智能技术必然会在未来发展为超人工智能。

其实，我们现在做的只是在制造工具。我们所面对的，只不过是一系列工程设计上的问题。我们必须确保我们设计制造的产品和服务符合我们的愿望和预期。这件事与桥梁工程师们使用一整套质量保障方案来确保他们建造的桥梁不会坍塌并没有什么两样。

我们有许多工程学上的原则，来指导我们如何测试一个系统，什么样的系统是合格的，什么样的系统是足够安全的，等等。在人工智能领域，我们同样需要这样的技术，因为人工智能十分强大，具有潜在的危险性。但这并不是因为智能机器会像人类一样思考。只是因为它们十分强大，我们必须小心使用它们。

科幻电影的误导“人工智能工具没有感情”

提问（辛颖）：人工智能的趋势化在使人类获得舒适的同时，是否会存在一些未知的风险？如果存在风险，那么以人类目前的能力，“可控”吗？

印度科幻电影《机器人之恋》中的AI对女主人公产生了感情

李开复：很多科幻电影和一些过激的预测影响了很多读者。现在的人工智能只是工具，一次只能在一个领域工作。人工智能的优化目标函数是由人来拟定的。人工智能工具没有自我意识也没有感情。人可以决定随时关掉人工智能工具。比如说，AlphaGo就只会下围棋，但是下棋并没有感到乐趣，赢了也不会开心。比赛结束，公司决定永远“封棋”就封了。

这样的工具用在很多领域，会产生很大的商业价值，也会带来各种必然的问题，比如说贫富差距、大量失业、整改教育。我认为我们应该更多关怀这些必然的问题，而不是花太多时间去担心那些“未知”的风险。这些风险，也许100年甚至更久也不会发生，让技术专家来讨论处理更合适。

提问（Fay Hu）：我是一名医生，感兴趣的是人工智能在医疗方面的应用。请问人工智能的发展瓶颈会在哪？

李开复：人工智能应该是很适合诊断方面，因为是有复杂空间，有数字导向，和客观标注的领域。（就是说：可以输入多维度的各种病人历史信息，测验信息，根据类似的人过去的病情和最后诊断治疗结果作为导向）

但是，很大的瓶颈是数据的隐私问题，还有医院之间的信息未打通，因此很难汇集大量数据来训练人工智能的机器学习。比如说：人脸识别库是打通的，因此，人工智能很快就远超人类。而B超、X光、核磁共振、断层扫描的资料是现阶段无法打通的，所以会形成瓶颈。

另外，就是风险承担方面的问题（诊断错误谁负责？），还有病人是否能接受“机器人医生”的问题。

我认为最快能做出的系统是医生助理诊断系统，这样决定还是医生的。再往下，图片方面的诊断辅助也会有很大的进步。还有，任何大数据量的工作（比如说基因排序、精准医疗），还有和图片相关的工作（比如说上面提到的各种影片识别、病理切片、皮肤科诊断等）迟早都会能解决上述的瓶颈，行程很精确的系统。

也许20-30年以后，机器诊断会全面超越医生，而医生的角色会转换成为“人工智能诊断机和病人之间的界面”。医生会继续和病人对话，问病人问题。而信息的整合，最后的诊断，可能主要是机器来推荐或直接做。医生会负责和病人的沟通，对病人的聆听、关怀、鼓励等。未来医生需要情商沟通方面的能力会越来越重要。

人类最重要的器官“不是大脑，而是内心”

提问（李晓峰）：李老师，您好！人总是在经历事情的过程中完成自我的升华。我特别想聆听的问题是，在经历了那场众所周知的大病（注：2013年，李开复被诊断患上淋巴癌第四期）之后，您的世界观，人生观和价值观有了什么变化？这段经历对您理解人工智能的现在和未来又产生了什么影响？

李开复：4年前，我被诊断患上淋巴癌第四期，当时我面对的无情事实：我的生命可能就只剩下短短几个月。

在那段前路未卜的时间，我对生命的意义深思良多。我意识到我所有的成就，包括在等待30多年后终于来到的人工智能时代，对我来说其实毫无意义。我意识到我过去所追求的科技、产品、投资、事业，我重视各种事情的优先级完全本末倒置。我忽视了我的家庭，我父亲去世了，我母亲已几乎不认得我，我的孩子们也不知不觉都长大了。

在治疗期间，我读了布朗妮·维尔（Bronnie Ware）的一本书，书中记录了临终病人一生中最后悔的事情。作者提到，没有一个人会为当年不够认真工作、不够努力加班、或财产积攒不足而后悔。人们临终时最最盼望的，是希望能再有机会花更多时间与自己所爱的人在一起。

回到人工智能的话题，爱让人类有别于人工智能。不要相信科幻电影里描绘的人工智能的爱（或感情），我可以负责任地告诉你们，人工智能不会有爱，它们甚至没有感情和自我意识。AlphaGo虽然能击败世界棋手冠军，但是它体验不到手谈的乐趣，胜利不会为它带来愉悦感，也不会让它激动到产生想要拥抱一位他爱的人的渴望。

人类已制造出许多以任务为导向的人工智能，在每个具体任务上它们的表现远超人脑，这正是我37年前的梦想。作为一个计算机科学家，我为我们所取得的科技进步成就而自豪。但我现在觉得，自己也许追逐错了方向——人类最重要的器官，不是大脑，而是内心。

《做最好的自己》

作者：李开复

版本：人民出版社 2005年9月

“成功就是做最好的自己。”

提问（梁慧杰）：您最近在阅读什么书？对于工作和阅读您是如何安排的？

李开复：我最近在阅读的书包括：《未来简史》，《北京折叠》，三本英文书：Abundance: The Future Is Better Than You Think（中文名是《富足》，贾拥民译），Option B: Build resilience in the face of adversity（Facebook COO桑德伯格的新书），Thank you for being late（有繁体中译本《謝謝你遲到了：一個樂觀主義者在加速時代的繁榮指引》）。

关于读书，我想给大家六个建议，三做三不做，非常简单的建议，应该适合每个人。

第一个建议，多读不同意见的书。我觉得在东方长大的小朋友们常常被灌输一种思想，认为书上写的就是对的，读了书要把它背下来。我觉得这样并不好，其实每一件事情都有很多面，有很多不同的观点、不同的意见。我建议大家不要把书当圣经，多去读一些不同观点的书，而不是只读那些你认为是你同意的，符合你观点的书，尝试读一些跟你的观点有冲突的书。如果你能多方面来看待同一件事情，也可以培养批判式思维。另一方面，就算你坚持你原来的想法，你也可以了解别人是怎么想的，当你和对方辩论或者持有不同意见的时候也许可以用到。

第二个建议，多读历史。走了这么长的路，看了这么多的事情，读了这么多的书，我发现历史总是在重复，人类还是不断在犯过去犯过的错误。我想如果我们每个人都多读历史的话，也许我们可以多了解人性、可以少走一些弯路。

第三个建议，是要中西融会贯通。虽然中国古老的思想、文学都非常精湛，可以学到很多东西，但是我在哥伦比亚大学读的那几百本书，我觉得对我还是有非常深刻的启发。所以有时间的话，我觉得还是平衡一下，读一些东方的书，也读一些你想读的西方的书，比如英美哲学家的书、莎士比亚的书等等，东西方的思想能够平衡吸取。

第四个建议，不要读翻译劣质的书。当你读西方的书时尽量读原文书，因为翻译的过程会流失很多有价值的东西。所以英文好的同学，可以读原文书；英文不错的同学，可以先把英文学好，然后读原文书；实在不想学英文的同学们，那读中文书也可以，但是一定要找好的翻译来源。我发现比如《乔布斯传》，我看了两个中文版，翻译水平差异是巨大的。

第五个建议，少读纯理论的书。有些纯理论的书，不是在过去实例的验证之下写成的，所以我会更建议大家去读那些有真实的事例穿插的书，而不是纯理论化的一本书。

最后一个建议，少读成功学的书。每次走到书店看到我的书被放到成功学，我就想低着头走过去，因为，我觉得大部分成功学的书，其实都是一些没有实干过的人，把一些理论攒起来，让你认为自己看完也可以成功的书，而且它教导的可能是“你只要模仿谁谁谁就可以成功”。

但是实际上每一个人是不同的，每一个人成功的模式也是不同的。而且那些写成功学的书的人，他们自己成功了吗？他们自己有经验吗？他们分享的是攒来的经验还是自己的经历总结呢？所以我建议少读成功学的书。但是如果你很想学习一些成功的典范，那么我会推荐多看自传。看自传的时候，也要看作者本人自己写的自传，而不是授权别人写的，因为别人写的也是攒出来的。最后，即使看作者本人的自传，也不要盲目地去学习对方的一切，因为每个人是不一样的，学习那些适合你的。