《人类简史》出版10周年：人工智能是用来造天堂还是建地狱

【编者按】

《人类简史：从动物到上帝》出版后，畅销世界，这是以色列历史学家尤瓦尔·赫拉利在写作这本书的时候不曾想到的。同样让尤瓦尔·赫拉利不曾想到的是，在这本书出版十年后，人类的故事有了很大的转变。2021年夏天，他写作了此文，以备日后《人类简史》出版限定版时使用。近日，中信出版集团推出了“人类简史三部曲”（十周年畅销纪念版），收录了此文。

尤瓦尔·赫拉利

2011年夏，我写完后，觉得肯定不会再讲那个故事了。我对那本书有一份特别的喜爱，也为该书的成功而心存感激，但我觉得我已经讲完了人类这个物种如今的故事。人类2.0仍在展开，可我想以后的故事最好留给别人去讲。

但是，2016年美国总统选举后，我想我恐怕要回到开头，重新审视我们这个物种通过想象建构秩序和统治结构的独特能力。

过去几年间，我们看到，假新闻比真新闻更强大；联邦调查局可以选总统；脸书可以左右选举；一个亿万富翁可以当选总统，而且比对手花的钱还少；一个国家可以分裂为两个敌对阵营，彼此拒绝倾听对方的意见。

换言之，人类以想象来建构大规模秩序这一独特的能力现在开始转向对我们不利。

过去，民族国家和资本主义市场这些想象建构的秩序赋予了人类更大的力量。它们创造了空前的繁荣，产生了空前的福祉。可是今天，民族国家和资本主义市场等想象建构的秩序开始将我们撕裂。

今天我们面临的巨大挑战是创立一个不以民族国家或资本主义市场为基础的由想象建构的新全球秩序。

有没有办法创造一个并非基于民族国家，或自由市场，或个人主权，或驾驭自然的想象建构的新全球秩序呢？

这就是我想在本书中讲的故事。

写出上面这些文字的不是我尤瓦尔·诺亚·赫拉利，而是一个强大的人工智能系统按指令模仿我的写作风格写的。这个人工智能系统叫作GPT-3，是旧金山一家专门研究机器学习的实验室“OpenAI”制造的。GPT-3接到指令，要它为《人类简史》出版10周年写一篇新序，于是它收集了我写过的书和文章、对我做过的访谈，以及在网上找到的几十亿个句子，使用这些原材料生产出了上面的文字。这些文字没有经过任何编辑改动。

我读着GPT-3模仿我的风格写出的文字，心情复杂。一方面，我觉得这些文字不怎么样。GPT-3抄了我自己写过、说过的一些话，将其与从互联网上搜罗到的各种主张糅在一起。这些主张中有很多是我不同意的，甚至有些我认为不能服人，或者简直荒唐可笑。如此产生的文章是文字与思想的大杂烩。目前我并不担心——GPT-3不会夺走我的工作，至少今后几年不会。

另一方面，我真心讶异不已。读着上面的文字，我被惊得瞠目结舌。这是人工智能写的吗？！不错，这些文字是这里一点那里一点拼凑起来的杂烩。可天下文章难道不都是这样吗？我写《人类简史》时，也阅览了许多书籍、文章和访谈录，把不同的思想和事实合并起来写成新的东西。GPT-3生产的这些文字最令人震惊的是它居然言之有理。它不是胡乱拼凑了一堆句子，而是有着连贯的逻辑。我不同意GPT-3的一些论点，但使我感到惊骇的是，这些文字真的提出了论点。如果给“无限猴子定理”中的猴子一台打字机让它玩，我只需瞥一眼，半秒钟内就能够认定猴子打出的东西不是我写的。可是，我得把GPT-3的文字仔细读上一两分钟，才能得出结论这并非出自我手。

还有一点令我惊愕，也令我警觉。那就是变化的步伐。GPT-3作为人工智能依然非常原始。厉害的还在后面。2010年我写《人类简史》时，我几乎没有想过人工智能。它听起来不属于严肃的历史书，倒像是科幻电影的题材。可是，当我坐在图书馆里埋头于故纸堆的时候，我那些在计算机科学实验室的同事也没闲着。2011年，《人类简史》以希伯来文首次出版，一个名叫沃森的人工智能在美国一个很受欢迎的智力竞赛节目《危险边缘》（Jeopardy!）上打败了人类参赛者，一辆自动驾驶汽车在柏林城里的大街小巷穿行了一圈，苹果手机上安装了语音助手Siri。

《人类简史》希伯来文版封面

10年后，人工智能革命席卷世界。这场革命标志着我们所知的人类历史的完结。数万年来，人类发明了各种工具，使人类的力量更加强大。斧头、轮子和原子弹给了人类新的力量。人工智能却不同。有史以来第一次，力量可能会脱离人类之手。

以前的所有工具都使人类更强大，因为工具本身无法决定自己的用途。决定的权力从来都掌握在人的手中。一把斧头决定不了砍哪棵树，一颗原子弹无法决定是否要发起战争。但人工智能可以。今天，你去银行申请贷款时，已经是人工智能系统决定是否批准你的申请了。你求职投简历的时候，审查你的简历、决定你的命运的很可能是一个人工智能。

以前的所有工具都使人类更强大，因为人懂得工具，而工具不懂得人。一个农夫知道一把斧头能做什么，但斧头不明白农夫的需要和感觉。很快，人工智能就能比我们更加了解我们自己。它是会继续做我们手中的工具，还是我们会成为它的工具呢？

至少还有几年的时间，人仍然比人工智能更强。具体来说，我们仍有能力决定人工智能和其他革命性技术的发展和用途。我们一定要明智地使用这个能力。技术的目的从来不是先天确定的。同一个技术可以有许多不同的用途。在20世纪，一些社会通过电力、火车和无线电的力量建立了极权独裁，其他社会使用一模一样的技术创造了自由民主政体。21世纪的新技术是用来造天堂还是建地狱，全看我们如何选择。

要做出明智的选择，我们需要了解新技术的充分潜力，也需要更好地了解自己。如果我们能使用人工智能创造一个新世界，那个世界将是什么样子？如果你能够使用生物工程学来重塑人的身体与头脑，你会做出何种改动？

童话故事里，一条神奇的金鱼或一个无所不能的精灵答应满足人的3个愿望时，通常都没有好结果。人所求的都是错的，因为他们不知道自己的苦难或幸福的真正来源。若想比童话故事里那些笨拙的人得到更好的结局，就需要知道作为人的意义。我们是谁？我们从哪里来？

所幸过去10年间，随着数字设备的威力呈指数增加，我们对人体生物学和人类历史的知识也加速增长。自从2011年《人类简史》出版以来，科学家发现了人类族谱上的几个新支。2013年，在南非初次发现了属于纳莱迪人（Homo naledi）的遗骨。2019年，发现了曾居住在菲律宾吕宋岛上的吕宋人（Homo luzonensis）。2021年，在以色列和中国分别发现了两个可能的新人类物种。

我们不仅知道了其他古人种的存在，还对他们的生活有了更多了解——他们吃的食物、他们的行为方式，甚至他们交配的对象。我写作《人类简史》时，我们只知道几个小小的线索，暗示智人和尼安德特人发生过混种繁殖。现在，我们已经掌握了关于他们相遇相交的很多证据。我们还知道，智人和尼安德特人都和另一个神秘的人类物种杂交过，那个物种叫丹尼索瓦人，是2010年初次发现的。最近，科学家发现了一个混种人的骸骨，其母亲是尼安德特人，父亲是丹尼索瓦人。

自我写成《人类简史》以来，人类的故事增添了众多细节和新的曲折。但是，我在书中表达的中心意思丝毫没有改变：对智人最好的描述是，他是会讲故事的动物。我们创作出了关于神、国家和公司的虚构故事，而这些故事构成了我们社会的基础和我们生活意义的源泉。为了这些故事，我们经常不惜杀人或者被杀。在黑猩猩、狼或任何其他有智能的社会性物种中，都看不到这种行为。我们比任何其他动物知道的真理都多，但我们相信的虚构故事更多。只有人类会为了故事而彼此杀戮，而我的论点是，如果真想搞懂人类历史，就必须认真对待我们的虚构故事。只看经济或人口因素是不够的。

仅以第一次世界大战为例。德国和英国为什么打仗？不是因为领土不够大或食物不够多。1914年，两国有足够的领土为所有国民造房子，也有足够的食物养活国民。但是，它们两国无法就一个它们都能相信的共同故事达成一致，于是就发动了战争。今天，英国和德国实现了和平，不是因为它们的领土增加了（其实两国的领土比1914年时少了许多），而是因为现在它们有了一个大部分英国人和德国人都相信的共同的故事。

几千年前佛陀就说过，人世乃梦幻泡影。的确，国家、神祇、公司、金钱、意识形态——都是我们创造并相信的集体幻影，人类历史就是由它们统治的。在人工智能时代，我们相信的故事比以前更加重要，因为我们有了追求幻想的更强大的技术。

古人想象天堂和地狱时，他们的幻想深深地影响着他们的行为。他们打仗、杀死所谓的异教徒、不吃某种食物、禁止某些性行为，因为他们认为这样能够上天堂。可是，他们只能把天堂推迟到想象中的来生。在21世纪，至少有些人会忍不住使用人工智能、生物工程学和其他革命性技术来试着在今世实现自己的幻想。如果我们不谨慎地选择自己所相信的东西，很可能会被幼稚的乌托邦幻想误导，陷入技术地狱之中无路可退。

要创造一个更美好的世界，只学会计算机编码或解译遗传密码是不够的。人工智能和遗传工程学很容易被用来为极权暴君和宗教狂热分子服务。我们真正需要明白的是人的头脑以及头脑产生并相信的幻想。这是诗人、哲学家和史学家的任务，现如今这个任务比任何时候都更加紧迫。

常有人问我，为什么《人类简史》引起了这么多读者的共鸣。我认为，这本书之所以成功，是因为它满足了一个实实在在的需求，为大家讲述了一个关于人类历史的最新科学发现的故事。不过，我也试着帮读者从一个新的角度来看大局。我们生活在一个全球性世界中，但大多数学校里教的和书本上讲的都还是某一个国家或文化的当地历史。今天，塑造你命运的有领导人的政治决定，有旧金山工程师的技术发明，也有印度工厂的生态影响。要想了解你的未来，你需要了解整个世界的历史和全人类面临的挑战。我写此书，是想帮人们更清楚地看世界，让每个人都有能力参加我们时代最重要的辩论。

GPT-3冒充我写的那些文字我并不全同意。但其中有一句话我完全认可：“我们生活在由和我们非常不同的人在我们出生很久以前发明的思想牢狱之中。”在我看来，像我这样的历史学家的工作是展示这些思想牢狱是如何建造起来的，并表明我们并非注定关在其中无法逃脱。人是讲故事的动物；没有故事，人类社会就无法运作。但归根结底，这些故事不过是我们为了帮助人而创造出来的工具。如果一个故事造成的弊大于利，我们总可以把它改掉。

“人类简史三部曲”，【以色列】尤瓦尔·赫拉利/著 林俊宏/译，中信出版集团，2018年10月版