注册 | 登录读书好,好读书,读好书!
读书网-DuShu.com
当前位置: 首页新闻资讯人物

对话《未来简史》作者:AI消灭人类?你们想多了

“我们不用担心AI会消灭人类。未来,人类将面临不同的命运,而不是同一个命运灭绝。”

对话《未来简史》作者:AI消灭人类?你们想多了

编者按:尤瓦尔·赫拉利,这位希伯来大学的历史教授绝对称得上“网红作家”。他的《人类简史》和《未来简史》被摆在书店最显眼的地方,全球巡讲每一场都座无虚席,掌声雷动,日程满到他来不及倒时差。

赫拉利本人总是一副忧心忡忡的样子。他写人工智能、技术宗教和人的命运,当世界沉浸在科幻电影所构建的“人 vs AI”的二元对立中时,他却说:AI才不在意是否消灭人类,它们只不过会让大多数人“无用”起来。

“我们都对一些虚构的东西怀有共同的信仰,社会、国家、金钱和组织的概念只存在于我们的想象中。”

历史学家、网红作家尤瓦尔·赫拉利刚结束一场半小时的演讲,台下听众如雷的掌声似乎还回荡在会场四周。采访室里,他坐在离我只有几米的地方,脸上略显疲惫,似乎随时会陷入日常的冥想状态。

对话《未来简史》作者:AI消灭人类?你们想多了

来源:中信出版集团

赫拉利身上有一种很奇怪的特质。他写人工智能会如何改变人类的命运,自己却完全不用手机。他一个月要飞到世界各地去做无数场演讲,每天还能雷打不动地花两个小时冥想。他深受科幻小说的影响,却并不太喜欢幻想,或者更准确的说,他认为幻想出来的东西大多不存在,探索自己的内心比时空旅行更重要。

其实,如果你仔细听他阐述观点,就会发现,他在做与科幻作家们一样的事:反思当下的世界,不惮于展示糟糕的可能性,希望人类的未来能变得美好一些。

一个着眼于未来的历史学家

赫拉利几乎符合我们对“怪才”的一切想象,这位历史学家的成功,出乎所有人的预料。

他的两本书——《人类简史》和《未来简史》——甫一出版就成为畅销书,现在更是风靡全球,十有八九会被摆在书店最显眼的地方。在谷歌里输入他的名字,会得到超过40万条搜索结果,几乎所有知名媒体都有过至少一篇关于他的文章。从他走进XWorld大会会场那一刻起,观众席就爆发出了热烈的掌声。难怪赫拉利会说,自己来到中国后,受到欢迎的程度堪比摇滚明星。

这一切的背后,是大众科学的传播:历史研究走出学院,进入了普通人的生活。艰深晦涩的人类史理论,以一种平实而有趣的方式被放上书桌。

对话《未来简史》作者:AI消灭人类?你们想多了

来源:中信出版集团

赫拉利大学期间研究的是中世纪军事史,博士毕业于牛津大学,现任耶路撒冷希伯来大学历史教授。2011年,他用希伯来语出版了《人类简史》一书,从石器时代一路写到21世纪,把整个人类历史浓缩在500页以内。2014年英文版出版,很快就被翻译成近30种语言。

去年,赫拉利又写了《未来简史》,把视野扩展至人类作为一个物种在进化中可能遭遇的问题上,用历史研究的方法讨论个人体验、情感和道德、意识和体验,以及人工智能浪潮席卷下,人类可能的未来。

而他看到的未来并不太美好。《未来简史》提出了一个观点:AI等技术的发展将在短短几十年内彻底改变人类社会的结构,产生一个新的“无用阶级”。

“科学研究关注的重点都是经济和政治系统的迫切需要,而不是从我们作为人类的更深层次的需求。……无意识的AI会把数十亿人类踢出劳动力市场,无用的大多数会构成一个规模庞大的新阶级。”

《未来简史》的原标题为Homo Deus,这两个拉丁词分别意为“人”和“神”,但与好莱坞科幻电影中拥有近乎神的能力的超级英雄不同,“homo deus”最主要的特质是能改变和创造生命——从某种意义上说,也可以理解为“上帝”。赫拉利认为,100年后人类也不太可能变成超人,但100年对于发展人工智能和生物工程技术来说足够了。“这远比超人或蜘蛛侠要厉害得多。”

在电影里,AI产生了意识后,或开始与人类谈恋爱,或想要消灭所有人。“这些都不太现实,因为智能和意识是完全不同的两回事。”智能是解决问题的能力,而意识有关感受和欲望,“目前看来,AI在发展出意识方面还没上道儿呢。”

因此,在他看来,好莱坞式科幻电影最大的问题,就是对科学整体发展方向的讨论脱离现实。

想象力与神话构筑的“现实”

赫拉利并不认为我们会被AI所消灭,他所担心的是,我们在技术的道路上高歌猛进时,却忽略了人类最根本的需求。所有人都死去的世界末日,一切问题也就跟着人类一起消失了。麻烦的是,我们很可能会在21世纪渐渐滑向自己亲手建造的反乌托邦。

《未来简史》不是一本科幻小说,但赫拉利如科幻作家一样,对人类社会持冷静而略显疏远的态度。他站在科学和历史的角度,做了与科幻类似的事:展示最糟糕的未来,然后逼着读者去反思我们的社会究竟可能出了什么问题。

对话《未来简史》作者:AI消灭人类?你们想多了

来源:The Verge

今年6月坎贝尔奖期间,美国堪萨斯大学冈恩科幻研究中心召开了一系列讨论,其中一个重要议题就是反乌托邦文学。我们究竟为什么会写、会看这种并不美好的小说?

科幻大师詹姆斯·冈恩认为,乌托邦社会变成反乌托邦,就是因为我们不再做应该做的事了,比如关心气候变化、关爱身边的普通人。人性永远不会改变,但世界还会是原来的世界吗?科幻是一张地图,告诉所有人反乌托邦可能是什么样,参照这个指引,我们才能尽量避免坠入噩梦般的漩涡。

科幻有自己的卡桑德拉*式噩梦。阿西莫夫在几十年前就开始警告气候变化可能造成的危害,但并没有在当时的读者中引起多大的反响。所幸的是,《人类简史》和《未来简史》引起了广泛的关注,也触及了那些骚动着所有人想象的重要问题:明天会怎样?未来会怎样?

卡桑德拉(Cassandra):古希腊、罗马神话中的特洛伊公主,太阳神阿波罗的女祭司,拥有预见未来的能力,却永远不被人相信。

对话《未来简史》作者:AI消灭人类?你们想多了

来源:scifiaddicts.com

但说起想象力时,赫拉利有着科学家的谨慎和科幻作家的远虑。

一方面,正因为想象力,人类社会才能凝聚起来。“以色列之所以存在,得益于对人民对这个国家的共同信仰;对金钱的信仰保证了世界经济能持续运转。”

另一方面,他担心想象力会让人们囿于神话构筑的“现实”,疏远于真正的现实。赫拉利在书中讨论了“技术宗教”(techno-religion)这一概念,认为宗教不是相信上帝,而是人类为了解决现实问题、寄托情感而发明出来的东西。人工智能、基因工程等带来的变化,已经令技术变成了新世界的宗教,不仅发生在硅谷,也在世界的每一个角落,放不下的智能手机,就是21世纪的神。

但这并不是要否定想象力,相反,赫拉利鼓励所有人开始思考那些尚不存在之物。“拿AI来说,虽然目前看起来还没什么危害,但我们需要提前讨论AI 的发展会如何影响就业市场。”

AI 并不在乎你过得如何

在计算能力方面,AI早已超越人类,硅基生命不受限于太空环境,因此AI 甚至可以代替人类殖民外星球,带来前所未有的生物革命。

“我们会渐渐与计算机融合,最后变成赛博格。”赫拉利的担心其实已经在现实中慢慢浮现,智能手机几乎变成了我们身体的一部分,社交网络账号几乎就是虚拟空间里的身份证号,手机上“睡眠”功能的原理,大概就是考虑到只要我们醒着,就在玩手机。“这些智能机器一刻不停地分析我们,逐渐适应了不同人的性格,并且在塑造者我们的世界观和内心深处的欲望。”

对话《未来简史》作者:AI消灭人类?你们想多了

来源:mid-day.com

赫拉利相信,到2050年,智能手机将被植入人体内的生物识别传感器取代。基于对每一个人的生理参数的分析,AI 将更了解我们自己的喜恶和欲望,替我们作出人生中那些重大而艰难的抉择:报考什么专业,找什么工作,和谁共度一生。

“人类的记忆是靠不住的,但算法记得一切。于是,人类就像是被圈养的动物。在大数据处理机制中,变成了高效运转的芯片,而忘记了作为‘人’究竟该做什么。”

可是,AI真的在乎人类社会发生怎样的变化吗?

赫拉利认为AI不太可能产生意识,更不用说欲望或征服欲这些主观感情,因此也就不会像许多科幻电影中那样,对人类发动战争。“算法歧视人类是有可能的,但不是因为你属于某个群体,而是因为算法不喜欢你身上的某一点。可怕的是,你根本就不知道它不喜欢的究竟是什么,即使知道,你也不能组织一群人来表示抗议,因为你始终孤身一人。这就是21世纪的歧视——不是针对群体,而是针对个人。”

更大的危险还在于,AI会改变世界权力的分布,集权于一小撮人手中,导致社会阶级的进一步分化和人类本身的异化。

《未来简史》中提出的“无用阶级”的概念,不是指道德层面的无价值,而是对经济和政治体系来说无用。二战期间,每个人都有军事价值,40年代纳粹德国政府在医疗和教育领域投入了大量资金,是因为普通人也能变成士兵。但在新世纪,失去了经济价值的个体对整个国家和社会来说,已经没有什么实际作用了。

对话《未来简史》作者:AI消灭人类?你们想多了

来源:中信出版集团

由此产生的新的不平等是多方面的。最早进入医疗领域的IBM Watson,正在训练成为超越医生的癌症专家;日本筑波大学和京瓷公司7月底宣布,已开发出通过皮肤照片快速诊断皮肤癌的系统,准确率高达90%;当医学的主要目的从具有平权色彩的治病救人,变成升级健康后,连死亡都不再平等了。

教育领域也是如此,因为无法预测未来的就业市场,现在的很多技术很可能在20年后都是毫无用处的。过去,机器自动化智能取代体能工作,现在AI开始在与智能相关的工作上与人类竞争,而失业者并没有适应新现实的能力。

“我们不用担心AI会消灭人类。未来,人类将面临不同的命运,而不是同一个命运——灭绝。”

对话《未来简史》作者:AI消灭人类?你们想多了

来源:Space And Intelligence/YouTube

赫拉利的走红让我们看到了一些希望,这个世界并不会“死于安乐”,21世纪的信息爆炸让更多人能从更多角度思考过去和未来。诸如人工智能这些专业研究,渐渐变成了普通人日常谈论的话题。你可以了解不深,但不会从未耳闻;可以质疑或反对,但不会漠不关心。

从这个意义上说,赫拉利的作品有些像摇滚金曲的歌词,有人奉为经典,有人不甚认同,重要的是每个人都会有自己的解读;也有些像科幻小说,似乎讲的是离日常有些遥远的事,但这正是每时每刻都在向我们逼近的未来。

结束了巡回演讲,赫拉利回到了以色列,继续思考人类和未来,准备写一部关于当下的作品。或许从来就不存在“应许之地”,但赫拉利就像很多优秀的科幻小说家一样,想象这个世界最坏的模样,让我们在受了当头一棒之后,努力让自己离乌托邦再近一些。

责编:Mo

作者:Raeka,转码员,《不存在日报》记者,冷僻故事爱好者。

热门文章排行