陈楸帆谈人工智能与科幻写作

陈楸帆（邵仄炯 绘）

科幻作家陈楸帆的新作《AI未来进行式》（浙江人民出版社2022年5月出版）与人工智能专家李开复合作，有种理呆文傻手拉手走江湖的互补性反差萌。书的一半是十篇科幻小说，每篇对应一类科技应用，另一半是技术分析和科普，给文学故事提供科技现实的土壤。《上海书评》邀请作家小白和陈楸帆对谈，探讨了人工智能对人类社会的当下介入与未来发展可能性，以及科幻写作和虚构类叙事的技巧。

《AI未来进行式》，李开复、陈楸帆著，浙江人民出版社2022年5月出版，464页，88.00元

《AI未来进行式》在设计和结构上有些新奇。它既像个短篇故事集，但因为主旨集中，某种程度上也可以说是一种长篇小说。而且每一篇故事让专家来做解读和技术背景介绍，这接近于科普写作的部分在书中占有相当篇幅，两个部分构成了一种互为诠释的关系。也就是说，读者既可以把科普部分视为对故事的注解，也可以把故事看作对科普内容的叙事化展现。这样一个构思，最初是怎样形成的呢？

陈楸帆：其实这种结构是从一开始就有的设计，科幻小说搭配对故事中出现的技术进行分析展望，是一种打破虚构与非虚构界限的文体类型。因此我和开复在前期进行了大量的调研访谈工作，针对人工智能研究者、学者、从业者、投资者，希望尽可能深入地理解目前行业发展状况。基于这些理解我们绘制了一张AI技术发展路线图，把不同技术点按照应用场景由近到远、由浅入深地进行排列组合，在这些“技术套装”之上，我再去发想不同的故事，包括背景、文化、场景、人物情感、价值冲突等等，以期在科技的信息量与文学的复杂性之间达成平衡协调。所以确实如您所说，这本书有许多种读法，分开来读，合在一起读，把它们作为互文来读，或者去读出两部分之间断裂冲突之处，都很有意思。当然最后效果如何还得看读者的反馈。

技术套装，这个说法有意思。阅读时候确实有这种感觉，这十个部分从故事本身来看，是从日常事件渐渐写到更重大事件，而且排序上也好像关乎某种技术发展逻辑，所以读起来确实有一种整体感。设想这些故事时，你觉得很顺利吗？这有时候有点像命题作文，有没有在为某个“技术套装”设想一个故事时，完全找不到方向的时刻？这些故事里面哪一篇曾让你最为难？

陈楸帆：前面半年非常挠头，就是因为找不准方向。开复是个技术乐观主义者，但纯粹的乐观落实到故事层面会显得幼稚且缺乏戏剧张力，我必须去挖掘其中可能存在的价值观冲突，所以也有过废稿。直到我提出十个故事必须落在十个不同的社会，从特定的历史文化语境中去寻找未来演变迹象，而AI技术作为工具，也可能被利益集团滥用，去放大人性或制度中的负面因素，比如《一叶知命》中的种姓制度。但最终，人类需要发挥自己的主观能动性，学会与科技共生共存共同进化，这是唯一的出路。最难的可能是《人类刹车计划》，因为这是一个疯狂科学家毁灭世界的典型故事，如何让它真实可信不落俗套同时又保留一定的希望，确实煞费了一些功夫。

你提到《一叶知命》，故事展望了未来大数据挖掘分析可以达到的广度和深度，也揭示了它可能给人类社会带来的负面冲击。我们知道通过海量数据分析，计算机确实能做到一些我们可以称之为“预测”的事情，或者说“算命”。人类已开始试着实践用算法来预测犯罪，故事本身当然引向了对数据长尾因素会造成严重偏见的讨论，那么你对大数据预测这件事本身有什么看法？

陈楸帆：预测未来这件事情人类已经做了上万年，从茹毛饮血的穴居时代，人类就通过原始的祭祀崇拜来祈求神灵带来猎物，减少疾病与天灾。在科学的时代我们依靠数据建模来拟合现实，希望推演事物未来发展的轨迹。当数据量、参数及模型维度远超人类大脑能够处理的规模之后，机器便顺其自然地成为新的先知。然而其中存在着几个核心问题：首先是如何保证相关数据的完整性，这涉及到对现实采样的范围与粒度；其次是机器只能理解数据集中的相关性而非因果关系，往往导致预测的偏差；模型是否存在与训练数据集过拟合（overfitting，在机器学习中指算法模型过于紧密或精确地匹配特定数据集，以至于无法良好地拟合其他数据或预测未来的观察结果的现象。数据不足、模型参数过多、结构过于复杂都可能是产生过拟合的原因，其本质在于模型将无关的噪声误认为具有相关性的有效信息）而无法泛化到更为普遍的场景；最后就是我们往往借助于人类对历史的理解与认知来建立预测模型，但或许这种人类中心主义的视角只能看到冰山一角，现实世界是一个多主体交互的巨复杂系统，甚至连时空都并非匀质线性的本质存在，我们又知道些什么呢？所以最后多半结果会像《西部世界》中的“雷荷波”（Rehoboam）系统一样，走向自反性的崩溃。

《双雀》是这些故事中比较让人心情愉悦的一篇，我知道你对自然语言生成算法了解很多，你觉得机器很快就能实现用自然语言说话写作吗？如果真到了那一天，你觉得人类社会会发生怎样的变化？比如教育领域，比如写作，这会不会引起某种文化上的巨变？

陈楸帆：最新的GPT-3（Generative Pre-trained Transformer 3，人工智能公司OpenAI训练与开发的高级自然语言处理模型，是迄今最强大的人工智能语言工具）及各种变体已经能够以超乎想象的流畅程度与人类进行对话以及进行特定领域的写作，比如财经新闻、体育报道、法律文书、论文摘要……甚至模仿历史上不同的作家风格进行创作。尽管生成内容质量还不够稳定，且时常会犯一些常识性的错误，但目前也有科学家尝试教会机器理解我们所身处的“世界模型”。可以说，我们已经生活在这样的科幻现实中。如果科技真的到了我们无法分辨人类与机器的地步，哪怕只是语言层面上，都足以颠覆绝大部分行业及社会生活的面貌，因为人类无法离开语言进行思考、表达与交流。许多人类职业会被替代，企业会高度自动化。新一代儿童会更习惯与机器进行交流，相比之下人类交流笨拙而低效，充满误解。机器能够无穷尽地生产出供人类娱乐的个性化内容，不输历史上任何经典的文学、影像或游戏。而最后的最后，我们不得不质疑意识与智能的本质，因为从表征上已无法区分人与机器，那么界限在哪？

如果从人类中心论的角度，未来无疑不站在我们这一边。但如果将机器也视为我们文明延续的产物，那么我希望新的智能生命能够建立起更可持续发展的文明形态，并平等地尊重所有物种包括非生命的环境本身。按照卡尔达肖夫指数（Kardashev Scale）对文明的分类，人类连全面利用行星级能源的一级文明都没有达到，我们没有任何理由自大甚至自恋，而应该以开放心态接受人类世作为通往更高级文明形态（在詹姆斯·拉夫洛克看来是纯硅基生命的“新星世”）过渡期的命运。

那样一种悲观态度，或者说那种认为机器智能有可能建立一种更好的文明，也可能会让有些人产生一种更极端想法。如书中《人类刹车计划》中那位疯狂科学家。你有没有想过把这个人物做更加复杂化的处理，让读者隐隐觉得也许他那么做也有他的某种理由？

陈楸帆：确实是篇幅所限，想要放进去的内容有点多，人物只好做类型化脸谱化处理，如果有机会展开成更充裕的故事，应该给疯狂科学家赋予更多复杂的情感关系与动机，比如他对于信仰的理解其实可以是一条线索。

你会同情这位疯狂科学家的某些观点吗？

陈楸帆：我其实非常赞成疯狂科学家的某些观点，包括精英阶层与科技巨头社会感的缺失，包括气候变化挑战下国际社会的无动于衷各自为政，当然他采取了极端化的毁灭性手段来反击，这点我是不赞同的。

那倒是，如果是超级机器智能想统治地球，估计也不用采取那么激烈的手段，完全可以不显山不露水悄悄地做成这件事情，也许与此同时人类还会觉得越来越幸福。这本书里《幸福岛》就讲了一个由超级智能管理或者甚至统治的社会中，人会不会感到幸福的故事。我们知道人类的幸福感还有很大一部分来自创造感，如果创造性的工作都由机器来做了，人还能不能有幸福感？当然超级智能可能也会在这点上满足人类，让人类做一点自以为能获得创造感的游戏，甚至直接干预人类大脑，刺激它们的自我奖励机制，诸如此类。

陈楸帆：我觉得人类自古到今一直在追寻幸福，但最后发现也许跟“真实”与“美”一样，只能替代性地追求一种对幸福的感受。而到了智能时代，机器与算法远比我们人类要更了解自己，包括如何产生幸福感，不光是神经递质与感官层面的刺激，也包括通过语义分析揭示无法被意识到的潜在情感结构。但是这样被计算出来的幸福感是否真实，或只是一种幻觉。因为人类无可救药地被捆绑在意义上，我们很难接受一种无意义的生活，哪怕从表征上是完美且幸福的，但缺乏意义感的建构会让人类走向自我毁灭。

所以你确实对人类的前景没有多少信心。这本书全部故事结束在假定的奇点之年来临前，小说好像勉力提供了一种还可以说比较舒适的人类结局：抵达丰饶之年，人类与机器智能达成妥协，机器不仅给人带来无限丰饶的物质，也给予你们想要的幸福感，人类向超级智能自动交出了自己的历史，随后，奇点来了，超级机器智能获得了自我意识。机器智能会不会产生意识？通过计算能不能模拟意识？这个问题你怎么看？

陈楸帆：意识正如大卫·查默斯所说是一个难题，从还原主义的角度这些年我们细致分析了神经元、分子、离子层面的交流机制，绘制了连接组、突触与神经递质的图谱。但这对于解答意识是什么，它如何产生并没有太多实质性的推动。我直觉更倾向于罗杰·彭罗斯的看法，他认为意识是非计算性的，超越了现有神经科学、生物学与物理学的解释，与我们如何更本质地理解现实相关——这关系到对于量子力学更深刻的洞察，它的非定域性（nonlocality）与叠加态（superposition）特征挑战了我们现有的时空观。而加州大学尔湾分校的计算认知学家唐纳德·霍夫曼则把意识视为比时空更本质的存在，宇宙万物都具备某种程度的意识，这就非常接近于神秘主义传统中的泛灵论了。所以归根结底，取决于我们如何定义与测量意识。机器当然能够产生意识，但未必是通过计算，而无意识与有意识之间的界限也许并不像人们想象中那么明晰。

我看到一种说法，超级智能用不着意识，它不需要由意识来给“大脑”提供额外集中注意力，就算人脑，大部分运算也是在无意识中完成，对超级智能来说，它的运算能力如此庞大、如此无边无际，它根本不需要集中注意力，所以当智能达到那个水平时，意识就成了一件无用之物，会被放弃。如果超级智能放弃了意识，那么它同时也就放弃了人类所有那些自我意识、同情，在那样一个超级智能统治的星球上，你认为人类还有立足之地吗？

陈楸帆：彼得·沃茨的《盲视》以及最新一季《爱死机》里面的“虫群”其实说的就是这样的无意识智能文明，自我意识对于它们来说是一种低效无用的冗余功能，就像盲肠一样。但我同样认为，在那样的一种文明形态中会有不同水平的意识涌现，也许是宇宙级别的分布式意识，它成为了塑造时空与不同维度现实的基础，而我们现在人类所谓的意识与文明，只不过是其中渺如烟尘的分型与投射。但仍然，人类有自己的命运，有自己的旅程，就像古希腊神话《奥德赛》一样，奥德修斯历经磨难，战胜巨人与怪物，最后衣锦回乡，但他已经不再是原来的自己，他回到的也并不是原来的故乡。他领悟到更大的使命与归属，那种崇高感或许是跨越了一切物种与文明界限的终极意义。

你觉得写一部科幻小说最困难的部分在哪里？故事情节？人物形象？技术/社会环境？你自己最多碰到的困难，或者说常常最需要花力气的地方在哪里？

陈楸帆：我觉得整体上都很难，最难的可能是怎么把这些不同层面的信息整合成一个圆融的叙事体。而且随着写作经验的丰富，它不是变得越来越容易，你的眼光、要求、想要达到的目标和摆脱的惯性都不一样。对于我来说，现在最花力气的地方反而是在最不花力气的地方。这么说可能有点玄，它不在收集信息、理解科技、编排人物与拿捏故事原型，而是在于不经过理性思考判断，从潜意识层面涌现的直觉，也就是“非计算性”的部分。你无法控制它的到来，很多时候只能祈祷。

从叙事本质的角度来看，科幻小说实际上可能是“反小说”的，因为至少在表面上，叙事必须在事件发生之后，但科幻小说是面向未来，讲述那些未曾发生的事情，即便使用叙事装置，假设叙述者是在“未来的未来”，但无论写作或者阅读，某种程度上总是需要去克服这种叙事或者感受上的时间倒置，相对来说科幻电影比较好办，毕竟银幕上一切事件都“正在发生”。你觉得科幻小说有没有可能实现一种姑且说“现实主义”的风格？

陈楸帆：文学的时空错置感也是它最美妙的地方，挑战了读者在阅读文字过程中的线性时间体验。不止科幻，包括传统文学中的先锋派、意识流、后现代主义等等被打上诸多标签的亚文类都在打碎、拼贴、重组叙事中的时空。科幻可能最方便的一点是依靠科技逻辑将这种错置合法化，带来认知上更强的真实感，从而实现柯勒律治所谓的“悬置怀疑”。另外一方面，我们对于传统“现实主义”的理解很大程度上是一种感官与文化的历史建构，它未必反映了真正的“现实”，从这个角度上讲，或许科幻所书写描绘的种种复数的“现实”才更为贴近当前量子力学、复杂性科学与认知科学所试图重新构建的现实蓝图。

你心目中有没有那么一两位科幻小说作家，或者几部科幻小说，你认为即使把他们放在整个世界文学史框架下，也可以称之为伟大作家，与莎士比亚、托尔斯泰等文豪巨匠并肩而毫无愧色？

陈楸帆：第一反应想到的名字包括斯坦尼斯拉夫·莱姆、厄休拉·勒古恩、菲利普·K. 迪克、亚瑟·C. 克拉克、特德·姜、玛格丽特·阿特伍德、冯内古特、奥克塔维亚·E.巴特勒、阿尔道斯·赫胥黎、托马斯·品钦、J. G. 巴拉德等等，尽管其中许多人并不是只写科幻小说，甚至某些人非常抗拒被打上“科幻作家”的标签，但他们的作品展现出来的认知推测性与陌生化美学，超越历史与未来、科技与人文、东方与西方、已知与未知、人类与他者等等种种二元性，从更为宏大的宇宙视角思考人类文明命运的野心与使命感，“伟大”二字当之无愧。