正文

第一部分 个人意味着什么?(11)

你不是个玩意儿 作者:(美)杰伦·拉尼尔


图灵测试的两面性

不管诱因是什么,图灵是第一个开始证明比特可以有自己生命,而不需要人类干预的人。从人工智能(AI)到蜂群思维,这种思想后来被披上了各种各样的外衣,许多硅谷的创业公司更是以此来标榜自己。

但在我看来,几代科学家对图灵测试的解读都太蹩脚。人们对图灵测试的通常解释是:它能让机器获得像人一样的意识,最后,当机器诱使你以为它拥有了意识的时候,如果你还说机器不可能拥有意识,那就是你的不对了。

但我认为图灵测试所揭示的真正道理(也许图灵当年并没有想到这一层),在于说明机器拥有的智能是相对层面上的,是从人类的角度上说的。

图灵早逝的一大遗憾,就是他没能活得更久,从而能更深入地思考图灵测试。历史学家乔治?戴森(George Dyson)认为,图灵可能是个反网络极权主义者。比如1939年,他在一片纸上写了一段题为“序数基础上的逻辑体系”(Systems of Logic Based on Ordinals)的话:“我们都在尽力靠我们的智慧而不是直觉来生活,但我们忽略了生活到底需要多少智慧,只是固执地以为智慧可以无限获得。”也就是说,他觉得即便有了计算云,人们也不能幻想智慧是无限的,所以直觉是不可能退化的。

1950年,图灵在关于图灵测试的论文中还有这样一段不同寻常的话:“在尝试创造这种机器的时候,我们不能犯下不敬的罪名,剥夺上帝创造灵魂的力量,正如我们不能决定自己孩子的生死。因为在这两种情况下,都是上帝,而不是我们,为上帝所创造的灵魂提供了居所。”

用人工智能来思考一切,是本书要批判的核心思想。如果机器能有意识,那么计算云将会成为比人脑更聪明、容量更大的智慧体。如果你相信这一点,那你就成了上帝身边的天使,只是在为这片“云”贡献着自己的力量。

但图灵测试还有它的另一面。你无法说明到底是机器确实比人更聪明,还是人的智商降低了,所以机器才显得更聪明。如果你能和一个人工智能程序虚拟出来的人对话,你能告诉我:你到底把你对人的认识降低到了什么地步,才让你和机器之间的对话得以继续的?

人们为了让机器看起来一直比人聪明,会主动降低自己的智商。在这次金融危机爆发之前,银行家们恐怕都以为智能算法可以在恶性贷款发放之前,发现信贷中的风险。我们要求老师根据标准化考试的要求来教学,从而让学生的算法课成绩看起来漂亮点儿。我们不断地证明着一点:我们可以无限地降低标准,从而让信息技术看上去很美。机器里每一条信息含义都是模糊不清的。

同样的模糊状态贯穿于过去学术界里那些不靠谱的人工智能项目中,而它们在被重新包装之后,成为了当下的大众文化。搜索引擎真的明白你想找什么吗?或者只是你在陪着它玩,降低了你自己的标准来使它显得更智能?由于大家认为当意义重大的新技术提供给人类的时候,人的观念也会被改变,因此要想把机器智能当做真的智慧,人首先要减少对现实的依赖。

许多人工智能的鼓吹者试图让机器完成理解自然语言等任务,但在经历了长期的实验失败之后,他们最终转而青睐蜂群思维。而蜂群思维之所以能成功,正是因为它的背后有千千万万真实的人在支持着它的运作。

以维基百科为例,我把它称做运行在Oracle上的幻影,因为它上面的文字都禁止打上个人的烙印,从而赋予了文字超越个人的正确性。传统的神学书籍采用的正是这种手段,也因此导致了同样的结果。

这也是为什么我会认为网络极权主义文化是一种新的宗教,它已经具有了相当强的象征意义,因为它在寻求一种新的来世。雷?库兹韦尔希望遍布全球的计算云能囊括所有人的智慧,他觉得那样我们就能在虚拟现实中永生——我觉得他的想法太奇怪了。当我和朋友们做出第一台虚拟现实机器的时候,只是想让世界变得更有创意、更有表现力、更迷人、更有趣,而不是相反。

现在的硅谷、华尔街以及其他权力中心都沉迷于对比特的崇拜,各种“好点子”层出不穷。这个点子可以是维基百科,也可以是能和人对话的虚拟人,但从根本上讲,我们只是在一遍又一遍地重复着图灵的错误。

以国际象棋为例

现在什么都时髦“云”,经济云、科学云、文化云……但这些东西真比过去靠人的理解掌握得更好么?当然不是,因为只有有了人的理解力,“云”上的东西才能存在。

各种碎片化的文化急迫地期待着未来技术的胜利,觉得它会让奇点和其他梦想成真。图灵测试的确已经有了若干成功的先例,机器也有了人性。国际象棋就是一例。

国际象棋罕见地结合了几大素质:规则易懂,但很难下好,最重要的是国际象棋有无穷的变化。人类选手的水平越来越高,但没有谁敢说自己的水平是最高的,无人能超越。

计算机和国际象棋的起源是相同的,它们都是作为战争工具而产生的。国际象棋源自对战争的模拟,它可以称做脑力武术。其实国际象棋的设计理念可以追溯到更早的时候——也就是当我们的祖先还在大自然中摸索,和别的族群竞争的时代。

同样的,现代计算机是被设计用来引导导弹、破译军事密码的。暴力是驱动世界进步的动力,而国际象棋和计算机都是暴力的产物,并最终被净化、抽象出来,成为人类文明的一部分。两者都十分明显地体现出很强的竞争性,所以当计算机科学和国际象棋结合的时候,自然碰撞出了火花。

计算机科学家之所以对国际象棋非常感兴趣,正是因为他们的国际象棋下得不好。从我们技术人士的角度上讲,即使是最有成就的专家,要想把国际象棋的程序编好也非常非常困难。就算电脑的性能再好,我们自己也明白:我们无法编出最完美的国际象棋程序。


上一章目录下一章

Copyright © 读书网 www.dushu.com 2005-2020, All Rights Reserved.
鄂ICP备15019699号 鄂公网安备 42010302001612号