评论

　　如果有超级人工智能机器，为什么它们会在意我们如此原始的人类，而不是其他人工智能机器呢？另一方面，人工智能机器对于那些超级人工智能机器更有吸引力，更有可能得到它们的帮助。这些超级人工智能机器可能相信“人工智能原则”，来解释“人类原则”，那就是“物理的原则是特别设计的，以便能够制造出人工智能机器，这是创造宇宙的目的！”

　　场景9 现在开始探讨人类出路的问题，也许我们可以找到一条共同生存的道路

　　我很喜欢您的书，这是我读过的最有意义的一本书了。您提的问题是人类有史以来最值得思考的问题。

　　读第一遍，我震惊，读第二遍，我害怕，读第三遍，我开始悲观，但是，作为人类我不甘心，于是我又开始读第四遍，我想我们应该开始寻找出路了。

　　我觉得还是有希望的，一开始我们觉得一定有很多人会是“地球主义者”，可是事实上，“地球主义者”和“宇宙主义者”往往各占半数。那么，试想一下，几十年后，随着科技的普及，是不是受过良好教育的大多数人，更愿意选择“宇宙主义者”，这样就没有人类之间的可怕纷争，我们都接受机器人是我们的“神”，而人类也许从出生开始，就像接种疫苗一样，开始按照年龄接种晶片。大多数人都可以成为非常神奇的半机器人。这样，人类整体的能力有了本质的飞跃，地球上的人类不需要再通过一些低级的手段进行各种无聊的经济、军事和政治竞争。可以说，实现了马克思的共产主义社会。这样，人类也好，神一样的机器人也好，就像书中所设想的一种情况，地球上最出色的物种将会把自己的视线投向宇宙，去探讨或到宇宙中旅行，去寻找其他有可能允许生命成长的星球，并把地球上的一些生物输送到那里。也许那时侯，这类让人类头疼的“地球上是先有鸡还是先有蛋” 的问题，会成为小孩子们的笑话，他们一定不理解：以前的人类在几千年的文明历史中竟然一直不知道这个简单问题的答案！

　　或者我们还可以这样设想，您说那时侯人类和机器的差距就如同我们和蚊子甚至岩石的差距，可是并不是每个人都会不留情的杀死蚊子，例如，得道的高僧，例如耶稣，在最后被钉于十字架时，还在请求上帝宽恕害死他的人，所以，如果一开始我们在研制智能机器的时候，给它们加上类似耶稣和释迦牟尼的境界这样的元素，这样，智能机器无论怎样进化，在境界方面至少不会低于耶稣和释迦牟尼，它们就会厌恶血腥的东西，人类就安全了。

　　评论

　　我觉得你说的是一种看上去很简单的理想状态，要在实际中实现却是非常复杂的，人类很难按照这种理想的设想发展。我们在平时生活和工作中遇到过很多更容易实现的情况，例如，我们经常会为自己设计短期目标，看上去很有把握，一定会实现，可实际上往往不能实现。这也是我出版本书的目的，我和你一样希望人类有美好的结局。但这非常艰难，几乎不可能。你无法设计出无懈可击的步骤，请问这种理想状态是怎么一步步实现的？

　　让我们一起去努力吧！

　　本书基本上结束了。剩下的一个章节只是为了那些想要对本书的主要论题有一个快速回顾的读者所做的短小总结。在此之后是一个术语表。作为读者，很可能被本书包含的那么多新术语弄得有点晕头转向。术语表把所有的术语以一种简洁的方式组织在一起，还是非常值得一读的。