问题11. “悲剧可以避免吗？”

下面的一些问题，来自我和我的一些朋友。本来我想单独写一章节，但是最后还是决定在这里讨论它。

来信

亲爱的德·加里斯教授：

您的工作是如此的悲观，它给予人们的印象是大规模死亡的战争将不可避免。难道没有更加正面的前景吗？

回答

是的，有正面的，我将在下面列举和讨论一些，因为这个问题是非常基本的。然而我个人的观点是，下面的每一个场景的可能性都不大。我花费很多时间希望能够找到避免我在本书描述的凄凉景象的替代前景，但是，我每次描述的新场景好像永远都不会成为现实。我请读者自己来做出判断。我希望下面所提供的替代场景容易理解。每一个场景都紧跟着我的评论，来解释为什么我认为这个场景是经不住认真推敲的。我给了8个场景来说明很多替代场景是可能的。

作为读者，你们可能会想象出其他的场景。如果你经过思考真的觉得你的场景是可能的，并且这个场景里没有人类的灾难，那么请和我联系，因为如果我赞同你的观点，兴许我可以在晚上睡得踏实点。其他关心本书所提问题的人也会更高兴听到您的观点，并且我可能在之后改编此书时提到这点。

场景1 地球主义者会以人类微小的代价胜出

这里的观点是，地球主义者组成了地球公民的主体，他们是无情的并且可以迅速扑灭宇宙主义思想和宇宙主义者。他们杀死宇宙主义者，只是杀死几百万，防止宇宙主义者真正有机会结为大型组织。

评论

我不觉得这会发生。事实上，人们更期待新事物的产生，也就是说，本世纪人工智能的崛起将属于像我这样非常明白大脑制造前景的宇宙主义者。我预言，迟些时候，一旦大众的了解成为普遍的事实，越来越意识到人工智能问题的宇宙主义者和地球主义者的数目将达到相当。双方将有时间在政治上、思想上和军事上进行准备。

当我让人们在我的演讲结束后投票表决人类是否应该制造人工智能机器时，表决结果的比例是50︰50，所以说地球主义者将不可能是主体。当事情真的来临的时候，并且当真正开始制造人工智能机器的时候，这个比例是否会变还是一个待解之谜。

场景2 人类适应了地球上的人工智能机器，人工智能机器们不理睬我们并且离开这个星球

这里的观点是，人工智能机器的崛起是如此的缓慢，以至于人类适应了它们，即使它们变得比我们更加聪明。可能事实上没有什么真正坏的事情发生。人工智能机器大规模在智慧上超越我们，并且离开这个星球去做其他的事情。

评论

我认为这绝对是一个可能的场景，但是它充满风险。我们永远都不能确定人工智能机器一直会对我们友好。它们对我们来说是如此的深不可测，并且难以预料。人类的命运将在它们的手中。它们可以在任何时候以我们可能永远无法了解的原因反对我们。我不认为有责任心的、具有全局思维的、关心人类命运的地球主义领导者会接受这样的风险。他们一定不会容忍人类冒这样的风险。

场景3 宇宙主义者变得普遍不受欢迎以至于他们消失了

也许早期制造人工智能的实验结果是如此的消极，即使宇宙主义者也开始害怕而转变为地球主义者，并且达到了没有一个宇宙主义者的程度。

评论

我觉得这是非常不可能的。总会有宇宙主义者，并且有不同虔诚和狂热程度的宇宙主义者。那些认为“一个人工智能机器顶得上万亿万亿人类”的宇宙主义狂热分子，将不允许任何阻止他们的逆流。他们将坚持干下去。只要有数百位进行秘密研究的宇宙主义者就完全可以制造出人工智能机器。通过自我说服让所有的宇宙主义者从这个地球上消失几乎是不可能的。

场景4 半机器人的选择变得非常有吸引力以至于没有人愿意成为地球主义者