问题7. “为什么过度强调负面部分？”

　　一位读者给了我一些常识性的建议，如果他是对的，那我在将来应该更加注意。他的重点是，我不应该“煽动”这样的反对，这将导致我的工作受阻。

　　来信

　　亲爱的德·加里斯教授：

　　对于我们在过去的交流，我非常感激。在CNN在线，我读了您的一篇文章，您在这篇文章中再一次谈论了一场发生在那些想要制造自动机器人的人们和那些反对制造的人们之间的潜在冲突。虽然我知道您的评论可能被某些人看作对未来的警告，但是我知道您在人工智能研究领域上进展迅速。您是否认为您的“警告”将对您的研究产生负面影响呢？

　　一些国家最近已经明令禁止克隆研究。是否有可能，太多关于机器人的恐怖故事会促使一些人去寻求对于人工智能和自动机器人研究的禁令？那样会对您的人工大脑项目带来怎样的影响呢？把哲学放在一边不说，单单从公共关系角度来说，我们是否应该至少在公共场合强调人工智能和机器人以及机器人学的正面效应呢？我希望，机器人可以变成我孩子们的玩具而不希望让他们做机器人的噩梦。

　　同时，我也确实意识到，在未来可能潜伏着一些真正可怕的危险。我个人关于人工智能、人工智能机器等所有问题的看法还没有完全形成。我相信科学和进步。我同时也有这样的认识，人类渴望制造一个更加完美版本的自身。我们应该停止研究吗？不！我们是否应该继续不受控制？我不知道以上问题的答案，但是记者的经历使我知道，一个像您这样具有争议性的人物，会被无礼地拿来作为引用材料。他们这样做是为了拥有好的报导素材。

　　我知道，您想要叙说您的故事，并且有很多人想要聆听您的叙述。人类克隆技术可能比人工智能技术离人们更近，但是，大众可以并且经常可以结合成一个愤怒的整体。如果您允许自己成为弗兰肯斯泰因博士(被自己的创造物毁灭的人，作法自毙的人)的话，那么，可能有人会对您所说和所做的非常不满。我只是希望您不要对恐怖故事的宣传做得太过火。

　　回答

　　我是比较实际的。就像芦苇一样我会随风而弯不至于折断，以便我的工作可以继续。我会认真考虑你的意见，因为这是好的建议。我猜想这是一个程度的问题。我强烈地觉得应该去警示大众。我们会在20年内拥有“一原子一比特”的计算机内存，并且可能也会拥有纳米技术。第一台人工大脑的产生只是一个时间问题，并且不会要很多年的时间。人工智能问题将在本世纪变得非常现实。

　　作为最早的一批在政治意义上认真思考这些问题的科学家之一，并且作为一名真正的人工大脑制造者，我非常焦虑。由于时间还够，我觉得我有一种道德上的责任去警示大众。(如果要讨论这件事情上面明显的伪善性，比如说，我在进行大脑制造的同时却对此持焦虑态度，请阅读下面的另一个评论。)

　　我认为，技术上的指数级增长会带来知识上的指数级增长，这将确保我在本书中提出的问题在十几年内变得众所周知。我认为我必须去宣传这条信息，在事情突然到来之前给予人类时间来思考这个问题。请阅读第一个关于“时间问题”的讨论。但是如果我走向极端，那么你可能是对的。

　　我将静观其变，来看看大众的意见。如果大众的意见变得过于负面，也许我将软化一些。我自己也不能肯定我该做些什么。人工智能问题仍然很陌生，并且即使是在我的脑海中我还一直试图融合所有的枝节—— 技术的、科学的、道德的、哲学的、政治的、宗教的、宇宙的，等等。