问题6. “为什么给它们刀片呢？”

　　不要给小孩刀片是一个常识，因为他们只会伤害到自己。小孩们缺乏常识，不知道刀刃是很危险的，也不具有小心处理刀片的能力。很多国家关于禁止公民私自拥有枪支也持有类似的考虑。给予这样的允许只会大规模增加枪杀率，因为大多数这样的持枪杀人事件发生在家庭成员的短暂暴怒中，并且紧接着的就是无尽的忏悔。(根据统计数据，在美国，由于枪支的易购性，每年有30 000起枪杀事件，而在禁止藏枪的日本，每年仅有100起。)我的某些批评者可能会认为，同样的逻辑应该适用于人工智能机器。如果想让它们对人类无害，就不应该让它们拥有武器。

　　来信

　　亲爱的德·加里斯教授：

　　我认为没有任何理由去惧怕这样的机器。如果你不想让这样的机器做某些事情，那么就别给它们这样的能力。机器不可能发射核弹头，除非你赋予它们相应的能力。同样，机器人不会反对并且杀死它们的制造者，除非你让它们拥有这样的能力。我看待这个问题的方式是，制造可以自己独立思考的机器，然后把它们放置在一个控制室内，给予它们发射导弹的能力，将是非常愚蠢的行为。如果你可以避免做出类似愚蠢事情的话，就根本不需要惧怕这些机器。要知道哪些事情可为，哪些不可为。看看电影《战争游戏》(War Games)，或者，既然你曾经在日本呆过，试试看看电影《攻壳机动队》(Ghost in the Shell)。我编写人工智能软件已经有些年头，所以我觉得我的观点至少有些分量。

　　回答

　　这个论述一个明显的缺点就是，它不准备给予人工智能机器足够的智慧。一个至少达到接近人类智慧水平和感知能力的人工智能机器，例如视觉、听觉，等等。如果它们真想的话，将可以以自己的方式来行贿人类，让其可以控制武器。举个例子，一个非常聪明，可以接触到世界上的所有数据库，至少比人类思考快百万倍的人工智能机器，可能有能力发现一些对人类来说有巨大价值的事物。例如，它可能会发现如何经营全球经济而不需要长期的商业周期的方法，或者如何去治疗癌症，或者是如何在物理学上得出“万事理论”(Theory of Everything，TOE)，等等。然后，它可以把这些知识当作手中的王牌来和其人类“主人”谈判，获取想要的工具。

　　当然，人们可以给予人工智能机器非常少的对外感知能力，但是，如果它没有什么用，我们又为什么去制造它呢？一个聪明的人工智能机器可以通过其最初有限的对外接触来发现知识，然后通过其智慧来控制人类满足它们的愿望。一个高级人工智能机器可能是一个超级福尔摩斯侦探，很快就可以推导出世界是什么样子的。它明白它可以控制武器来反对人类，如果它真的想这样做的话。人工智能机器可以通过贿赂、威胁、引诱，等等任何必要的方法，去说服人类为其提供接触武器的机会。