苏珊?凯文花了五小时约谈六十三个机器人。在这五个小时中，她一再重复同样的程序；看着同样的机器人来来去去；提出同样的问题甲、乙、丙、丁；听到同样的回答甲、乙、丙、丁；仔细保持着温和的表情、中性的语气、友善的气氛，并仔细藏好一台录音机。 约谈结束后，这位机器人心理学家觉得精疲力尽。 玻格特正在等她，当她将录音卷“叮当”一声丢到高分子桌面时，他满怀期待地望着她。 她摇了摇头。“在我看来，六十三个机器人似乎通通一样。我无法分辨……” 他说：“你不可能指望用耳朵来分辨，苏珊。我们应该分析这些录音。” 一般而言，对机器人的言辞反应进行数学诠释，属于机器人分析学中较复杂的一支。它需要一组训练有素的技术员，以及大型计算机的帮助。这点玻格特知道，而他正是这样说的。那时他已听完每一组回答，列出了字句偏差表，画出了反应间隔曲线。他心中感到极度厌烦，只是未曾表露出来。 “并未显现任何异常，苏珊。字句和反应时间的变化，都在普通频率组的范围内。我们需要更精密的方法，他们这里一定有电脑。不——”他皱起眉头，并优雅地啃起拇指的指甲，“我们不能用电脑，泄密的危险性太大。或者如果我们……” 凯文博士以不耐烦的手势打断他的话。“拜托，彼得，这可不是你在实验室遇到的小问题。假如我们无法借着某项肉眼看得出的粗浅差异，判断哪个才是修订型纳斯特，而且肯定绝对错不了，我们就要倒霉了。那样的话，判断错误而让他逃掉的机会太大了。在图表上指出一个微小的异常是绝对不够的。我告诉你，假如这些是我唯一的线索，为了确保万无一失，我会把他们通通毁掉。你和其他的修订型纳斯特谈过吗？” “谈过了，”玻格特迅速回应，“他们没有任何不对劲。非要挑剔的话，就是他们过分友善。他们乐意回答我的问题，对自己的知识表现出自傲——只有那两个新来的例外，他们还没有时间学习乙太物理。我对此地某些专业知识的无知，引来他们相当善意的嘲笑。”他耸了耸肩，“我想这一点，就是此地技术人员对他们产生反感的原因之一。那些机器人或许太喜欢卖弄他们的知识，让你感到自叹不如。” “你能不能试试几个普兰纳反应，看看他们的心智结构自出厂后有没有任何改变，或任何衰退？” “我还没试，但我会的。”他举起一根细瘦的手指，冲着她摇了摇，“你吓到了，苏珊。我不知道你有什么戏剧化的想法，但他们本质上是无害的。” “是吗？”凯文火了，“是吗？你可了解他们其中之一在说谎吗？在我刚约谈过的六十三个机器人当中，有一个故意对我说谎，虽然我下了最严格的命令，叫他们一定要讲实话。这显示异常现象极其根深蒂固，而且极其可怕。” 彼得?玻格特不知不觉咬牙切齿。“根本没这回事。听好！纳斯特十号接到一个要他消失的命令。这个命令以最紧急的形式表述，下令者又是最有权力指挥他的人。你找不到更紧急的形式或更高的指挥权，来撤销和取代这个命令。自然，那机器人会全力以赴完成使命。事实上，客观地讲，我佩服他的机智。他竟然想到躲在一群类似的机器人当中，还有什么更好的消失之道吗？” “很好，你会佩服他。我察觉出你觉得有趣，彼得——既觉得有趣，又对状况过分无知。你是机器人学家吗，彼得？那些机器人把他们心目中的优越感看得很重要，你自己刚刚这样说过。他们在下意识里，觉得人类比他们低劣，再加上保护我们的第一法则不够完备，所以他们是不稳定的。现在的情况是，一个年轻人命令一个机器人离去，命令他消失，而且用的都是憎嫌、轻蔑、厌恶的言辞。姑且相信那机器人必须服从命令，但他在下意识中，却藏有怨恨的情绪。他被骂了那么多恶毒的字眼，现在就更需要证明自己优于人类。这个需要也许变得太重要，使得打折扣的第一法则不足以控制他。” “机器人究竟怎么会知道用在他身上的各式各样粗话，苏珊？他脑中印记的内容并不包括猥亵的言辞。” “原始的印记并不是一切。”凯文对他咆哮，“机器人拥有学习能力，你……你这个傻……”这时，玻格特知道她真的发脾气了。她很快继续说下去：“难道你没有想到，他能从口气中听出那些话绝非恭维？难道你没有想到，他以前听说过那些话，注意到它们是用在什么情况下？” “好吧，那么，”玻格特叫道，“能否请你好心地告诉我，无论一个修订型纳斯特多么气愤，无论他多么丧心病狂地想证明自己的优越，他又有什么办法伤害人类？” “如果我举个例子，你会保密吗？” “会的。” 两人隔着桌子倾身凑向对方，两双愤怒的目光也勾在一起了。 机器人心理学家说：“假如修订型机器人从某人上方抛下一个重物，只要他在这样做的时候，明白自己具有足够的力量和反应速度，能在重物砸到那人之前将它抓走，他就不会违反第一法则。然而一旦重物离手，他就不再是主动的媒介，起作用的只剩下盲目的重力。然后那机器人就能改变心意，他只要不作为，就能让重物砸下去。修订后的第一法则允许这个行动。” “你把想象力发挥到了可怕的程度。” “这是我的专业有时必须做的。彼得，我们别吵了，开始工作吧。你知道令那个机器人消失的刺激具有何种本质，你有他的原始心智结构记录。我要你告诉我，我刚才说的那种事，我们的机器人做得到的可能性有多少。不是那个特殊例子，请注意，而是整个这一类反应。我要尽快得到答案。” “在此之前……” “在此之前，我们必须试着做些直接测试第一法则反应的实验。”