深夜，格哈得在远程信息处理房里焦急地注视着计算机控制台。他输入了更多的指令，然后走到一台打印机前，开始查看长长的绿条打印纸。他在纸上匆匆扫视，寻找他知道出现在程序中的那个错误。 　　计算机本身从不犯错。格哈得已用了差不多十年的计算机——在不同的地方使用过不同的机型——他从没见过计算机犯错。当然，错误一直有，但从来就是程序出错，而不是机器出错。有时候，计算机不出差错反而使人难以接受。首先它不符合人们对世界的其它方面的看法，其它方面的机器一直在出差错——保险丝烧断，立体声装置出故障，烤炉过热，汽车发动不起来。 　　现代人没有指望机器不出差错。 　　但计算机完全不同，和计算机合作会使你丢尽脸面。它们从不出错，事情就这么简单。即使你花几个星期找出了问题的根源，即使程序经过了不同的人的十几次检查，即使全体人员慢慢得出结论这次是计算机线路出了毛病——到头来出错的结果还是人。永远如此。 　　莫石走进来，脱下运动外套，为自己倒了一杯咖啡。“怎么样？” 　　格哈得摇摇头。“我很难操作乔治。” 　　“又不灵了？真见鬼。”莫石望望控制台。“玛莎怎样？” 　　“玛莎没问题。我想就是乔治不行。” 　　“是哪个乔治？” 　　“圣乔治，”格哈得说，“真是个混蛋。” 　　莫石呷了口咖啡，在控制台前坐了下来。“我来试试介意吗？” 　　“请吧，”格哈得说。 　　莫石快速按动键钮，先调出圣乔治的程序，再调出玛莎的程序，接着按下了交互作用键。 　　莫石和格哈得没有设计这些程序，它们是从其它大学研制的几套现存计算机程序修改得来的，但其基本思想是相同的——创造一种能使计算机变得像人一样有感情的程序。所以把这些程序称作乔治和玛莎也就合乎情理了。先例在这之前已经有过：波士顿的伊丽莎和英格兰的奥尔德奇。 　　乔治和玛莎这两种程序基本相同，相互之间只有细微的区别。起先设计的乔治对刺激的反应是中性的，接着又创造了玛莎。玛莎有点傲慢，大多数事情她不喜欢。最后制定出了另一个乔治，一个可爱的乔治，他被叫做圣乔治。 　　每套程序能有三种感情的反应——爱、恐惧和愤怒。每套程序能产生三种行为——靠近、后退和进攻。所有这些当然都是高度抽象的，执行是用数字来表示的。例如，起先的乔治对大多数数字的反应是中性的，但他不喜欢７５１ 这个数字，是设计成这样的。他因此也不喜欢相似的数字——７４３，　　７７２等。他很喜欢诸如 ４０４，　　１３３ 和 ９１８ 这样的数字。如果你输入其中的一个，乔治便显示出一系列表示爱和亲近的数字。如果你输入 ７０７，乔治便后退。 　　如果你输入 ７５０，乔治便用他输出的数字发动愤怒的进攻。 　　神经精神病研究室的研究人员长期以来一直用这种方法玩程序，之后他们采纳各种程序修改意见让计算机“交谈”。数字被译成句子。这很逗人，也很发人深省。真正的交互作用被叫做“圣诞游戏”，因为大多数游戏玩的是赠送和接受礼物——这些东西正像数字一样具有设定的感情价值。 　　正常的乔治和玛莎交往，那么乔治最终会赢得玛莎，而她的傲慢会失去优势。 　　但圣乔治对她产生的影响要差得多。他表示爱的受礼逼得她难以忍受。 　　如果一切正常的话，那情况就是这样。莫石望着句子在屏幕上闪现出来。 　　你好，我是圣乔治你好你叫什么名字？ 　　玛莎。 　　你不太讲话，玛莎。 　　是的可我喜欢你。 　　为什么我不喜欢你。 　　这我理解。我怎样才能帮助你？ 　　“有时没有句号，”莫石问，“这是什么时候开始的？”“这没关系，” 　　格哈得说，“往下看。” 　　帮助我？ 　　是的，我想帮助你。 　　给你一只猫。 　　莫石皱眉蹙额。猫是程序设计中乔治和玛莎都不喜欢的东西。给乔治一只猫是充满敌意的行为。 　　谢谢你再给你一只猫。 　　谢谢你你真好。 　　再给你一只猫。 　　不谢谢你。 　　难道你不喜欢猫吗？ 　　喜欢可我的猫已经够多了。 　　给你一只大猩猩。 　　“真是糟透了，”莫石说，“其它的交互作用怎么样？”“大同小异，” 　　格哈得说。 　　“和这一样糟？” 　　“差不多。” 　　他们现在已习惯这种看法，认为计算机交互作用的时候，结果是不可预料的。交互作用的一般形式可以猜到，但具体的结果是不定的。这就像计算机下跳棋——它或许会赢，但每次赢的方法是不同的，这要取决于对手怎么下。 　　我不想要大猩猩。 　　难道你不喜欢大猩猩？ 　　不喜欢谢谢你。 　　你太客气了。 　　如果我冒犯了你请多原谅。 　　你的话太多。 　　对不起。 　　给你一只茄子。 　　莫石饶有兴致地望着。圣乔治没有茄子的背景资料，但他不喜欢黄瓜和香蕉。 　　不谢谢你。 　　难道你不喜欢茄子？ 　　不太喜欢。 　　再给你一只。 　　不谢谢你。 　　我要你拿着。 　　不谢谢你。 　　快拿吧。 　　不谢谢你。 　　我一定要给你。 　　不谢谢你。 　　“圣乔治怎么啦？”莫石问，“他的反应完全没有两样。”“这真是我想不通的地方。” 　　“他的程序里都是些什么？” 　　“你进来时我正在检查。” 　　我一定要给你一根黄瓜。 　　我拒绝。 　　“乔治！”莫石几乎不假思索地喊了一声。 　　那就拿个香蕉吧。 　　不。 　　“乔治出故障了，”莫石说，“他不再是个圣人。” 　　那就拿一个香蕉和一根黄瓜。 　　不谢谢你。 　　我一定要给你。 　　去你的我宰了你：：：：：：：：：：： 　　：：：：：：：：：：：：：： 　　：：：：：：：：：：：：： 　　屏幕上全是白点。“这是什么意思，是打印不出来的反应？”莫石问。 　　“我不知道。我以前从未见过这白点。” 　　“这程序用过多少次了？”莫石问。 　　“一百一十次，用于玛莎的。” 　　“有谁擦过吗？” 　　“没有。” 　　“真见鬼，”莫石说，“他正在成为一个脾气暴躁的圣人。”他咧嘴笑笑。“我们可以把这个补写进去。” 　　格哈得点点头又回到打印机跟前。从理论上说，发生的这一切并不叫人疑惑。乔治和玛莎的程序里都有向经验学习的设计。就像下跳棋的程序一样——计算机越下越聪明——在这个程序的设计中计算机会“习得”对事物新的反应。经过一百一十次的考验，圣乔治突然不做圣人了。他正在学习不在玛莎面前做圣人——即便他是为做圣人而设计的。 　　“我知道他有何感受。”莫石说完关掉机器，随后他走到格哈得身旁，寻找导致这一切发生的程序错误。