下午六點，神經精神病研究室主任羅傑。麥克弗森上七摟查看他的病人。至少他認為本森是他的病人，這是一種業主的感受，但並不完全正確。沒有麥克弗森憂不會有神經精神病研究室，沒有神經精神病研究室就不會有腦外科手術，電就不會有本森。他就是這樣認為的。
710房間裏靜悄悄的，沐浴在落日的紅霞中。本森好像在睡覺，但麥克弗森關門時他睜開了眼睛。
“你感覺怎麽樣？”麥克弗森說著朝病床走去。
本森微微一笑。“誰都想知道這個，”他說。
麥克弗森也朝他笑笑。“這是很自然的。”
“我累，就這感覺，很累……有時我想我是一顆滴答作響的定時炸彈，你們都想知道我什麽時候爆炸。”
“這就是你的想法嗎？”麥克弗森問。
他習慣性地動動本森的被子，以便觀察靜脈輸液管。輸液管一切正常。
“滴答滴答。”本森說著又閉上了眼睛。“滴答滴答。”
麥克弗森緊皺雙眉。他已習慣本森用機械來作比喻，不管怎麽說，本森滿腦子想的都是人就是機器。但手術結束不久就出現這種想法……
“疼嗎？”
“不疼。耳朵後麵稍許有一點，就像摔倒了一下。其它沒什麽。”
麥克弗森知道這是頭蓋骨被鑽孔之後的疼。
“摔倒？”
“我就是一個摔倒的人，”本森說，“我屈服了。”
“向什麽屈服了？”
“把我變成一台機器的過程屈服了。”他又睜開眼睛笑笑。“或者一顆定時炸彈。”
“聞到什麽味道嗎？有什麽奇特的感受？”麥克弗森邊問邊朝病床上方的腦電圖掃描器看了一眼。掃描器顯示的仍然是α圖像，沒有任何發作活動的跡象。
“沒有，沒有那種感覺。”
“可你感到好像是要爆炸似的？”他想羅斯該來問這些問題。
“有點，”本森說，“在即將來臨的戰爭中，我們也許都會爆炸。”
“這話怎麽說？”
“在即將來臨的人與機器的戰爭中，你知道，人腦已經不管用。”
這是新的看法，麥克弗森以前沒聽本森說過。他注視著躺在床上的本森，本森的頭上肩上都紮滿了繃帶，使他的上身和頭部顯得笨重和臃腫。
“是的，”本森說，“人腦已走到盡頭，它已疲憊不堪，於是它生育了下一代的智慧形式。它們將——我為什麽會這樣累？”他又閉上眼睛。
“你沒有力氣是手術的緣故。”
“一個小步驟。”他說完閉著眼睛笑笑。轉眼間他已鼾聲大作。
麥克弗森在病床旁站了片刻，然後轉向窗戶望著落日在太平洋上空徐徐西沉。本森的房間真不錯，可以在聖莫尼卡的高樓大廈之間看到一方海水。他又站了幾分鍾，本森沒有醒過來。最後，麥克弗森走出病房，去護士辦公室做病情記錄。
病人機靈、敏感，已適應一切。他寫到這裏停了下來，他並不真的知道本森是否已適應他人、環境和時間，因為他沒做具體的檢查。不過病人確實機靈又敏感，麥克弗森繼續往下寫。思路清晰有序，但他的腦子裏仍有術前的機器形象。下結論還為時過早，可似乎病人早些時候的預言是正確的，手術無法改變他不在發作時的精神狀態。
簽名：羅傑·a。麥克弗森，醫學博士。
他朝自己的簽名看了片刻，接著合上病曆表，將它擺上架子。這病情記錄寫得不錯，冷靜、直接，沒有虛假的預料。病曆表不管怎麽說是具有法律效應的，可以在法庭上作證。麥克弗森不想在法庭上看到本森的病曆表，但小心謹慎總不會是壞事。
任何一個大科學實驗室的頭頭都有一種政治功能。你也許不承認這種功能，你也許不喜歡這種功能，但它又確確實實是這個職位必不可少的組成部分。
你得使手下的人一起工作時保持快樂。和純政治一樣，不守紀律者愈多，你的工作就愈是難做。
你得為你的實驗室到外麵去爭取基金，這也是純粹的政治。如果你在神經精神病研究室這種棘手的部門工作，情況就更是如此。麥克弗森早已形成一套申請獲得批準的辣根過氧化物酶原則。這很簡單：你申請經費時要宣布這筆經費將用於尋找酶辣根過氧化物酶，它可能會產生治愈癌症的方法。你便能輕而易舉地為項目申請到六萬美元的經費，然而要是搞思維工程你連六角錢也休想弄到手。
他望著架子上的一排病曆表，這是一排陌生的名字，710病房的本森這個名字在其中消失得無影無蹤。他心裏想，本森的話從某種意義上說是正確的——他是一顆活著的定時炸彈。一個接受思維控製技術治療的人會遇上公眾的各種非理性的偏見。用於“心髒控製”的心髒起搏器被認為是神奇的發明；用藥物進行的“腎髒控製”是件幸事，但“大腦控製”是罪惡，是災難——即便神經精神病研究室的控製工程和其它器官的控製工程極為相似，甚至連技術都是類同的：他們現在使用的原子能充電器原先是為心髒病人研製的。
但是偏見不會改變。本森認為自己是一顆滴答作響的定時炸彈。麥克弗森歎了口氣，又找出他的病曆表，翻到醫囑部分。埃利斯和莫裏斯兩人都在上麵寫了術後照料囑咐。麥克弗森作了補充：“明天上午接合後，開始用氯丙嗪。”
他看看囑咐，肯定護士不會懂什麽叫接合。他塗改後重新寫道：“明天中午後開始用氯丙嗪。”
離開七樓時，他心想本森一旦用了氯丙嗓會休息得更好。或許他們無法卸除定時炸彈的引信——但他們當然可把它扔進一桶冷水。
深夜，格哈得在遠程信息處理房裏焦急地注視著計算機控製台。他輸入了更多的指令，然後走到一台打印機前，開始查看長長的綠條打印紙。他在紙上匆匆掃視，尋找他知道出現在程序中的那個錯誤。
計算機本身從不犯錯。格哈得已用了差不多十年的計算機——在不同的地方使用過不同的機型——他從沒見過計算機犯錯。當然，錯誤一直有，但從來就是程序出錯，而不是機器出錯。有時候，計算機不出差錯反而使人難以接受。首先它不符合人們對世界的其它方麵的看法，其它方麵的機器一直在出差錯——保險絲燒斷，立體聲裝置出故障，烤爐過熱，汽車發動不起來。現代人沒有指望機器不出差錯。
但計算機完全不同，和計算機合作會使你丟盡臉麵。它們從不出錯，事情就這麽簡單。即使你花幾個星期找出了問題的根源，即使程序經過了不同的人的十幾次檢查，即使全體人員慢慢得出結論這次是計算機線路出了毛病——到頭來出錯的結果還是人。永遠如此。
理查茲走進來，脫下運動外套，為自己倒了一杯咖啡。“怎麽樣？”
格哈得搖搖頭。“我很難操作喬治。”
“又不靈了？真見鬼。”理查茲望望控製台。“瑪莎怎樣？”
“瑪莎沒問題。我想就是喬治不行。”
“是哪個喬治？”
“聖喬治，”格哈得說，“真是個混蛋。”
理查茲呷了口咖啡，在控製台前坐了下來。“我來試試介意嗎？”
“請吧，”格哈得說。
理查茲快速按動鍵鈕，先調出聖喬治的程序，再調出瑪莎的程序，接著按下了交互作用鍵。
理查茲和格哈得沒有設計這些程序，它們是從其它大學研製的幾套現存計算機程序修改得來的，但其基本思想是相同的——創造一種能使計算機變得像人一樣有感情的程序。所以把這些程序稱作喬治和瑪莎也就合乎情理了。先例在這之前已經有過：波士頓的伊麗莎和英格蘭的奧爾德斯。
喬治和瑪莎這兩種程序基本相同，相互之間隻有細微的區別。起先設計的喬治對刺激的反應是中性的，接著又創造了瑪莎。瑪莎有點傲慢，大多數事情她不喜歡。最後製定出了另一個喬治，一個可愛的喬治，他被叫做聖喬治。
每套程序能有三種感情的反應——愛、恐懼和憤怒。每套程序能產生三種行為——靠近、後退和進攻。所有這些當然都是高度抽象的，執行是用數字來表示的。例如，起先的喬治對大多數數字的反應是中性的，但他不喜歡751這個數字，是設計成這樣的。他因此也不喜歡相似的數字－743，772等。他很喜歡諸如404，133和918這樣的數字。如果你輸入其中的一個，喬治便顯示出一係列表示愛和親近的數字。如果你輸入707，喬治便後退。如果你輸入750，喬治便用他輸出的數字發動憤怒的進攻。
神經精神病研究室的研究人員長期以來一直用這種方法玩程序，之後他們采納各種程序修改意見讓計算機“交談”。數字被譯成句子。這很逗人，也很發人深省。真正的交互作用被叫做“聖誕遊戲”，因為大多數遊戲玩的是贈送和接受禮物——這些東西正像數字一樣具有設定的感情價值。
正常的喬治和瑪莎交往，那麽喬治最終會贏得瑪莎，而她的傲慢會失去優勢。
但聖喬治對她產生的影響要差得多。他表示愛的受禮逼得她難以忍受。如果一切正常的話，那情況就是這樣。理查茲望著句子在屏幕上閃現出來。
你好，我是聖喬治
你好
你叫什麽名字？
瑪莎。
你不太講話，瑪莎。
是的
可我喜歡你。
為什麽我不喜歡你。
這我理解。我怎樣才能幫助你？
“有時沒有句號，”理查茲問，“這是什麽時候開始的？”
“這沒關係，”格哈得說，“往下看。”
幫助我？
是的，我想幫助你。
給你一隻貓。
理查茲皺眉蹙額。貓是程序設計中喬治和瑪莎都不喜歡的東西。給喬治一隻貓是充滿敵意的行為。
謝謝你
再給你一隻貓。
謝謝你你真好。
再給你一隻貓。
不，謝謝你。
難道你不喜歡貓嗎？
喜歡可我的貓已經夠多了。
給你一隻大猩猩。
“真是糟透了，”理查茲說，“其它的交互作用怎麽樣？”
“大同小異，”格哈得說。
“和這一樣糟？”
“差不多。”
他們現在已習慣這種看法，認為計算機交互作用的時候，結果是不可預料的。交互作用的一般形式可以猜到，但具體的結果是不定的。這就像計算機下跳棋——它或許會贏，但每次贏的方法是不同的，這要取決於對手怎麽下。
我不想要大猩猩。
難道你不喜歡大猩猩？
不喜歡謝謝你。
你太客氣了。
如果我冒犯了你請多原諒。
你的話大多。
對不起。
給你一隻茄子。
理查茲饒有興致地望著。聖喬治沒有茄子的背景資料，但他不喜歡黃瓜和香蕉。
不，謝謝你。
難道你不喜歡茄子？
不太喜歡。
再給你一隻。
不，謝謝你。
我要你拿著。
不，謝謝你。
快拿吧。
不，謝謝你。
我一定要給你。
不，謝謝你。
“聖喬治怎麽啦？，”理查茲問，“他的反應完全沒有兩樣。”
“這真是我想不通的地方。”
“他的程序裏都是些什麽？”
“你進來時我正在檢查。”
我一定要給你一根黃瓜。
我拒絕。
“喬治！”理查茲幾乎不假思索地喊了一聲。
那就拿個香蕉吧。
不。
“喬治出故障了，”理查茲說，“他不再是個聖人。”
那就拿一個香蕉和一根黃瓜。
不，謝謝你。
我一定要給你。
去你的我宰了你：：：：：：：：：：：：：：：：：：：
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
屏幕上全是白點。“這是什麽意思，是打印不出來的反應？”理查茲問。
“我不知道。我以前從未見過這白點。”
“這程序用過多少次了？”理查茲問。
“一百一十次，用於瑪莎的。”
“有誰擦過嗎？”
“沒有。”
“真見鬼，”理查茲說，“他正在成為一個脾氣暴躁的聖人。”他咧嘴笑笑。“我們可以把這個補寫進去。”
格哈得點點頭又回到打印機跟前。從理論上說，發生的這一切並不叫人疑惑。喬治和瑪莎的程序裏都有向經驗學習的設計。就像下跳棋的程序一樣——計算機越下越聰明——在這個程序的設計中計算機會“習得”對事物新的反應。經過一百一十次的考驗，聖喬治突然不做聖人了。他正在學習不在瑪莎麵前做聖人——即便他是為做聖人而設計的。
“我知道他有何感受。”理查茲說完關掉機器，隨後他走到格哈得身旁，尋找導致這一切發生的程序錯誤。
710房間裏靜悄悄的，沐浴在落日的紅霞中。本森好像在睡覺，但麥克弗森關門時他睜開了眼睛。
“你感覺怎麽樣？”麥克弗森說著朝病床走去。
本森微微一笑。“誰都想知道這個，”他說。
麥克弗森也朝他笑笑。“這是很自然的。”
“我累，就這感覺，很累……有時我想我是一顆滴答作響的定時炸彈，你們都想知道我什麽時候爆炸。”
“這就是你的想法嗎？”麥克弗森問。
他習慣性地動動本森的被子，以便觀察靜脈輸液管。輸液管一切正常。
“滴答滴答。”本森說著又閉上了眼睛。“滴答滴答。”
麥克弗森緊皺雙眉。他已習慣本森用機械來作比喻，不管怎麽說，本森滿腦子想的都是人就是機器。但手術結束不久就出現這種想法……
“疼嗎？”
“不疼。耳朵後麵稍許有一點，就像摔倒了一下。其它沒什麽。”
麥克弗森知道這是頭蓋骨被鑽孔之後的疼。
“摔倒？”
“我就是一個摔倒的人，”本森說，“我屈服了。”
“向什麽屈服了？”
“把我變成一台機器的過程屈服了。”他又睜開眼睛笑笑。“或者一顆定時炸彈。”
“聞到什麽味道嗎？有什麽奇特的感受？”麥克弗森邊問邊朝病床上方的腦電圖掃描器看了一眼。掃描器顯示的仍然是α圖像，沒有任何發作活動的跡象。
“沒有，沒有那種感覺。”
“可你感到好像是要爆炸似的？”他想羅斯該來問這些問題。
“有點，”本森說，“在即將來臨的戰爭中，我們也許都會爆炸。”
“這話怎麽說？”
“在即將來臨的人與機器的戰爭中，你知道，人腦已經不管用。”
這是新的看法，麥克弗森以前沒聽本森說過。他注視著躺在床上的本森，本森的頭上肩上都紮滿了繃帶，使他的上身和頭部顯得笨重和臃腫。
“是的，”本森說，“人腦已走到盡頭，它已疲憊不堪，於是它生育了下一代的智慧形式。它們將——我為什麽會這樣累？”他又閉上眼睛。
“你沒有力氣是手術的緣故。”
“一個小步驟。”他說完閉著眼睛笑笑。轉眼間他已鼾聲大作。
麥克弗森在病床旁站了片刻，然後轉向窗戶望著落日在太平洋上空徐徐西沉。本森的房間真不錯，可以在聖莫尼卡的高樓大廈之間看到一方海水。他又站了幾分鍾，本森沒有醒過來。最後，麥克弗森走出病房，去護士辦公室做病情記錄。
病人機靈、敏感，已適應一切。他寫到這裏停了下來，他並不真的知道本森是否已適應他人、環境和時間，因為他沒做具體的檢查。不過病人確實機靈又敏感，麥克弗森繼續往下寫。思路清晰有序，但他的腦子裏仍有術前的機器形象。下結論還為時過早，可似乎病人早些時候的預言是正確的，手術無法改變他不在發作時的精神狀態。
簽名：羅傑·a。麥克弗森，醫學博士。
他朝自己的簽名看了片刻，接著合上病曆表，將它擺上架子。這病情記錄寫得不錯，冷靜、直接，沒有虛假的預料。病曆表不管怎麽說是具有法律效應的，可以在法庭上作證。麥克弗森不想在法庭上看到本森的病曆表，但小心謹慎總不會是壞事。
任何一個大科學實驗室的頭頭都有一種政治功能。你也許不承認這種功能，你也許不喜歡這種功能，但它又確確實實是這個職位必不可少的組成部分。
你得使手下的人一起工作時保持快樂。和純政治一樣，不守紀律者愈多，你的工作就愈是難做。
你得為你的實驗室到外麵去爭取基金，這也是純粹的政治。如果你在神經精神病研究室這種棘手的部門工作，情況就更是如此。麥克弗森早已形成一套申請獲得批準的辣根過氧化物酶原則。這很簡單：你申請經費時要宣布這筆經費將用於尋找酶辣根過氧化物酶，它可能會產生治愈癌症的方法。你便能輕而易舉地為項目申請到六萬美元的經費，然而要是搞思維工程你連六角錢也休想弄到手。
他望著架子上的一排病曆表，這是一排陌生的名字，710病房的本森這個名字在其中消失得無影無蹤。他心裏想，本森的話從某種意義上說是正確的——他是一顆活著的定時炸彈。一個接受思維控製技術治療的人會遇上公眾的各種非理性的偏見。用於“心髒控製”的心髒起搏器被認為是神奇的發明；用藥物進行的“腎髒控製”是件幸事，但“大腦控製”是罪惡，是災難——即便神經精神病研究室的控製工程和其它器官的控製工程極為相似，甚至連技術都是類同的：他們現在使用的原子能充電器原先是為心髒病人研製的。
但是偏見不會改變。本森認為自己是一顆滴答作響的定時炸彈。麥克弗森歎了口氣，又找出他的病曆表，翻到醫囑部分。埃利斯和莫裏斯兩人都在上麵寫了術後照料囑咐。麥克弗森作了補充：“明天上午接合後，開始用氯丙嗪。”
他看看囑咐，肯定護士不會懂什麽叫接合。他塗改後重新寫道：“明天中午後開始用氯丙嗪。”
離開七樓時，他心想本森一旦用了氯丙嗓會休息得更好。或許他們無法卸除定時炸彈的引信——但他們當然可把它扔進一桶冷水。
深夜，格哈得在遠程信息處理房裏焦急地注視著計算機控製台。他輸入了更多的指令，然後走到一台打印機前，開始查看長長的綠條打印紙。他在紙上匆匆掃視，尋找他知道出現在程序中的那個錯誤。
計算機本身從不犯錯。格哈得已用了差不多十年的計算機——在不同的地方使用過不同的機型——他從沒見過計算機犯錯。當然，錯誤一直有，但從來就是程序出錯，而不是機器出錯。有時候，計算機不出差錯反而使人難以接受。首先它不符合人們對世界的其它方麵的看法，其它方麵的機器一直在出差錯——保險絲燒斷，立體聲裝置出故障，烤爐過熱，汽車發動不起來。現代人沒有指望機器不出差錯。
但計算機完全不同，和計算機合作會使你丟盡臉麵。它們從不出錯，事情就這麽簡單。即使你花幾個星期找出了問題的根源，即使程序經過了不同的人的十幾次檢查，即使全體人員慢慢得出結論這次是計算機線路出了毛病——到頭來出錯的結果還是人。永遠如此。
理查茲走進來，脫下運動外套，為自己倒了一杯咖啡。“怎麽樣？”
格哈得搖搖頭。“我很難操作喬治。”
“又不靈了？真見鬼。”理查茲望望控製台。“瑪莎怎樣？”
“瑪莎沒問題。我想就是喬治不行。”
“是哪個喬治？”
“聖喬治，”格哈得說，“真是個混蛋。”
理查茲呷了口咖啡，在控製台前坐了下來。“我來試試介意嗎？”
“請吧，”格哈得說。
理查茲快速按動鍵鈕，先調出聖喬治的程序，再調出瑪莎的程序，接著按下了交互作用鍵。
理查茲和格哈得沒有設計這些程序，它們是從其它大學研製的幾套現存計算機程序修改得來的，但其基本思想是相同的——創造一種能使計算機變得像人一樣有感情的程序。所以把這些程序稱作喬治和瑪莎也就合乎情理了。先例在這之前已經有過：波士頓的伊麗莎和英格蘭的奧爾德斯。
喬治和瑪莎這兩種程序基本相同，相互之間隻有細微的區別。起先設計的喬治對刺激的反應是中性的，接著又創造了瑪莎。瑪莎有點傲慢，大多數事情她不喜歡。最後製定出了另一個喬治，一個可愛的喬治，他被叫做聖喬治。
每套程序能有三種感情的反應——愛、恐懼和憤怒。每套程序能產生三種行為——靠近、後退和進攻。所有這些當然都是高度抽象的，執行是用數字來表示的。例如，起先的喬治對大多數數字的反應是中性的，但他不喜歡751這個數字，是設計成這樣的。他因此也不喜歡相似的數字－743，772等。他很喜歡諸如404，133和918這樣的數字。如果你輸入其中的一個，喬治便顯示出一係列表示愛和親近的數字。如果你輸入707，喬治便後退。如果你輸入750，喬治便用他輸出的數字發動憤怒的進攻。
神經精神病研究室的研究人員長期以來一直用這種方法玩程序，之後他們采納各種程序修改意見讓計算機“交談”。數字被譯成句子。這很逗人，也很發人深省。真正的交互作用被叫做“聖誕遊戲”，因為大多數遊戲玩的是贈送和接受禮物——這些東西正像數字一樣具有設定的感情價值。
正常的喬治和瑪莎交往，那麽喬治最終會贏得瑪莎，而她的傲慢會失去優勢。
但聖喬治對她產生的影響要差得多。他表示愛的受禮逼得她難以忍受。如果一切正常的話，那情況就是這樣。理查茲望著句子在屏幕上閃現出來。
你好，我是聖喬治
你好
你叫什麽名字？
瑪莎。
你不太講話，瑪莎。
是的
可我喜歡你。
為什麽我不喜歡你。
這我理解。我怎樣才能幫助你？
“有時沒有句號，”理查茲問，“這是什麽時候開始的？”
“這沒關係，”格哈得說，“往下看。”
幫助我？
是的，我想幫助你。
給你一隻貓。
理查茲皺眉蹙額。貓是程序設計中喬治和瑪莎都不喜歡的東西。給喬治一隻貓是充滿敵意的行為。
謝謝你
再給你一隻貓。
謝謝你你真好。
再給你一隻貓。
不，謝謝你。
難道你不喜歡貓嗎？
喜歡可我的貓已經夠多了。
給你一隻大猩猩。
“真是糟透了，”理查茲說，“其它的交互作用怎麽樣？”
“大同小異，”格哈得說。
“和這一樣糟？”
“差不多。”
他們現在已習慣這種看法，認為計算機交互作用的時候，結果是不可預料的。交互作用的一般形式可以猜到，但具體的結果是不定的。這就像計算機下跳棋——它或許會贏，但每次贏的方法是不同的，這要取決於對手怎麽下。
我不想要大猩猩。
難道你不喜歡大猩猩？
不喜歡謝謝你。
你太客氣了。
如果我冒犯了你請多原諒。
你的話大多。
對不起。
給你一隻茄子。
理查茲饒有興致地望著。聖喬治沒有茄子的背景資料，但他不喜歡黃瓜和香蕉。
不，謝謝你。
難道你不喜歡茄子？
不太喜歡。
再給你一隻。
不，謝謝你。
我要你拿著。
不，謝謝你。
快拿吧。
不，謝謝你。
我一定要給你。
不，謝謝你。
“聖喬治怎麽啦？，”理查茲問，“他的反應完全沒有兩樣。”
“這真是我想不通的地方。”
“他的程序裏都是些什麽？”
“你進來時我正在檢查。”
我一定要給你一根黃瓜。
我拒絕。
“喬治！”理查茲幾乎不假思索地喊了一聲。
那就拿個香蕉吧。
不。
“喬治出故障了，”理查茲說，“他不再是個聖人。”
那就拿一個香蕉和一根黃瓜。
不，謝謝你。
我一定要給你。
去你的我宰了你：：：：：：：：：：：：：：：：：：：
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：：
屏幕上全是白點。“這是什麽意思，是打印不出來的反應？”理查茲問。
“我不知道。我以前從未見過這白點。”
“這程序用過多少次了？”理查茲問。
“一百一十次，用於瑪莎的。”
“有誰擦過嗎？”
“沒有。”
“真見鬼，”理查茲說，“他正在成為一個脾氣暴躁的聖人。”他咧嘴笑笑。“我們可以把這個補寫進去。”
格哈得點點頭又回到打印機跟前。從理論上說，發生的這一切並不叫人疑惑。喬治和瑪莎的程序裏都有向經驗學習的設計。就像下跳棋的程序一樣——計算機越下越聰明——在這個程序的設計中計算機會“習得”對事物新的反應。經過一百一十次的考驗，聖喬治突然不做聖人了。他正在學習不在瑪莎麵前做聖人——即便他是為做聖人而設計的。
“我知道他有何感受。”理查茲說完關掉機器，隨後他走到格哈得身旁，尋找導致這一切發生的程序錯誤。