時間已經很晚了。
幾乎是午夜了。整個房子裏一片寂靜。我不確定將會出現什麽樣的情況。孩子們全都病得非常曆害，我給他們服用了病毒之後全都嘔吐起來。我可以聽到兒子和女兒在不同浴室裏嘔吐的聲音。幾分鍾以前，我進去看了一下他們，了解具體的病情。他們的臉色像死人一樣蒼白。我看得出來，他們很害怕，因為他們知道我害怕了。我還沒有告訴他們有關朱麗亞的事情。他們沒有問。他們病得太厲害，現在不會問我。
我最擔心的是小女兒，因為我也不得不讓她服用病毒。那是她惟一的希望。埃倫現在和她在一起，但是埃倫也在嘔吐。小女兒還沒有開始覺得惡心。我不知道這是福音還是凶兆。幼小的孩子對病毒的反應不同。
我覺得我沒有問題，至少現在還沒有。我疲憊極了。我覺得自己整夜都在不停地打瞌睡。這時，我坐在這裏，看著房後的窗戶，等候梅的消息。她剛才跳出了後院柵欄，這時可能正在斜坡上的灌木叢中爬著；那道斜坡從安裝著噴琳器的後院延伸下去。
她認為在斜坡下麵的什麽地方冒出了時隱時現的綠光。我叫她不要獨自一人下去，但是我太累了，無法和她同行。如果她等到明天，軍方的人會帶著火焰噴射器到來，把這裏的一切全都燒光。
軍方對這一事件反應愚鈍，但是我家裏有朱麗亞的電腦，我在她的硬盤留下了電子郵件的蹤跡。
我取下了那個硬盤，隻是為了安全起見。我複製了硬盤，把原件存放在城裏的一個保險箱裏了。我擔心的其實並不是軍方。我擔心的是拉裏·亨德勒和艾克西莫斯技術公司的其他人。他們知道他們會麵對多項駭人聽聞的訴訟。艾克西莫斯技術公司在本周將會宣告破產，但是他們仍然要承擔刑事訴訟責任——尤其是拉裏本人。如果他被關進監獄，我是不會哭泣的。
梅和我設法弄清了過去幾天裏發生的大多數事情。我女兒身上的疹子是由伽馬裝配工——那種利用元件碎片組裝成品分子的微型機器——引起的。朱麗亞從實驗室回家時，伽馬裝配工沾附在她的衣服上。朱麗亞擔心那種可能性；這就是她一到家就立刻淋浴的原因。實驗室裏擁有良好的清除汙染的方法，但是朱麗亞在實驗室以外和集群產生了互動。她知道存在著危險。
不管怎樣說，那天晚上她意外地讓伽瑪裝配工溜進了嬰兒房。按照設計要求，伽馬裝配工會破壞微型矽碎片，但是在遇到像皮膚這樣具有柔韌性的物質時隻是刺激它。那種感覺令人痛苦，並且引起某種沒有見過——或者甚至沒有被懷疑過——的微型創傷。難怪阿曼達會發燒。她沒有出現感染，而是在皮膚上有一層正在不停噬咬的微粒。核磁共振成像儀立刻就治愈了她的病——在第一次脈衝出現時，她身上的裝配工全都被吸走了。（顯然，沙漠中的那個家夥也遇到了這樣的情況。他不知何故接觸了一批裝配工。他野營的地方距艾克西莫斯技術公司的沙漠設施隻有一英裏遠。）
朱麗亞知道阿曼達遇到的麻煩，但是沒有告訴任何人。她反而叫來那幫艾克西莫斯技術公司的清潔人員；我在醫院的那段時間裏，他們半夜到了我家。隻有埃裏克一個人看見了他們，現在我知道他看見的是什麽了。因為同一幫人幾個小時以前來清掃了我的房子。同一幫人那天晚上我在公路上的麵包車裏也見過。
領頭的那個人身穿一件銀色的防磁防化服，他看上去確實像鬼一樣。他的銀色麵罩使他顯得沒有麵部。他首先進入現場進行檢查。接著，四個穿著連褲工作服的男人走了進來，進行吸塵和清潔。我告訴埃裏克他做了夢，但是他並沒有做。那幫人在阿曼達的床下留置了一個傳感件，那是有意的，其目的是為了檢測萬一漏掉的伽馬裝配工殘餘。它不是平壓裝置，隻是被組裝成了平壓裝置的樣子。
當我最終了解所有這些真相時，我對朱麗亞隱瞞實情的做法感到非常氣憤，對她讓我擔心的做法感到非常氣憤。不過，她已經死了。現在生她的氣已經沒有意義了。
埃裏克的mp3播放器是被伽馬裝配工破壞的，沙漠裏的那些汽車也是以同樣方式被破壞的。那台核磁共振成像儀的情況也是如此。因為某種原因，伽馬裝配工破壞記憶芯片，卻沒有動中央處理器。我還沒有聽到對其原因的任何解釋。
那天晚上，在朱麗亞的敞篷車裏確實有一個集群。它是她從沙漠中帶回來的。我不知道她是否是有意那樣做的。那個集群能夠隱身，所以埃裏克出去到汽車旁邊觀察時，什麽東西也沒有看見。她開車離家時，我也無法確定自己看見了什麽東西。那個集群還可能以奇妙的方式捕捉到了燈光。在我的記憶中，它有點像裏基，但是時間很可能太短，集群還不能模仿人的外貌。那時，集群還沒有進化到那麽高級的階段。要麽，我可能隻是看見了一個模糊不清的形狀，我在嫉妒的心態下把它想像成了一個人。我覺得我沒有瞎編，但是可能我那樣做了。埃倫認為有那種可能性。
出了車禍以後，朱麗亞叫來了清潔人員。那就是那天深夜他們在路上的原因。他們正等著到山坡下麵去清理現場。我不知道引起車禍的原因，不知道它是與那集群有關，還是單純的交通事故。現在沒有人可以解答這個謎了。
沙漠中的那座設施被完全摧毀了。主實驗室裏有足夠的甲烷氣來形成一個溫度超過1，000攝氏度的大火球。任何生物材料都應該被徹底焚毀了。但是，我仍然擔心。他們在廢墟中沒有發現任何屍體，甚至連屍骨也沒有發現。
梅把那種噬菌體帶回了她原來工作的位於帕洛阿托的實驗室。我希望她讓他們認識到局勢的緊迫性。她對他們的反應守口如瓶。我覺得他們應該把那種噬菌體放到供水係統中，但是梅說，氯會把它殺滅。或許，應該搞一個疫苗計劃。就我所知，那種噬菌體可以起到殺滅集群的作用。
我有時候會出現耳嗚，這是一種令人擔心的兆頭。而且，我覺得自己的胸部和腹部有種顫動感。我無法說明這隻是我的偏執想法呢，還是我的體內真的發生了什麽變化。我努力在孩子麵前做出一副勇敢的樣子，但是其實是無法欺騙孩子的，他們知道我心裏害怕。
最後一個需要揭開的謎底是那些集群總是要返回實驗室的原因。我當時根本不明白其中的奧秘。我心裏一直想著它，因為它是一種無法理喻的目標。它不符合掠食者與獵物之間關係的公式。掠食者為什麽總是返回一個特定的場所呢？
當然，現在回頭去看，隻有一個答案是可能的：有人故意編製了讓那些集群返回的程序。那個目標顯然是由程序編製員自己規定的。
但是，為什麽有人會在程序中編入那樣一種目標呢？
我在幾個小時之前才知道了答案。
裏基向我展示的那一組編碼並不是他們實際用於控製納米微粒的編碼。他不可能讓我看到真正的編碼，因為那樣我立刻就會知道他們做了什麽手腳。裏基根本沒有告訴我實情。一直沒有任何人告訴我。
最使我感到恐慌的是我今天早些時候在朱麗亞的硬盤上發現的一封電子郵件。那是她發給裏基·莫斯的，並且抄送給艾克西莫斯技術公司的老板拉裏·亨德勒，郵件概述了使攝像頭微粒集群在大風中工作的具體方法。那個計劃蓄謀將個集群釋放到環境中去。
那正是他們後來幹的事情。
他們佯裝它是一次事故性排放，事故的原因是忘記了安裝空氣過濾器。正是因為如此，裏基才領著我逛了一大圈，給我解釋關於建築承包商和通風係統的問題。但是，他的話沒有一句是真的。那次排放是精心策劃的。
它從一開始便是蓄謀已久的行為。
他們發現攝像頭微粒集群在強風中不能工作，於是便努力找出解決辦法。他們沒有成功。那些微粒體積太小，重量太輕——也可以說太愚蠢了。他們從一開始便遇到了設計缺陷，到那時仍無法克服它們。他們得到的數百萬美元的國防項目化為烏有，他們無法擺脫困境。
於是，他們決定讓集群自己為他們解決問題。
他們重構了納米微粒，以便增強太陽能和記憶力。他們重新編寫了控製微粒的程序，以便包括一種遺傳演算法。而且，他們釋放出納米微粒，讓它們繁殖和進化，以便觀察集群是否能夠學會自已存活。
他們取得了成功。
那樣做太愚蠢，太冒險了。我不理解他們怎麽會實施那項計劃，完全沒有認識到其後果的。與我在艾克西莫斯技術公司見到其他東西類似，那項計劃漏洞百出，技術不成熟，匆忙湊合而成，隻是為了解決眼前問題，根本沒有考慮到將來情況。那可能是處於巨大壓力之下的典型的企業思維，但是在使用這類技術的情況下，它的危險性異常巨大。
但是，事情的真相當然更為複雜。那項技術本身引起了那種行為，分布式智能體係統是自行控製的。那是它們的工作方式。那就是全部問題所在：你把它們建立起來，然後讓它們自由行動。你養成了那樣做的習慣。你養成了以那種方式對待智能體網絡的習慣。自主性是問題的關鍵。
但是將一個虛擬智能體種群放入計算機記憶中去解決問題是一回事，將真正的智能體釋放到現實世界中去卻是另一回事。
他們沒有看到兩者之間的差別。或者，他們沒有用心去考慮兩者之間的差別。
於是，他們釋放了集群。
這一點的技術術語是“自行憂化”。集群自己進化，運行不太成功的智能體死亡，運行更成功的智能體繁殖出後代。在10代或者100代之後，集群進化出一種最佳解決辦法。一種最優解決方案。
在計算機內部，這樣的事情一直都在進行。它甚至被用來生成新的計算機演算法。丹尼·希利斯在多年以前進行了最初的嚐試之一，其目的是為了優化一種排序演算法。希利斯希望了解計算機是否能夠找到提高自身的方式。那一程序發現，一種新方法。其他人很快追隨他的研究。
但是，它尚未被用於真實世界中的自動機器人。據我所知，這是首次。可能它已經問世了，隻是我們尚未聽說而已。不管怎樣說，我確信它將會再次出現。
很可能為期不遠了。
淩晨2點。孩子們終於停止嘔吐。他們已經入睡了。他們看上去很平靜。小女兒也睡著了。埃倫的感覺仍然很糟，我剛才肯定打了瞌睡。我不知道是什麽東西把我驚醒了。
我看見梅沿著我家房後的斜坡上來了。她和身穿銀色服裝的人在一起，還有ssvt團隊的其他人。她正朝我走來。我可以看到她的笑臉。我希望她帶來了好消息。
我現在就可以使用某種好消息。
朱麗亞的電子郵件原文說：“我們什麽也不會失去。”
但是，他們最終失去了一切——他們的公司、生命，還有其餘的一切。具有諷刺意味的事情是，那個方法獲得了成功。集群實際上解決他們當初要它解決的問題。
但是，它後來卻一直進化，不停地進化。
而他們放手不管。
他們不理解自己的行為。
我擔心，這一行文字將會出現在人類的墓碑上。
我希望它不會。
我們有可能幸免於此。
【全書完】
幾乎是午夜了。整個房子裏一片寂靜。我不確定將會出現什麽樣的情況。孩子們全都病得非常曆害，我給他們服用了病毒之後全都嘔吐起來。我可以聽到兒子和女兒在不同浴室裏嘔吐的聲音。幾分鍾以前，我進去看了一下他們，了解具體的病情。他們的臉色像死人一樣蒼白。我看得出來，他們很害怕，因為他們知道我害怕了。我還沒有告訴他們有關朱麗亞的事情。他們沒有問。他們病得太厲害，現在不會問我。
我最擔心的是小女兒，因為我也不得不讓她服用病毒。那是她惟一的希望。埃倫現在和她在一起，但是埃倫也在嘔吐。小女兒還沒有開始覺得惡心。我不知道這是福音還是凶兆。幼小的孩子對病毒的反應不同。
我覺得我沒有問題，至少現在還沒有。我疲憊極了。我覺得自己整夜都在不停地打瞌睡。這時，我坐在這裏，看著房後的窗戶，等候梅的消息。她剛才跳出了後院柵欄，這時可能正在斜坡上的灌木叢中爬著；那道斜坡從安裝著噴琳器的後院延伸下去。
她認為在斜坡下麵的什麽地方冒出了時隱時現的綠光。我叫她不要獨自一人下去，但是我太累了，無法和她同行。如果她等到明天，軍方的人會帶著火焰噴射器到來，把這裏的一切全都燒光。
軍方對這一事件反應愚鈍，但是我家裏有朱麗亞的電腦，我在她的硬盤留下了電子郵件的蹤跡。
我取下了那個硬盤，隻是為了安全起見。我複製了硬盤，把原件存放在城裏的一個保險箱裏了。我擔心的其實並不是軍方。我擔心的是拉裏·亨德勒和艾克西莫斯技術公司的其他人。他們知道他們會麵對多項駭人聽聞的訴訟。艾克西莫斯技術公司在本周將會宣告破產，但是他們仍然要承擔刑事訴訟責任——尤其是拉裏本人。如果他被關進監獄，我是不會哭泣的。
梅和我設法弄清了過去幾天裏發生的大多數事情。我女兒身上的疹子是由伽馬裝配工——那種利用元件碎片組裝成品分子的微型機器——引起的。朱麗亞從實驗室回家時，伽馬裝配工沾附在她的衣服上。朱麗亞擔心那種可能性；這就是她一到家就立刻淋浴的原因。實驗室裏擁有良好的清除汙染的方法，但是朱麗亞在實驗室以外和集群產生了互動。她知道存在著危險。
不管怎樣說，那天晚上她意外地讓伽瑪裝配工溜進了嬰兒房。按照設計要求，伽馬裝配工會破壞微型矽碎片，但是在遇到像皮膚這樣具有柔韌性的物質時隻是刺激它。那種感覺令人痛苦，並且引起某種沒有見過——或者甚至沒有被懷疑過——的微型創傷。難怪阿曼達會發燒。她沒有出現感染，而是在皮膚上有一層正在不停噬咬的微粒。核磁共振成像儀立刻就治愈了她的病——在第一次脈衝出現時，她身上的裝配工全都被吸走了。（顯然，沙漠中的那個家夥也遇到了這樣的情況。他不知何故接觸了一批裝配工。他野營的地方距艾克西莫斯技術公司的沙漠設施隻有一英裏遠。）
朱麗亞知道阿曼達遇到的麻煩，但是沒有告訴任何人。她反而叫來那幫艾克西莫斯技術公司的清潔人員；我在醫院的那段時間裏，他們半夜到了我家。隻有埃裏克一個人看見了他們，現在我知道他看見的是什麽了。因為同一幫人幾個小時以前來清掃了我的房子。同一幫人那天晚上我在公路上的麵包車裏也見過。
領頭的那個人身穿一件銀色的防磁防化服，他看上去確實像鬼一樣。他的銀色麵罩使他顯得沒有麵部。他首先進入現場進行檢查。接著，四個穿著連褲工作服的男人走了進來，進行吸塵和清潔。我告訴埃裏克他做了夢，但是他並沒有做。那幫人在阿曼達的床下留置了一個傳感件，那是有意的，其目的是為了檢測萬一漏掉的伽馬裝配工殘餘。它不是平壓裝置，隻是被組裝成了平壓裝置的樣子。
當我最終了解所有這些真相時，我對朱麗亞隱瞞實情的做法感到非常氣憤，對她讓我擔心的做法感到非常氣憤。不過，她已經死了。現在生她的氣已經沒有意義了。
埃裏克的mp3播放器是被伽馬裝配工破壞的，沙漠裏的那些汽車也是以同樣方式被破壞的。那台核磁共振成像儀的情況也是如此。因為某種原因，伽馬裝配工破壞記憶芯片，卻沒有動中央處理器。我還沒有聽到對其原因的任何解釋。
那天晚上，在朱麗亞的敞篷車裏確實有一個集群。它是她從沙漠中帶回來的。我不知道她是否是有意那樣做的。那個集群能夠隱身，所以埃裏克出去到汽車旁邊觀察時，什麽東西也沒有看見。她開車離家時，我也無法確定自己看見了什麽東西。那個集群還可能以奇妙的方式捕捉到了燈光。在我的記憶中，它有點像裏基，但是時間很可能太短，集群還不能模仿人的外貌。那時，集群還沒有進化到那麽高級的階段。要麽，我可能隻是看見了一個模糊不清的形狀，我在嫉妒的心態下把它想像成了一個人。我覺得我沒有瞎編，但是可能我那樣做了。埃倫認為有那種可能性。
出了車禍以後，朱麗亞叫來了清潔人員。那就是那天深夜他們在路上的原因。他們正等著到山坡下麵去清理現場。我不知道引起車禍的原因，不知道它是與那集群有關，還是單純的交通事故。現在沒有人可以解答這個謎了。
沙漠中的那座設施被完全摧毀了。主實驗室裏有足夠的甲烷氣來形成一個溫度超過1，000攝氏度的大火球。任何生物材料都應該被徹底焚毀了。但是，我仍然擔心。他們在廢墟中沒有發現任何屍體，甚至連屍骨也沒有發現。
梅把那種噬菌體帶回了她原來工作的位於帕洛阿托的實驗室。我希望她讓他們認識到局勢的緊迫性。她對他們的反應守口如瓶。我覺得他們應該把那種噬菌體放到供水係統中，但是梅說，氯會把它殺滅。或許，應該搞一個疫苗計劃。就我所知，那種噬菌體可以起到殺滅集群的作用。
我有時候會出現耳嗚，這是一種令人擔心的兆頭。而且，我覺得自己的胸部和腹部有種顫動感。我無法說明這隻是我的偏執想法呢，還是我的體內真的發生了什麽變化。我努力在孩子麵前做出一副勇敢的樣子，但是其實是無法欺騙孩子的，他們知道我心裏害怕。
最後一個需要揭開的謎底是那些集群總是要返回實驗室的原因。我當時根本不明白其中的奧秘。我心裏一直想著它，因為它是一種無法理喻的目標。它不符合掠食者與獵物之間關係的公式。掠食者為什麽總是返回一個特定的場所呢？
當然，現在回頭去看，隻有一個答案是可能的：有人故意編製了讓那些集群返回的程序。那個目標顯然是由程序編製員自己規定的。
但是，為什麽有人會在程序中編入那樣一種目標呢？
我在幾個小時之前才知道了答案。
裏基向我展示的那一組編碼並不是他們實際用於控製納米微粒的編碼。他不可能讓我看到真正的編碼，因為那樣我立刻就會知道他們做了什麽手腳。裏基根本沒有告訴我實情。一直沒有任何人告訴我。
最使我感到恐慌的是我今天早些時候在朱麗亞的硬盤上發現的一封電子郵件。那是她發給裏基·莫斯的，並且抄送給艾克西莫斯技術公司的老板拉裏·亨德勒，郵件概述了使攝像頭微粒集群在大風中工作的具體方法。那個計劃蓄謀將個集群釋放到環境中去。
那正是他們後來幹的事情。
他們佯裝它是一次事故性排放，事故的原因是忘記了安裝空氣過濾器。正是因為如此，裏基才領著我逛了一大圈，給我解釋關於建築承包商和通風係統的問題。但是，他的話沒有一句是真的。那次排放是精心策劃的。
它從一開始便是蓄謀已久的行為。
他們發現攝像頭微粒集群在強風中不能工作，於是便努力找出解決辦法。他們沒有成功。那些微粒體積太小，重量太輕——也可以說太愚蠢了。他們從一開始便遇到了設計缺陷，到那時仍無法克服它們。他們得到的數百萬美元的國防項目化為烏有，他們無法擺脫困境。
於是，他們決定讓集群自己為他們解決問題。
他們重構了納米微粒，以便增強太陽能和記憶力。他們重新編寫了控製微粒的程序，以便包括一種遺傳演算法。而且，他們釋放出納米微粒，讓它們繁殖和進化，以便觀察集群是否能夠學會自已存活。
他們取得了成功。
那樣做太愚蠢，太冒險了。我不理解他們怎麽會實施那項計劃，完全沒有認識到其後果的。與我在艾克西莫斯技術公司見到其他東西類似，那項計劃漏洞百出，技術不成熟，匆忙湊合而成，隻是為了解決眼前問題，根本沒有考慮到將來情況。那可能是處於巨大壓力之下的典型的企業思維，但是在使用這類技術的情況下，它的危險性異常巨大。
但是，事情的真相當然更為複雜。那項技術本身引起了那種行為，分布式智能體係統是自行控製的。那是它們的工作方式。那就是全部問題所在：你把它們建立起來，然後讓它們自由行動。你養成了那樣做的習慣。你養成了以那種方式對待智能體網絡的習慣。自主性是問題的關鍵。
但是將一個虛擬智能體種群放入計算機記憶中去解決問題是一回事，將真正的智能體釋放到現實世界中去卻是另一回事。
他們沒有看到兩者之間的差別。或者，他們沒有用心去考慮兩者之間的差別。
於是，他們釋放了集群。
這一點的技術術語是“自行憂化”。集群自己進化，運行不太成功的智能體死亡，運行更成功的智能體繁殖出後代。在10代或者100代之後，集群進化出一種最佳解決辦法。一種最優解決方案。
在計算機內部，這樣的事情一直都在進行。它甚至被用來生成新的計算機演算法。丹尼·希利斯在多年以前進行了最初的嚐試之一，其目的是為了優化一種排序演算法。希利斯希望了解計算機是否能夠找到提高自身的方式。那一程序發現，一種新方法。其他人很快追隨他的研究。
但是，它尚未被用於真實世界中的自動機器人。據我所知，這是首次。可能它已經問世了，隻是我們尚未聽說而已。不管怎樣說，我確信它將會再次出現。
很可能為期不遠了。
淩晨2點。孩子們終於停止嘔吐。他們已經入睡了。他們看上去很平靜。小女兒也睡著了。埃倫的感覺仍然很糟，我剛才肯定打了瞌睡。我不知道是什麽東西把我驚醒了。
我看見梅沿著我家房後的斜坡上來了。她和身穿銀色服裝的人在一起，還有ssvt團隊的其他人。她正朝我走來。我可以看到她的笑臉。我希望她帶來了好消息。
我現在就可以使用某種好消息。
朱麗亞的電子郵件原文說：“我們什麽也不會失去。”
但是，他們最終失去了一切——他們的公司、生命，還有其餘的一切。具有諷刺意味的事情是，那個方法獲得了成功。集群實際上解決他們當初要它解決的問題。
但是，它後來卻一直進化，不停地進化。
而他們放手不管。
他們不理解自己的行為。
我擔心，這一行文字將會出現在人類的墓碑上。
我希望它不會。
我們有可能幸免於此。
【全書完】