文明的重大進步幾乎破壞了文明的產生。
——阿爾弗雷德·諾斯·懷特海德
這給我們帶來了放棄的問題，這也是比爾·麥琪本等放棄主義的倡導者提出的最有爭議的主張。我確實覺得在適當的水平放棄未來將麵對的基因危險是一個負責任的和具有建設性的對策。然而，更精確地說，問題是：我們應該在什麽層次上放棄技術？
舉世聞名的“炸彈客”特德·卡欽斯基希望我們放棄所有的技術。<small>31</small>這既不可取也不可行。隻有卡欽斯基才會提出這種毫無意義、毫無價值的策略。
然而其他一些觀點雖然沒有卡欽斯基這麽莽撞，但卻同樣讚成廣泛放棄技術。麥琪本的立場是，我們已經擁有足夠的技術，應該停止進一步發展。在他的最新著作《enough：staying human in an engineered age》中，他將技術比喻成啤酒：“一杯啤酒很好，兩杯啤酒可能會更好，8杯啤酒，你幾乎肯定會後悔的。”<small>32</small>這個比喻遺漏了一個重點，它忽略了人類世界的很多苦難，而我們可以通過科學的不斷進步來減輕這些苦難。
雖然新技術像其他事務一樣，有時可能會過量使用，但是最初產生它們的希望並不僅僅是使手機增加1/4或是垃圾郵件翻倍的問題。相反，它意味著用完善的技術去征服癌症和其他破壞性疾病，創造無處不在的財富去克服貧困，清除第一次工業革命對環境帶來的影響（由麥琪本闡明的目標），並克服許多其他古老的問題。
廣泛的放棄。放棄的另一個層次是放棄某些特定領域（例如納米技術，人們認為這種技術太過危險）。但是，這樣清掃式的放棄同樣站不住腳。正如我前麵指出的，納米技術是所有技術微型化的長期趨勢的必然結果。這遠不是單一的集中的努力，而是無數具有不同目標的項目所共同追求的。
一位觀察家寫道：
工業社會不能改革的一個深層原因就是——現代科技是一個統一的係統，其中的各個部分彼此依賴，你不能去掉技術“壞”的部分而隻保留“好”的部分。以現代醫學為例，醫療科學的進展依賴於化學、物理學、生物學、計算機科學以及其他領域的進展。先進的醫療方法需要昂貴的高科技設備，隻有技術先進、經濟富裕的社會才能提供。顯然，如果沒有整個技術體係及與其相搭配的一切，將不可能在醫療上取得大的進展。
在這裏我再次引用特德·卡欽斯基<small>33</small>的話。盡管有人可能會認為卡欽斯基不那麽權威，但我相信，在認為收益和風險深度糾結這一點上，他是正確的。不管怎樣，卡欽斯基和我都很清楚，這兩者之間的相對平衡是我們對公司整體評估的一部分。無論在公共場合還是私底下，比爾·喬伊和我都曾就這個問題進行討論。我們都相信技術會進步，也應該進步。我們需要積極關注技術的陰暗麵。要解決的最具挑戰性的問題是確定既可行又可取的放棄的粒度。
細粒度放棄。我認為正確層次上的放棄應是我們應對21世紀技術危機的對策中的一部分。一個建設性的例子就是由前瞻學會提出的道德準則，也就是說，納米技術人員同意放棄那些能在自然環境中自我複製的物理實體的研發。<small>34</small>在我看來，這一準則有兩種例外情況。第一，我們最終將需要提供一個基於納米技術的行星免疫係統（自然環境中的納米機器人對抗凶猛的自我複製的納米機器人）。羅伯特·弗雷塔斯和我討論了這種免疫係統本身是否需要自我複製。弗雷塔斯寫道：“一個全麵的監控係統連同預先放置的資源（資源包括高容量非複製性納米工廠，這種工廠能夠大量生產能應對特殊威脅的非複製性防禦體）應該足夠了。”<small>35</small>我同意弗雷塔斯的觀點，在初期階段增加防禦體的預置免疫係統是足夠的。但是，一旦強大的人工智能與納米技術結合，由納米技術製造的實體生態將變得高度複雜和多樣化。我個人期望我們會發現防禦型納米機器人，他們需要有能力在合適的地方快速自我複製。第二，需要自我複製的納米機器人探測器去探索太陽係之外的行星係統。
還有另一個有效的道德準則的例子，即禁止那些包含自我複製代碼的物理實體進行自我複製。按照納米技術專家拉爾夫·梅克爾所說的“廣播架構”，這種實體必須從一個集中的安全的服務器中獲得複製的代碼，這樣可以防止不良複製<small>36</small>。在生物世界，這個廣播架構是不可能存在的，所以至少在一個方麵，納米技術可以比生物技術更安全。在其他方麵，納米技術可能更為危險，因為納米機器人比基於蛋白質的實體更加強大，其智能化程度更高。
正如第5章所述，我們可以把基於納米技術的廣播架構應用到生物中。納米計算機會增加和更換每個細胞的細胞核，並提供dna代碼。納米機器人包含了類似核糖體的分子機製（描述細胞核外信使核糖氨基酸堿基對的分子），能夠獲取代碼並產生氨基酸序列。既然我們可以通過無線消息控製納米機器人，我們就能夠關閉不必要的複製，從而消除癌症。我們可以按照需要製造特殊的蛋白質來抵製疾病。我們可以糾正dna錯誤，更新dna代碼。下麵我會進一步評論廣播架構的優點與弱點。
處理濫用科技。考慮到科技能減輕疾病、擺脫貧困、清理環境，那麽廣泛的妥協是和經濟的發現相違背的，在道德上也不正確。如前麵所述，這隻會加劇危險。安全管理（細粒度的放棄）才是適用的。
不過我們還需要簡化管理過程。目前在美國，新的衛生技術獲得食品藥物管理局的批準需要5～10年的時間（與其他國家基本相似）。與新療法的風險相比，阻止可能拯救生命的治療的危害（例如，因為延誤治療心髒病，美國每年有100萬人喪失生命）顯得微不足道。
其他的防護方法包括監管機構的監督，特定免疫對策技術的發展，以及執法機構的電腦輔助監視。很多人不知道情報機構已經使用了高級技術，例如使用關鍵字自動定位來監管電話、電纜、人造衛星和互聯網交流。隨著社會進步，我們需要在隱私權和防止強大技術被惡意使用之間尋求平衡，這將成為許多重大挑戰中的一個。這也是“加密門”（其中執法部門將有機會接觸其他安全信息）和聯邦調查局的食肉獸電子郵件監聽係統引起爭議的原因。<small>37</small>
作為一個測試案例，我們可以從近年來對技術挑戰的處理中得到一些安慰。現在存在一種新的能自我複製的非生物實體：計算機病毒，這在幾十年前還不存在。當這種破壞性的入侵形式第一次出現時，就有人表示了強烈的擔心，計算機病毒會變得更加複雜，有可能破壞它們生存的電腦網絡媒介。然而，這種“免疫係統”在應對這一挑戰時已非常有效。雖然破壞性的自我複製的軟件實體確實不時地造成破壞，但跟我們從計算機和通信中獲得的利益相比，這隻是很小的一部分。
有人可能會反駁說，計算機病毒並沒有像生物病毒和破壞性納米技術那樣的致命因子。事實並非總是如此：我們依靠軟件來運作911呼叫中心，監測重症監護室的病人，控製飛機飛行與著陸，在軍事行動中操作智能武器，處理金融交易，經營市政公共事業，以及完成許多其他的關鍵任務。在某種程度上，軟件病毒還沒有造成致命的危害。不過這個發現卻加強了我的論證。電腦病毒通常不會使人類致命的事實意味著更多的人願意創建和發布它們。大多數製造軟件病毒的人如果認為該病毒能殺死人，就不會發布。這也意味著我們對危險的反應不需緊張。相反，如果麵對大規模致命的自我複製的實體，我們的反應會緊張得多。
盡管軟件病毒仍然令人擔憂，不過當前的危險主要是在幹擾級別上。請記住，我們在清除病毒上所取得的成功發生在一個沒有規則而且從業者不需要認證的行業中。不規範的龐大電腦行業也卓有成效。有人會說，在人類曆史上，它們在技術與經濟上所取得的成績已經遠遠超過了其他行業。
不過軟件病毒和病毒防護之間的戰爭永遠不會結束。我們越來越依賴於執行關鍵任務的軟件係統，能自我複製的軟件工具的複雜性和潛在的破壞性會繼續升級。當軟件在我們的大腦和身體中運行並控製世界上納米機器人的免疫係統，這些風險將變得更加巨大。
——阿爾弗雷德·諾斯·懷特海德
這給我們帶來了放棄的問題，這也是比爾·麥琪本等放棄主義的倡導者提出的最有爭議的主張。我確實覺得在適當的水平放棄未來將麵對的基因危險是一個負責任的和具有建設性的對策。然而，更精確地說，問題是：我們應該在什麽層次上放棄技術？
舉世聞名的“炸彈客”特德·卡欽斯基希望我們放棄所有的技術。<small>31</small>這既不可取也不可行。隻有卡欽斯基才會提出這種毫無意義、毫無價值的策略。
然而其他一些觀點雖然沒有卡欽斯基這麽莽撞，但卻同樣讚成廣泛放棄技術。麥琪本的立場是，我們已經擁有足夠的技術，應該停止進一步發展。在他的最新著作《enough：staying human in an engineered age》中，他將技術比喻成啤酒：“一杯啤酒很好，兩杯啤酒可能會更好，8杯啤酒，你幾乎肯定會後悔的。”<small>32</small>這個比喻遺漏了一個重點，它忽略了人類世界的很多苦難，而我們可以通過科學的不斷進步來減輕這些苦難。
雖然新技術像其他事務一樣，有時可能會過量使用，但是最初產生它們的希望並不僅僅是使手機增加1/4或是垃圾郵件翻倍的問題。相反，它意味著用完善的技術去征服癌症和其他破壞性疾病，創造無處不在的財富去克服貧困，清除第一次工業革命對環境帶來的影響（由麥琪本闡明的目標），並克服許多其他古老的問題。
廣泛的放棄。放棄的另一個層次是放棄某些特定領域（例如納米技術，人們認為這種技術太過危險）。但是，這樣清掃式的放棄同樣站不住腳。正如我前麵指出的，納米技術是所有技術微型化的長期趨勢的必然結果。這遠不是單一的集中的努力，而是無數具有不同目標的項目所共同追求的。
一位觀察家寫道：
工業社會不能改革的一個深層原因就是——現代科技是一個統一的係統，其中的各個部分彼此依賴，你不能去掉技術“壞”的部分而隻保留“好”的部分。以現代醫學為例，醫療科學的進展依賴於化學、物理學、生物學、計算機科學以及其他領域的進展。先進的醫療方法需要昂貴的高科技設備，隻有技術先進、經濟富裕的社會才能提供。顯然，如果沒有整個技術體係及與其相搭配的一切，將不可能在醫療上取得大的進展。
在這裏我再次引用特德·卡欽斯基<small>33</small>的話。盡管有人可能會認為卡欽斯基不那麽權威，但我相信，在認為收益和風險深度糾結這一點上，他是正確的。不管怎樣，卡欽斯基和我都很清楚，這兩者之間的相對平衡是我們對公司整體評估的一部分。無論在公共場合還是私底下，比爾·喬伊和我都曾就這個問題進行討論。我們都相信技術會進步，也應該進步。我們需要積極關注技術的陰暗麵。要解決的最具挑戰性的問題是確定既可行又可取的放棄的粒度。
細粒度放棄。我認為正確層次上的放棄應是我們應對21世紀技術危機的對策中的一部分。一個建設性的例子就是由前瞻學會提出的道德準則，也就是說，納米技術人員同意放棄那些能在自然環境中自我複製的物理實體的研發。<small>34</small>在我看來，這一準則有兩種例外情況。第一，我們最終將需要提供一個基於納米技術的行星免疫係統（自然環境中的納米機器人對抗凶猛的自我複製的納米機器人）。羅伯特·弗雷塔斯和我討論了這種免疫係統本身是否需要自我複製。弗雷塔斯寫道：“一個全麵的監控係統連同預先放置的資源（資源包括高容量非複製性納米工廠，這種工廠能夠大量生產能應對特殊威脅的非複製性防禦體）應該足夠了。”<small>35</small>我同意弗雷塔斯的觀點，在初期階段增加防禦體的預置免疫係統是足夠的。但是，一旦強大的人工智能與納米技術結合，由納米技術製造的實體生態將變得高度複雜和多樣化。我個人期望我們會發現防禦型納米機器人，他們需要有能力在合適的地方快速自我複製。第二，需要自我複製的納米機器人探測器去探索太陽係之外的行星係統。
還有另一個有效的道德準則的例子，即禁止那些包含自我複製代碼的物理實體進行自我複製。按照納米技術專家拉爾夫·梅克爾所說的“廣播架構”，這種實體必須從一個集中的安全的服務器中獲得複製的代碼，這樣可以防止不良複製<small>36</small>。在生物世界，這個廣播架構是不可能存在的，所以至少在一個方麵，納米技術可以比生物技術更安全。在其他方麵，納米技術可能更為危險，因為納米機器人比基於蛋白質的實體更加強大，其智能化程度更高。
正如第5章所述，我們可以把基於納米技術的廣播架構應用到生物中。納米計算機會增加和更換每個細胞的細胞核，並提供dna代碼。納米機器人包含了類似核糖體的分子機製（描述細胞核外信使核糖氨基酸堿基對的分子），能夠獲取代碼並產生氨基酸序列。既然我們可以通過無線消息控製納米機器人，我們就能夠關閉不必要的複製，從而消除癌症。我們可以按照需要製造特殊的蛋白質來抵製疾病。我們可以糾正dna錯誤，更新dna代碼。下麵我會進一步評論廣播架構的優點與弱點。
處理濫用科技。考慮到科技能減輕疾病、擺脫貧困、清理環境，那麽廣泛的妥協是和經濟的發現相違背的，在道德上也不正確。如前麵所述，這隻會加劇危險。安全管理（細粒度的放棄）才是適用的。
不過我們還需要簡化管理過程。目前在美國，新的衛生技術獲得食品藥物管理局的批準需要5～10年的時間（與其他國家基本相似）。與新療法的風險相比，阻止可能拯救生命的治療的危害（例如，因為延誤治療心髒病，美國每年有100萬人喪失生命）顯得微不足道。
其他的防護方法包括監管機構的監督，特定免疫對策技術的發展，以及執法機構的電腦輔助監視。很多人不知道情報機構已經使用了高級技術，例如使用關鍵字自動定位來監管電話、電纜、人造衛星和互聯網交流。隨著社會進步，我們需要在隱私權和防止強大技術被惡意使用之間尋求平衡，這將成為許多重大挑戰中的一個。這也是“加密門”（其中執法部門將有機會接觸其他安全信息）和聯邦調查局的食肉獸電子郵件監聽係統引起爭議的原因。<small>37</small>
作為一個測試案例，我們可以從近年來對技術挑戰的處理中得到一些安慰。現在存在一種新的能自我複製的非生物實體：計算機病毒，這在幾十年前還不存在。當這種破壞性的入侵形式第一次出現時，就有人表示了強烈的擔心，計算機病毒會變得更加複雜，有可能破壞它們生存的電腦網絡媒介。然而，這種“免疫係統”在應對這一挑戰時已非常有效。雖然破壞性的自我複製的軟件實體確實不時地造成破壞，但跟我們從計算機和通信中獲得的利益相比，這隻是很小的一部分。
有人可能會反駁說，計算機病毒並沒有像生物病毒和破壞性納米技術那樣的致命因子。事實並非總是如此：我們依靠軟件來運作911呼叫中心，監測重症監護室的病人，控製飛機飛行與著陸，在軍事行動中操作智能武器，處理金融交易，經營市政公共事業，以及完成許多其他的關鍵任務。在某種程度上，軟件病毒還沒有造成致命的危害。不過這個發現卻加強了我的論證。電腦病毒通常不會使人類致命的事實意味著更多的人願意創建和發布它們。大多數製造軟件病毒的人如果認為該病毒能殺死人，就不會發布。這也意味著我們對危險的反應不需緊張。相反，如果麵對大規模致命的自我複製的實體，我們的反應會緊張得多。
盡管軟件病毒仍然令人擔憂，不過當前的危險主要是在幹擾級別上。請記住，我們在清除病毒上所取得的成功發生在一個沒有規則而且從業者不需要認證的行業中。不規範的龐大電腦行業也卓有成效。有人會說，在人類曆史上，它們在技術與經濟上所取得的成績已經遠遠超過了其他行業。
不過軟件病毒和病毒防護之間的戰爭永遠不會結束。我們越來越依賴於執行關鍵任務的軟件係統，能自我複製的軟件工具的複雜性和潛在的破壞性會繼續升級。當軟件在我們的大腦和身體中運行並控製世界上納米機器人的免疫係統，這些風險將變得更加巨大。