從本質上說，我們來自金魚，但是那（不）意味著我們回頭殺死了所有的金魚。也許（智能機器人）會一周飼養我們一次。假如你有一台擁有比人高出10～18倍的智商的機器，難道你不想讓它來管理，或者至少控製你的經濟？
——賽斯·舒斯塔克
我們怎樣確保既擁有gnr深刻的好處又減輕其危害性？在此讓我們回顧解決那些包含gnr風險的建議方案：
最緊要的建議就是增加我們在防禦技術方麵的投入。由於我們現在已經處於基因時代，所以投入應該大部分放在（生物）抗病毒藥物治療方麵。我們有非常適合這項工作的新工具。例如rna幹擾可以用來阻止基因表達。幾乎所有的感染（包括癌症）都依賴其生命周期中某個時刻的基因表達。
早日使用防禦技術需要安全地引導納米技術（n）和機器人技術（r），這方麵的努力應該得到支持，並且由於我們已經更深入地了解了製造分子和強大人工智能的可行性，因此這方麵的努力更應該大幅度的增強。一個附帶的好處就是加快研製有效治療傳染病和癌症的方法。在國會之前，我就已經論證了這個問題，提倡每年投資數百億美元（小於國內生產總值的1%）來解決這個新的公認的對人類生存的威脅。
●我們需要精簡基因技術和醫療技術方麵的監管過程。這些製度不能阻礙技術的惡意使用，但卻大大地推遲了必要的防禦。如上所述，我們必須更好地平衡新技術（例如新藥物）帶來的風險和已知的拖延帶來的傷害。
●應該出資建立一個全球計劃，用來對未知或不斷變化的生物病原體的隨機血清進行秘密監測。診斷工具可以快速確定未知蛋白或核酸序列的存在。防禦的關鍵是智能，而且這樣的方案可以為即將發生的傳染病提供寶貴的早期預警。公共健康組織提出類似的“病原體哨兵”計劃已經很多年了，但是他們從未得到足夠的資金支持。
●目標明確並有針對性地暫時停止某項研究工作，就像1975年發生在基因學領域的暫停一樣。但是這種暫停對納米技術來說並不是必需的。在技術主要領域的廣泛放棄隻會延緩新技術朝有利方麵發展，繼續人們的巨大痛苦，並且實際上會使危險惡化。
●為納米技術確定安全準則和道德準則的努力應該繼續下去。隨著我們越來越接近分子製造，這些準則必然會更加詳細和完善。
●為了獲得上述對建立政治資金的支持，就必須提高公眾對這些危險的認識。當然，由於危險意識的淡薄和不明就裏的反科技的存在，我們還需要讓公眾認識到不斷進步的技術所帶來的好處。
●這些危險是跨越國界的，當然這已經不再新奇。生物病毒、軟件病毒、導彈早已跨越了國界。國際合作在抗擊sars時起到了至關重要的作用，並且將在麵對將來的挑戰中扮演重要的角色。全球性的組織，例如在抗擊sars時起到了協調作用的世界衛生組織，都需要被加強。
●一個引起爭議的當代政治問題，是否需要對風險采取先發製人的打擊。這些措施將一直引起爭議，但顯然是需要的。核彈可以在幾秒鍾之內摧毀一座城市。基於生物技術或納米技術的可自我複製的病原體可以在幾天到幾周之內摧毀人類的文明。我們總不能等著大規模軍隊或者其他不良意圖暴露才開始采取保護措施。
●情報機構和警察部門將在防範絕大多數潛在事故威脅中起到至關重要的作用。他們需要最強大的技術支持。例如，再過幾年，塵埃般大小的設備將可以執行偵查任務。當我們到達21世紀20年代，軟件將在我們的身體和大腦裏運行，政府部門可以隨時合法地監測這些軟件流。很明顯，可能會有人濫用這種權力。我們需要找到一個折中的辦法，既可以防止災難性事件的發生，又可以保護我們的隱私和自由。
●上述這些方法還不足以對付病變的r（強人工智能）帶來的危害。在這個方麵，我們的主要策略應該是最大程度上使得非生物智能反映我們的價值觀，包括自由、寬容以及對知識和多樣性的尊重。為了做到這點，最好的辦法就是在當今社會推動這種價值觀的前進。這聽起來的確很模糊。但是在這個領域，純粹的技術策略是不可行的，因為措施是某一級別智能的產物，但總有與之相比更強大的智能能夠找到方法來規避措施。我們正在創造的非生物體將會在我們的社會紮根並反映我們的價值觀。這種生物變革階段包括將非生物智能和生物智能緊密結合起來。這將擴展我們的能力，並且這些更強大智能的應用將會受它們的創造者的價值觀所支配。生物變革時代將會被後生物時代所取代，但是我們希望我們的價值觀仍然發揮作用。這個策略絕不是萬無一失的，但這是我們影響未來的強人工智能的主要手段。
技術仍將是一把雙刃劍。它象征著用於所有人類目的的巨大力量。gnr將會提供辦法克服自古就存在的一些問題，如疾病和貧困，但也可能被破壞性意識形態利用。我們除了加強防禦之外別無選擇，因為我們可以運用這些飛速發展的技術來推動人類的價值觀，盡管對這些價值觀人們明顯缺乏共識。
莫利2004：好吧，我在無人知曉的情況下再次運行——你知道，一個壞的納米機器人正在悄無聲息地部署，實際上並沒有擴大，直到它們在全球蔓延的時候，它們就可以摧毀任何事物。
雷：納米機器人傳播的濃度非常低，每10<small>15</small>個碳原子中隻有一個，所以它們會被平均地散播。因此，破壞性納米機器人的傳播速度不會是一個限製因素，因為它們在到達指定位置之後會進行自我複製。假如它們跳過這個隱形階段，從單一點向外擴散，這種蔓延就會被人注意，並且會被相應地減緩。
莫利2004：那麽我們將如何保護不受傷害？當它們開始第二階段時，我們隻有大約90分鍾的時間，如果想避免巨大損壞，我們的時間會更少。
雷：因為指數增長的性質，巨大的破壞將在幾分鍾後發生。你的觀點很有用。在任何情景下，如果沒有納米免疫係統，我們就沒有機會。很明顯，我們不能等到破壞的90分鍾循環開始時再思考如何創造一個免疫係統。這樣的係統可以和我們人類的免疫係統相媲美。沒有它，人能活多久？
莫利2004：我猜不會太久。如果壞的納米機器人所占的比率僅是1000兆之一，那麽納米免疫係統如何將它們找出來？
雷：我們人的免疫係統同樣有這個問題。免疫係統一旦檢測到哪怕僅僅是一個外來的蛋白質，都會引起快速的反應，所以當病原體達到臨界水平前，免疫係統已經很有效了。我們的納米免疫係統需要同樣的能力。
查爾斯·達爾文：不要告訴我，免疫係統納米機器人要有自我複製的能力？
雷：它們需要這種能力，否則它們無法跟上病變納米機器人的複製步伐。有人建議將保護性免疫係統機器人的生物質保持在一定濃度，但是一旦壞納米機器人超過這個濃度，免疫係統就會失敗。羅伯特·弗雷塔斯提出不能複製的納米工廠，這個工廠能在需要時生產保護性納米機器人。我想這種方式一時會有作用，但最終這種防禦係統需要能複製自身免疫能力，以跟上新出現的危險的步伐。
查爾斯：那麽免疫係統機器人和惡意納米機器人完全一樣了？我指的是設定生物量的第一階段。
雷：但免疫係統的納米機器人應該保護我們，而不是傷害我們。
查爾斯：我覺得軟件可以被修改。
雷：你是指黑客？
查爾斯：是的。如果免疫係統軟件被黑客修改，就會產生無止境的自我複製嗎？
雷：是的，那好，我們不得不很小心地對待它們，是吧？
莫利2004：我也這樣認為。
雷：我們自己的生物免疫係統也有一些問題。我們的免疫係統相對強大，並且如果帶給我們的是免疫性疾病，那也是很危險的。但我們還是需要免疫係統的。
莫利2004：所以一個軟件病毒能夠將納米機器人免疫係統轉變成潛在的破壞者？
雷：這是有可能的，公平地講，軟件安全將成為很多人類機器文明層次的關鍵問題。因為一切都是信息，保持我們防守技術的軟件完整性對我們的生存至關重要。即便在經濟層麵，保持創造信息的經濟模型對我們的物質生活也至關重要。
莫利2004：這使我感到相當無奈。我的意思是，當所有好的和壞的納米機器人決鬥出來，我就是一個不幸的受害者。
雷：這不是一個新現象。在2004年，我們對處置世界上數量龐大的核武器的影響是什麽呢？
莫利：至少我有表達意見的機會和選舉權，進而影響外交政策問題。
雷：沒有理由因此改變，提供一個可靠的納米免疫係統將是21世紀20年代到21世紀30年代的重大政治事件之一。
莫利2004：那麽有關強人工智能呢？
雷：好消息是它將保護我們避免惡意納米技術的傷害，因為它足夠智能，可以幫助我們使防守技術超前於破壞技術。
內德·路德：猜想它是站在我們這邊的。
雷：是的。
——賽斯·舒斯塔克
我們怎樣確保既擁有gnr深刻的好處又減輕其危害性？在此讓我們回顧解決那些包含gnr風險的建議方案：
最緊要的建議就是增加我們在防禦技術方麵的投入。由於我們現在已經處於基因時代，所以投入應該大部分放在（生物）抗病毒藥物治療方麵。我們有非常適合這項工作的新工具。例如rna幹擾可以用來阻止基因表達。幾乎所有的感染（包括癌症）都依賴其生命周期中某個時刻的基因表達。
早日使用防禦技術需要安全地引導納米技術（n）和機器人技術（r），這方麵的努力應該得到支持，並且由於我們已經更深入地了解了製造分子和強大人工智能的可行性，因此這方麵的努力更應該大幅度的增強。一個附帶的好處就是加快研製有效治療傳染病和癌症的方法。在國會之前，我就已經論證了這個問題，提倡每年投資數百億美元（小於國內生產總值的1%）來解決這個新的公認的對人類生存的威脅。
●我們需要精簡基因技術和醫療技術方麵的監管過程。這些製度不能阻礙技術的惡意使用，但卻大大地推遲了必要的防禦。如上所述，我們必須更好地平衡新技術（例如新藥物）帶來的風險和已知的拖延帶來的傷害。
●應該出資建立一個全球計劃，用來對未知或不斷變化的生物病原體的隨機血清進行秘密監測。診斷工具可以快速確定未知蛋白或核酸序列的存在。防禦的關鍵是智能，而且這樣的方案可以為即將發生的傳染病提供寶貴的早期預警。公共健康組織提出類似的“病原體哨兵”計劃已經很多年了，但是他們從未得到足夠的資金支持。
●目標明確並有針對性地暫時停止某項研究工作，就像1975年發生在基因學領域的暫停一樣。但是這種暫停對納米技術來說並不是必需的。在技術主要領域的廣泛放棄隻會延緩新技術朝有利方麵發展，繼續人們的巨大痛苦，並且實際上會使危險惡化。
●為納米技術確定安全準則和道德準則的努力應該繼續下去。隨著我們越來越接近分子製造，這些準則必然會更加詳細和完善。
●為了獲得上述對建立政治資金的支持，就必須提高公眾對這些危險的認識。當然，由於危險意識的淡薄和不明就裏的反科技的存在，我們還需要讓公眾認識到不斷進步的技術所帶來的好處。
●這些危險是跨越國界的，當然這已經不再新奇。生物病毒、軟件病毒、導彈早已跨越了國界。國際合作在抗擊sars時起到了至關重要的作用，並且將在麵對將來的挑戰中扮演重要的角色。全球性的組織，例如在抗擊sars時起到了協調作用的世界衛生組織，都需要被加強。
●一個引起爭議的當代政治問題，是否需要對風險采取先發製人的打擊。這些措施將一直引起爭議，但顯然是需要的。核彈可以在幾秒鍾之內摧毀一座城市。基於生物技術或納米技術的可自我複製的病原體可以在幾天到幾周之內摧毀人類的文明。我們總不能等著大規模軍隊或者其他不良意圖暴露才開始采取保護措施。
●情報機構和警察部門將在防範絕大多數潛在事故威脅中起到至關重要的作用。他們需要最強大的技術支持。例如，再過幾年，塵埃般大小的設備將可以執行偵查任務。當我們到達21世紀20年代，軟件將在我們的身體和大腦裏運行，政府部門可以隨時合法地監測這些軟件流。很明顯，可能會有人濫用這種權力。我們需要找到一個折中的辦法，既可以防止災難性事件的發生，又可以保護我們的隱私和自由。
●上述這些方法還不足以對付病變的r（強人工智能）帶來的危害。在這個方麵，我們的主要策略應該是最大程度上使得非生物智能反映我們的價值觀，包括自由、寬容以及對知識和多樣性的尊重。為了做到這點，最好的辦法就是在當今社會推動這種價值觀的前進。這聽起來的確很模糊。但是在這個領域，純粹的技術策略是不可行的，因為措施是某一級別智能的產物，但總有與之相比更強大的智能能夠找到方法來規避措施。我們正在創造的非生物體將會在我們的社會紮根並反映我們的價值觀。這種生物變革階段包括將非生物智能和生物智能緊密結合起來。這將擴展我們的能力，並且這些更強大智能的應用將會受它們的創造者的價值觀所支配。生物變革時代將會被後生物時代所取代，但是我們希望我們的價值觀仍然發揮作用。這個策略絕不是萬無一失的，但這是我們影響未來的強人工智能的主要手段。
技術仍將是一把雙刃劍。它象征著用於所有人類目的的巨大力量。gnr將會提供辦法克服自古就存在的一些問題，如疾病和貧困，但也可能被破壞性意識形態利用。我們除了加強防禦之外別無選擇，因為我們可以運用這些飛速發展的技術來推動人類的價值觀，盡管對這些價值觀人們明顯缺乏共識。
莫利2004：好吧，我在無人知曉的情況下再次運行——你知道，一個壞的納米機器人正在悄無聲息地部署，實際上並沒有擴大，直到它們在全球蔓延的時候，它們就可以摧毀任何事物。
雷：納米機器人傳播的濃度非常低，每10<small>15</small>個碳原子中隻有一個，所以它們會被平均地散播。因此，破壞性納米機器人的傳播速度不會是一個限製因素，因為它們在到達指定位置之後會進行自我複製。假如它們跳過這個隱形階段，從單一點向外擴散，這種蔓延就會被人注意，並且會被相應地減緩。
莫利2004：那麽我們將如何保護不受傷害？當它們開始第二階段時，我們隻有大約90分鍾的時間，如果想避免巨大損壞，我們的時間會更少。
雷：因為指數增長的性質，巨大的破壞將在幾分鍾後發生。你的觀點很有用。在任何情景下，如果沒有納米免疫係統，我們就沒有機會。很明顯，我們不能等到破壞的90分鍾循環開始時再思考如何創造一個免疫係統。這樣的係統可以和我們人類的免疫係統相媲美。沒有它，人能活多久？
莫利2004：我猜不會太久。如果壞的納米機器人所占的比率僅是1000兆之一，那麽納米免疫係統如何將它們找出來？
雷：我們人的免疫係統同樣有這個問題。免疫係統一旦檢測到哪怕僅僅是一個外來的蛋白質，都會引起快速的反應，所以當病原體達到臨界水平前，免疫係統已經很有效了。我們的納米免疫係統需要同樣的能力。
查爾斯·達爾文：不要告訴我，免疫係統納米機器人要有自我複製的能力？
雷：它們需要這種能力，否則它們無法跟上病變納米機器人的複製步伐。有人建議將保護性免疫係統機器人的生物質保持在一定濃度，但是一旦壞納米機器人超過這個濃度，免疫係統就會失敗。羅伯特·弗雷塔斯提出不能複製的納米工廠，這個工廠能在需要時生產保護性納米機器人。我想這種方式一時會有作用，但最終這種防禦係統需要能複製自身免疫能力，以跟上新出現的危險的步伐。
查爾斯：那麽免疫係統機器人和惡意納米機器人完全一樣了？我指的是設定生物量的第一階段。
雷：但免疫係統的納米機器人應該保護我們，而不是傷害我們。
查爾斯：我覺得軟件可以被修改。
雷：你是指黑客？
查爾斯：是的。如果免疫係統軟件被黑客修改，就會產生無止境的自我複製嗎？
雷：是的，那好，我們不得不很小心地對待它們，是吧？
莫利2004：我也這樣認為。
雷：我們自己的生物免疫係統也有一些問題。我們的免疫係統相對強大，並且如果帶給我們的是免疫性疾病，那也是很危險的。但我們還是需要免疫係統的。
莫利2004：所以一個軟件病毒能夠將納米機器人免疫係統轉變成潛在的破壞者？
雷：這是有可能的，公平地講，軟件安全將成為很多人類機器文明層次的關鍵問題。因為一切都是信息，保持我們防守技術的軟件完整性對我們的生存至關重要。即便在經濟層麵，保持創造信息的經濟模型對我們的物質生活也至關重要。
莫利2004：這使我感到相當無奈。我的意思是，當所有好的和壞的納米機器人決鬥出來，我就是一個不幸的受害者。
雷：這不是一個新現象。在2004年，我們對處置世界上數量龐大的核武器的影響是什麽呢？
莫利：至少我有表達意見的機會和選舉權，進而影響外交政策問題。
雷：沒有理由因此改變，提供一個可靠的納米免疫係統將是21世紀20年代到21世紀30年代的重大政治事件之一。
莫利2004：那麽有關強人工智能呢？
雷：好消息是它將保護我們避免惡意納米技術的傷害，因為它足夠智能，可以幫助我們使防守技術超前於破壞技術。
內德·路德：猜想它是站在我們這邊的。
雷：是的。