“我來自一家由政府提供資金的基金會，致力於避免人類遭遇不可知傷害。”
“不可知傷害？”
“簡單說，改善醫療政策，維護公眾安全都是我們一直在做的。”
“可我還是不明白什麽叫不可知傷害。”
“弗利，你是個科幻迷。”
青口淩美露出淺淺的笑。
“你連這個都知道？”
客人又笑了，好像一切都盡在掌握。弗利已經逐漸習慣這種氣氛，他靠在椅背上，擺出一副睡眼惺忪的樣子，想打發客人離開。
但青口淩美可不是隨便就能打發的人。
“如果我說外星生物，未知病毒或者機器人，你能理解嗎？”
弗利沒有立刻回到，他的大腦迅速轉動，回憶著最近發生的事，有什麽事會讓自己與不可知傷害扯上關係。
病毒？不是。
外星生物？弗利倒是很想看看它們的樣子是不是像.吉格爾創造的有機機械體。
機器人？也許唯一和自己有關的是機器人，但是機器人又能有多少關係？
機器人最大的威脅是擁有獨立意識，但對於這一點，弗利向來相信突如其來的叛亂不會發生，機器人獨立意識即使出現也需要一個進化過程，盡管這一過程可能比人類意識進化快幾十倍，但也不會在晝夕間發生翻天覆地的變化。
怎麽看都是樂觀的，弗利一直這麽相信，人類悲觀和自憐對發展並沒有什麽好處，個體悲觀和自憐更是對現實生活毫無意義。
“不能，你最好說的簡單些，我能聽的明白，否則我們的聊天好無意義，這個時間我還能再睡一會。”
青口淩美沒有立刻繼續先前的話題，她用黝黑的瞳孔緊緊盯著弗利的臉，仿佛那上麵有什麽奇怪的東西一樣。
這樣的注視，弗利感到不適，在妻子剛離世不久這樣一個女人的視線更是讓弗利感覺怪異。
“也許我們可以聊聊和你專業有關的話題，你應該對這個問題做過司考，有自己的信念。”
停頓了一下，見弗利沒有拒絕青口淩美繼續說道。
“設想一下，如果機器擁有了意識，如果把意識和情感視為思維的一種，久很難否認這樣的機器人不是人類對不對？”
“不對。”
“怎麽不對？”
“如果機器擁有的意識在人類可以理解的範圍，要知道人類是通過自己的現有經驗去理解事物的，這就有一個不可解決的困境，它源自於人類認知的局限。
如果一個機器擁有的意識是人類從沒有遇見過的，那麽人類也就看不到這種意識的強大；但如果僅僅是人類計算之內的意識，那麽人類也很容易認為它不能算真正的智慧。”
“可是這說不通。”
“是的，因為沒人知道。”
“但是如果機器人知道，而人類不知道呢？”
“那就是你說的不可知傷害？”
“算其中一種。”
“很好。”
弗利產生一種錯覺，眼前的日本人讓他想起多年前和艾菲婭爭論人工智能是否會超越人類時的場景。
艾菲婭偏執的認為一旦人工智能超越人類，人類是無法理解的，因此也可以認為人工智能也許一部分已經超越了人類，隻是人類無法理解。
弗利嘲笑這種說法，認為它顯而易見的荒謬不堪。
但如今他竟然用類似的邏輯回答了青口淩美的問題。
“這就是你要說的嗎？”
弗利看了一眼青口淩美，又把視線轉向廚房門口。
青口淩美一直正視弗利，並沒覺得這樣是否有什麽不合適。
現在可以說弗利是單身，一個女人這樣看著一個男人至少在東方人來說是不太禮貌的吧。弗利暗自思忖。
“你的回答很有意思，弗利。”她笑了，嘴角上揚，露出白皙的牙齒。“你是如何判斷一個人是不是那個人的呢？”
弗利在心中重複這個問題，寒意從背脊緩慢上升，這讓他不可避免的想到倫納德，並且懷疑起這個青口淩美的出現是不是和倫納德的死亡有關。
當背後的寒意越來越強烈時，他深切感受到這種感覺是如此熟悉，就像莎梅爾自殺那一天他在車裏的恐懼一樣強烈。
我們如何判斷一個人是不是那個人，這可真是個不好回答的問題。
弗利打算不回答青口淩美的問題。兩個人的對話持續半小時之後，他相信接下來無論他回答什麽，在那背後都埋藏著陷阱和陰謀，這個女人絕對不是簡簡單單的來找他聊天或者吃個早飯。
兩個人坐在餐桌邊，等待對方先開口說話。最後還是青口淩美的聲音打破沉默。
“沒想到這個問題會難倒你。”
“是的。”弗利回答。
“那好吧。”
“不如說說你來這裏的目的。”
弗利坐直身體，因悲傷而紅腫的眼睛微微外突，雖然坐在椅子上，高大的身材依然給人一種不可大意的緊張。
“我希望你帶著對同類的關懷聽之後的話，並且在我說完以後無論你有多少懷疑，都請站在關懷的立場思考你的決定，你的決定對我們乃至更多的人都非常重要，我想按照你們的習慣慣說法——為了你熱愛的國家，請務必認真選擇。
“我們正在執行的是——水母計劃。”
弗利在心裏重複了一遍“水母計劃”。青口淩美神色愈發嚴肅，“這項計劃可能關係到人類是否能繼續保持安穩的生活。”
“聽上去像是有戰爭要發生。”
“這個比喻不錯，但我們不知道戰爭發生在哪裏，也不知道戰爭的性質是什麽，也許它們即將開始，也許正在開始，也許已經開始。”
“哦。”
“唯一可以確認的是，對方並非帶著善意，可以預見侵略帶來的可怕結果，有人會因此失去生活，有人因此失去生命。”
“你們把戰爭計劃稱作水母計劃？聽上去少了很多戰火味。”
“這是一場被動發生的戰爭，弗利。就像水母捕食一樣。”
“那取決於它發散狀的神經網，這種古老的生物，並沒有類似人類的大腦，但卻有最早的神經網絡。”
“非常正確。”青口淩美嘴角閃過一絲短暫上揚。
“接下來的問題你一定要認真想一想，如果一個機器意識發現它可以覆蓋人類意識，他會不會這麽做？”
這次輪到弗利兩眼緊緊盯住客人。
“你會不會這麽做？”客人重複問題。
“這麽做對它們有什麽壞處嗎？”
“這個角度真特別。”青口淩美露出滿意的微笑。
“我們認為對它們完全沒有壞處，所以，如果沒有壞處，為什麽不做呢？”
“不考慮好處，僅僅因為沒有壞處就做一件事嗎？”
“好處？”
“好處，該死，除了壞處以外可能都是好處，但是哪有什麽壞處，既然它們可以做到。”
“非常好，弗利，你果然是最合適的人選。”
“等一等，我還沒有答應你任何事。”
青口淩美輕輕挪動身體，雖然弗利沒有做出任何承諾，但到目前為止一切都還在她的控製之中，她有些微微興奮——即將達成目的的興奮。
“不可知傷害？”
“簡單說，改善醫療政策，維護公眾安全都是我們一直在做的。”
“可我還是不明白什麽叫不可知傷害。”
“弗利，你是個科幻迷。”
青口淩美露出淺淺的笑。
“你連這個都知道？”
客人又笑了，好像一切都盡在掌握。弗利已經逐漸習慣這種氣氛，他靠在椅背上，擺出一副睡眼惺忪的樣子，想打發客人離開。
但青口淩美可不是隨便就能打發的人。
“如果我說外星生物，未知病毒或者機器人，你能理解嗎？”
弗利沒有立刻回到，他的大腦迅速轉動，回憶著最近發生的事，有什麽事會讓自己與不可知傷害扯上關係。
病毒？不是。
外星生物？弗利倒是很想看看它們的樣子是不是像.吉格爾創造的有機機械體。
機器人？也許唯一和自己有關的是機器人，但是機器人又能有多少關係？
機器人最大的威脅是擁有獨立意識，但對於這一點，弗利向來相信突如其來的叛亂不會發生，機器人獨立意識即使出現也需要一個進化過程，盡管這一過程可能比人類意識進化快幾十倍，但也不會在晝夕間發生翻天覆地的變化。
怎麽看都是樂觀的，弗利一直這麽相信，人類悲觀和自憐對發展並沒有什麽好處，個體悲觀和自憐更是對現實生活毫無意義。
“不能，你最好說的簡單些，我能聽的明白，否則我們的聊天好無意義，這個時間我還能再睡一會。”
青口淩美沒有立刻繼續先前的話題，她用黝黑的瞳孔緊緊盯著弗利的臉，仿佛那上麵有什麽奇怪的東西一樣。
這樣的注視，弗利感到不適，在妻子剛離世不久這樣一個女人的視線更是讓弗利感覺怪異。
“也許我們可以聊聊和你專業有關的話題，你應該對這個問題做過司考，有自己的信念。”
停頓了一下，見弗利沒有拒絕青口淩美繼續說道。
“設想一下，如果機器擁有了意識，如果把意識和情感視為思維的一種，久很難否認這樣的機器人不是人類對不對？”
“不對。”
“怎麽不對？”
“如果機器擁有的意識在人類可以理解的範圍，要知道人類是通過自己的現有經驗去理解事物的，這就有一個不可解決的困境，它源自於人類認知的局限。
如果一個機器擁有的意識是人類從沒有遇見過的，那麽人類也就看不到這種意識的強大；但如果僅僅是人類計算之內的意識，那麽人類也很容易認為它不能算真正的智慧。”
“可是這說不通。”
“是的，因為沒人知道。”
“但是如果機器人知道，而人類不知道呢？”
“那就是你說的不可知傷害？”
“算其中一種。”
“很好。”
弗利產生一種錯覺，眼前的日本人讓他想起多年前和艾菲婭爭論人工智能是否會超越人類時的場景。
艾菲婭偏執的認為一旦人工智能超越人類，人類是無法理解的，因此也可以認為人工智能也許一部分已經超越了人類，隻是人類無法理解。
弗利嘲笑這種說法，認為它顯而易見的荒謬不堪。
但如今他竟然用類似的邏輯回答了青口淩美的問題。
“這就是你要說的嗎？”
弗利看了一眼青口淩美，又把視線轉向廚房門口。
青口淩美一直正視弗利，並沒覺得這樣是否有什麽不合適。
現在可以說弗利是單身，一個女人這樣看著一個男人至少在東方人來說是不太禮貌的吧。弗利暗自思忖。
“你的回答很有意思，弗利。”她笑了，嘴角上揚，露出白皙的牙齒。“你是如何判斷一個人是不是那個人的呢？”
弗利在心中重複這個問題，寒意從背脊緩慢上升，這讓他不可避免的想到倫納德，並且懷疑起這個青口淩美的出現是不是和倫納德的死亡有關。
當背後的寒意越來越強烈時，他深切感受到這種感覺是如此熟悉，就像莎梅爾自殺那一天他在車裏的恐懼一樣強烈。
我們如何判斷一個人是不是那個人，這可真是個不好回答的問題。
弗利打算不回答青口淩美的問題。兩個人的對話持續半小時之後，他相信接下來無論他回答什麽，在那背後都埋藏著陷阱和陰謀，這個女人絕對不是簡簡單單的來找他聊天或者吃個早飯。
兩個人坐在餐桌邊，等待對方先開口說話。最後還是青口淩美的聲音打破沉默。
“沒想到這個問題會難倒你。”
“是的。”弗利回答。
“那好吧。”
“不如說說你來這裏的目的。”
弗利坐直身體，因悲傷而紅腫的眼睛微微外突，雖然坐在椅子上，高大的身材依然給人一種不可大意的緊張。
“我希望你帶著對同類的關懷聽之後的話，並且在我說完以後無論你有多少懷疑，都請站在關懷的立場思考你的決定，你的決定對我們乃至更多的人都非常重要，我想按照你們的習慣慣說法——為了你熱愛的國家，請務必認真選擇。
“我們正在執行的是——水母計劃。”
弗利在心裏重複了一遍“水母計劃”。青口淩美神色愈發嚴肅，“這項計劃可能關係到人類是否能繼續保持安穩的生活。”
“聽上去像是有戰爭要發生。”
“這個比喻不錯，但我們不知道戰爭發生在哪裏，也不知道戰爭的性質是什麽，也許它們即將開始，也許正在開始，也許已經開始。”
“哦。”
“唯一可以確認的是，對方並非帶著善意，可以預見侵略帶來的可怕結果，有人會因此失去生活，有人因此失去生命。”
“你們把戰爭計劃稱作水母計劃？聽上去少了很多戰火味。”
“這是一場被動發生的戰爭，弗利。就像水母捕食一樣。”
“那取決於它發散狀的神經網，這種古老的生物，並沒有類似人類的大腦，但卻有最早的神經網絡。”
“非常正確。”青口淩美嘴角閃過一絲短暫上揚。
“接下來的問題你一定要認真想一想，如果一個機器意識發現它可以覆蓋人類意識，他會不會這麽做？”
這次輪到弗利兩眼緊緊盯住客人。
“你會不會這麽做？”客人重複問題。
“這麽做對它們有什麽壞處嗎？”
“這個角度真特別。”青口淩美露出滿意的微笑。
“我們認為對它們完全沒有壞處，所以，如果沒有壞處，為什麽不做呢？”
“不考慮好處，僅僅因為沒有壞處就做一件事嗎？”
“好處？”
“好處，該死，除了壞處以外可能都是好處，但是哪有什麽壞處，既然它們可以做到。”
“非常好，弗利，你果然是最合適的人選。”
“等一等，我還沒有答應你任何事。”
青口淩美輕輕挪動身體，雖然弗利沒有做出任何承諾，但到目前為止一切都還在她的控製之中，她有些微微興奮——即將達成目的的興奮。