警惕人工智能真正的危險之處
人類2.0：在矽穀探索科技未來 作者：皮埃羅?斯加魯菲 投票推薦 加入書簽 留言反饋
人工智能真正的危險是什麽
人工智能不會控製和殺死人類，也不會讓我們失去工作。但我真正擔心的是，如今我們製造的機器人是在模仿人類理性的“機器思維”，而不是先天的“符號思維”。簡單來說，這種差別就好像人類遇到災難時會向神靈祈禱，或者圍著火跳舞（以此驅逐厄運），而一個快沒電的機器人永遠不會這麽做。
這為什麽很危險呢？我們從何為“符號思維”與“機器思維”說起。
美國哲學家蘇珊·朗格（susannenger）1942年寫的一本《哲學新解》（philosophy in a new key）是對我影響最大的書之一。朗格的理論是，人類是符號的動物，我們一直在創造看起來跟“適者生存”原則背道而馳的龐大的符號體係。所有人類文明中廣為傳播的各種儀式、禮製及巫術等都是一種符號活動，如果從其他動物的視角來看，這些根本毫無意義。一些部落裏的人們圍著火跳舞，以此祈禱某事發生，動物可不會這麽做。當動物想要一起繁育後代，它們直接進行繁殖即可，人類則需要精心準備婚禮，新人們通常需要在眾多賓客前完成繁雜的程序。
創造一種符號一定有某種目的，但就人類來說，我們簡直毫無止境，我們根本停不下來，我們的頭腦不斷在創造龐大的符號體係，很多時候是為了創造符號體係而創造符號體係。
複雜的傳統婚禮看起來並沒有什麽實用目的，它遠超出了我們生存的需要。甚至可以說，人類的語言作為一種溝通工具也太複雜了，它在我們生活中扮演了遠超過溝通的角色。機器語言相對總是簡單並清晰明了，做這個或做那個，不要做這個或不要做那個。而我們人類有時候會發表一段冗長的演說，表達的意思還模棱兩可。
傑弗裏·米勒（geoffrey miller）是我們這個時代最偉大的進化心理學家之一，他在2000年寫的一本《求偶心理》（英文書名為the mating mind：how sexual choice shaped the evolution of human，中文版暫無）中猜測，語言可能隻是性炫耀的一種形式，溝通隻是語言次要的用途。他將人類的語言比作孔雀多彩的尾巴。意思是人類的語言對人類之獨特就猶如美麗的尾巴於孔雀之獨特，試圖教給黑猩猩人類的語言是毫無意義的，正如希望人類長出孔雀美麗的尾巴也是毫無意義的。
朗格認為，儀式和巫術等都是人類自發的行為，都是人類的大腦傾向於將所有事物都轉換成符號的副產品。這種創造符號的習性會一直增長，直到符號不再有什麽用處，甚至還有害處。英國哲學家伯特蘭·羅素（bertrand russell）首先指出，語言成為溝通的首要形式的原因是，說話是經由身體的活動迅速產生大量符號的最經濟的方法。
將某件事物“構思”成符號實際上是有好處的，從物理的角度來說，世界上沒有兩個人會看到同樣一件事物（每個大腦都有輕微的不同），但所有人都可以就同一件事物形成一樣的符號。就好像讓兩個人看同一個地方的地圖，如果地圖的畫法稍微不同，兩個人就找不到同一個地方，但如果兩個人交換的是各自形成的地圖的概念，他們就有可能找到同一個地方。
當我們認為兩種情況很相似時，不是因為它們都給我們帶來了一樣的感覺，而是因為它們都屬於同一種符號。偉大的語言學家愛德華·薩丕爾（edward sapir）同樣認為，語言最初並不是為溝通而誕生的。丹麥語言學家奧托·葉斯柏森（otto jespersen）認為，唱歌和跳舞先於語言而生，溝通隻是符號化的副產品，儀式、神話和音樂等則是人類創造的符號係統的絕佳的例子，信仰則是一種終極的符號體係。
然而，現代人的思維卻大量輕視這些符號係統。我們的社會越來越基於理性的規章和製度而運轉，越來越傾向於避免這些“無用”且“昂貴”的儀式。因為生活日益被設計成“高效”的。孩子們按照一定的程序被送入學校（幼兒園、小學、初中、高中、大學……），然後他們被期望找到一份好工作，甚至連娛樂活動都是高度有規則的，什麽遊戲要怎麽玩等都需要規定得很清晰……這在我看來就是“機器思維”，一種必須遵循理性規則的思維。
想一下傳統婚禮與現代世俗婚禮的不同，印度的傳統婚禮需要花上三天，現代的政府婚姻登記處隻要簡單的婚姻登記就可以了。可以說，我們在基因裏就被設定成了“符號思維”（沉溺於儀式與傳說等的思維），然而，也不知何時，不知為什麽，我們就越來越喜歡“機器思維”的社會了。
現在你可能會開始理解，為什麽我說放棄人工智能領域基於知識的方法有些太早了。基於知識的人工智能完全是關於符號係統的，那是關於知識如何被呈現的，那就是知識本身。如果你“知道”某件事，那意味著你能創造關於它的符號。
遺憾的是，如今流行的人工智能（基於神經網絡的深度學習）是關於“機器思維”的，不是關於“符號思維”的。“深度學習”擅長識別和執行任務，而不是創造複雜的符號係統。
為什麽符號思維這麽重要呢？首先，這就是我們本來的樣子。這就好像你問：“為什麽眼睛這麽重要？”同樣，如果你的大腦不再創造任何符號了，你也不再是人類了。
其次，這些符號係統定義了我們的價值觀，告訴我們某些事情比其他事情更重要。比如，尊重和幫助你的鄰居或長者比叫外賣和找停車位更重要。我們的“符號思維”告訴我們要禮貌行事，多行好事。道德在一個“符號思維”裏是自然產生的。相反，“機器思維”隻是簡單地遵守設定好的規則和製度。如果沒有一個告訴孩子們要尊重父母的規則，機器思維就不會尊重父母。也就是說，我們現在正在發展的人工智能和正在設計的機器人將不會有任何道德觀念。
如果你還沒覺得這有什麽不妥，那我就要反問，我們創造機器的最終目的是什麽？我想答案應該是，“讓我們更幸福”。而現在，我們正處於將“智能”理解成“有用”的邊緣：一台機器如果越有用，我們就認為它越智能。但有用不等於能讓我們幸福。
那到底機器能為我們做點什麽才會讓我們感到更幸福呢？這個問題很難回答。因為我們經常將物質上的豐盛理解成幸福，結果往往是擁有之後感到更不幸福。在日本和斯堪的納維亞半島（挪威和瑞典）這些國民物質生活質量很高的地方，自殺率一直很高，但在一些特別窮困的國家，自殺率卻一直很低。那麽，到底是什麽讓人們真正感到幸福？
當我到非洲一些窮困的國家旅行時，我一直被那些微笑乃至大笑的人環繞著。而當我行走在西方世界一些所謂的發達城市的街頭時，卻幾乎很少有人微笑。造成這種反差的原因是我們經常迷失於商品的價值。從耶穌到佛陀，很多偉大的智者早就已經警醒世人財富並不等同於幸福。這正是那些偉大的符號體係（信仰等）所能提供的：一條通往幸福的道路。這也是為什麽舍棄“符號思維”是很危險的，而加速整個舍棄過程的人工智能和機器人從這個意義上來說，才變得真正很危險。
當人們問我關於人工智能是否讓我們永生時，我也經常提醒他們，你們真的想要永生嗎？這個星球上活得最久的是細菌和樹，它們活得幸福嗎？你想要成為一棵樹嗎？ 機器能像我們一樣思考嗎<h4>那麽，我們有沒有可能創造出像人類一樣思考，像人類一樣有感情的機器人呢</h4>
問題是，機器真的能思考嗎？機器能有感情嗎？這其實是一個哲學問題。如果你能做所有我可以做的事情，那我可以假設你會思考，但是我沒有辦法來證明。我不能跳到你的腦袋裏證實你真的會思考。你可能像個僵屍一樣，雖然能像我一樣行動，但其實沒有感覺，更沒有感情。我永遠都無法確定其他人能跟我一樣“思考”。
如果你告訴我你會思考，那我隻能相信你。我們可以製造一台會說“我認為”“我很開心”“我為她感到難過”等句子的機器。你又將如何證明這台機器是否真的能思考，或者是否真的有感情？
ibm已經在給“沃森”設計能夠識別人們情感的程序，日本機器人“胡椒”也被設計了同樣的能力，情感機器人時代已經到來。試圖理解人類的情緒再做出相應行為的機器人將被發明出來。設計這樣的機器人其實並不是特別難，隻是因為實際可應用之處還非常少，所以這種“情感機器人”才沒有像人臉和聲音識別一樣迅速發展。
有人假設，鑒於神經網絡模擬人腦的技術發展得如此先進，機器人很快就能以我們的方式“思考”。然而，這種假設建立在對人腦工作原理的極大誤解之上。首先，我們對人腦到底如何工作還所知甚少。如今的醫學水平連一些最常見的腦部疾病都無能為力。完全理解人腦的運轉原理可能需要花上幾十年甚至幾個世紀。所以，我們現在隻有非常膚淺的腦部結構模型。其次，今天我們已有的人工神經網絡隻是接近這些膚淺的模型。人工神經網絡隻有一種神經遞質（neurotransmitters），神經元之間隻有一種溝通方式，而人腦已知的神經遞質就有52種，真正有的可能更多；人工神經網絡假設神經元隻是一個0—1的開關，然而，神經係統科學家們發現，真正的神經元內部結構非常之複雜。
簡單地說，如今我們的機器人要模擬人腦還遙不可期，因為我們距離完全理解人腦都還非常遙遠。擁有一台等於人腦的機器更是無從談起。如果未來有一天人類真的完全理解人的大腦了，我們或許可以嚐試回答這個問題。
問題是，現在很多人早已習慣和沉浸於“機器思維”，他們喜歡高效而簡潔的行動，喜歡大量的智能設備，也同樣覺得自己很開心。是的，某種程度上，我們簡直在創造一種新的人性。當然，每個人都可以自由地選擇讓自己開心的方式，你可以選擇天天在家裏玩遊戲，也可以選擇去旅行。在矽穀，有一段時間很多人確實都是“技術控”，他們就是喜歡宅在家裏沉溺於遊戲、社交網站等，但現在越來越多的人開始喜歡爬山，喜歡走出來跟人和自然交流。
不可忽略的事實是，現在的年輕人過於依賴智能設備。而這些電子設備並不比過去“智能”多少，年輕人卻比他們的父輩、祖父輩“傻”多了，很多人連根據太陽識別方向的能力都沒有。
年輕人有時候已經不動腦子了，如果智能設備能更多地用於一些讓人更聰明的活動，而不是在線社交、購物和打遊戲就好了。可能說智能設備讓我們變“傻”不準確，但現在很多人確實樂於什麽都不做，他們希望智能設備最好能把事情全都“想”好。人類一向都想要無所不能，如今大家卻期待機器變成無所不能的，自己則甘於平庸。如果這是一種新的人性，我不確定它是不是我們真正想要的。
你可能會問，如果在未來，人工智能可以應用在更多一些讓人變聰明的地方，是不是情況會有所不一樣？這正是我擔心的又一個問題，即人工智能的產業發展方向。迄今為止，人工智能最成功的應用是搜索引擎在電腦上個性化的展示廣告。facebook的前科學家傑弗裏·哈默巴赫爾（jeffrey hammerbacher）對此頗為感慨，他曾寫道，“我這一代最聰明的大腦思考的問題隻是怎麽讓人們點擊廣告”。這確實很悲哀，人工智能可以在很多方麵改善人們的生活，第一個應用卻是讓人們在網站上花錢。我擔心人工智能在未來的應用將取決於穀歌這樣的大公司到底如何使用它們的技術。
如今閱讀網站內容的30%讀者都是機器。當然，這些機器大部分都屬於大公司。當我想到未來大部分內容還是人類來寫，大部分讀者卻很快都會變成機器人，機器人讀者的數量甚至會超過人類時，心裏真的不是滋味。你在網上做的任何事情都會被機器記錄下來和進行分析，機器會非常“專業”地讀你寫的任何內容，並不是因為它們真的喜歡你寫的東西，隻是因為你的個人生活對它們來說是一個商業機會，它們要看下你寫的東西有沒有用。這類讀者的動機和行為都讓人覺得有那麽點邪惡。
今天我們生活的世界隻是部分自動化。我擔心的是，在一個完全自動化的世界裏，我們的人性又會何去何從。
我擔心的是，由於越來越多的機器取代了人的工作，人跟人之間的互動會日益減少。如今，誰給你現金？自動取款機。誰遞給你火車票？自動售票機……我們傾向於從經濟層麵看機器取代人工後的好處：這種服務可以變成一天24小時，一周7天，服務成本還很便宜。雖然一份工作被取代了，但我們可以在其他地方創造更多的工作，因為我們在這些地方省錢了，等等。但是，這背後隱藏的一個重要的，也容易被忽略的信息是：每一次我周圍的人被一台機器取代，就意味著我跟人類的互動機會減少一次。
人和機器互動的結果就是人類之間互動的減少，這種趨勢已經在過去一個世紀裏不斷增長（我們早已忘了曾經有電話接線員，曾經有專門的打字秘書等）。這種趨勢在人工智能時代還會繼續加強，直到很多人，尤其是老人將隻能跟機器互動。機器會打理你的房子，會幫你辦雜事，會關注你的健康，還會跟你娛樂……這會極大地降低你跟其他人的互動，甚至包括你的家人（意味著家庭支持也會變得越來越不重要）。你將隻有很少幾個朋友，你的同事會是機器人，你的朋友也會是機器人。我們不禁思考，如果我們不再跟人類互動之後，人性到底會發生什麽改變。
人工智能不會控製和殺死人類，也不會讓我們失去工作。但我真正擔心的是，如今我們製造的機器人是在模仿人類理性的“機器思維”，而不是先天的“符號思維”。簡單來說，這種差別就好像人類遇到災難時會向神靈祈禱，或者圍著火跳舞（以此驅逐厄運），而一個快沒電的機器人永遠不會這麽做。
這為什麽很危險呢？我們從何為“符號思維”與“機器思維”說起。
美國哲學家蘇珊·朗格（susannenger）1942年寫的一本《哲學新解》（philosophy in a new key）是對我影響最大的書之一。朗格的理論是，人類是符號的動物，我們一直在創造看起來跟“適者生存”原則背道而馳的龐大的符號體係。所有人類文明中廣為傳播的各種儀式、禮製及巫術等都是一種符號活動，如果從其他動物的視角來看，這些根本毫無意義。一些部落裏的人們圍著火跳舞，以此祈禱某事發生，動物可不會這麽做。當動物想要一起繁育後代，它們直接進行繁殖即可，人類則需要精心準備婚禮，新人們通常需要在眾多賓客前完成繁雜的程序。
創造一種符號一定有某種目的，但就人類來說，我們簡直毫無止境，我們根本停不下來，我們的頭腦不斷在創造龐大的符號體係，很多時候是為了創造符號體係而創造符號體係。
複雜的傳統婚禮看起來並沒有什麽實用目的，它遠超出了我們生存的需要。甚至可以說，人類的語言作為一種溝通工具也太複雜了，它在我們生活中扮演了遠超過溝通的角色。機器語言相對總是簡單並清晰明了，做這個或做那個，不要做這個或不要做那個。而我們人類有時候會發表一段冗長的演說，表達的意思還模棱兩可。
傑弗裏·米勒（geoffrey miller）是我們這個時代最偉大的進化心理學家之一，他在2000年寫的一本《求偶心理》（英文書名為the mating mind：how sexual choice shaped the evolution of human，中文版暫無）中猜測，語言可能隻是性炫耀的一種形式，溝通隻是語言次要的用途。他將人類的語言比作孔雀多彩的尾巴。意思是人類的語言對人類之獨特就猶如美麗的尾巴於孔雀之獨特，試圖教給黑猩猩人類的語言是毫無意義的，正如希望人類長出孔雀美麗的尾巴也是毫無意義的。
朗格認為，儀式和巫術等都是人類自發的行為，都是人類的大腦傾向於將所有事物都轉換成符號的副產品。這種創造符號的習性會一直增長，直到符號不再有什麽用處，甚至還有害處。英國哲學家伯特蘭·羅素（bertrand russell）首先指出，語言成為溝通的首要形式的原因是，說話是經由身體的活動迅速產生大量符號的最經濟的方法。
將某件事物“構思”成符號實際上是有好處的，從物理的角度來說，世界上沒有兩個人會看到同樣一件事物（每個大腦都有輕微的不同），但所有人都可以就同一件事物形成一樣的符號。就好像讓兩個人看同一個地方的地圖，如果地圖的畫法稍微不同，兩個人就找不到同一個地方，但如果兩個人交換的是各自形成的地圖的概念，他們就有可能找到同一個地方。
當我們認為兩種情況很相似時，不是因為它們都給我們帶來了一樣的感覺，而是因為它們都屬於同一種符號。偉大的語言學家愛德華·薩丕爾（edward sapir）同樣認為，語言最初並不是為溝通而誕生的。丹麥語言學家奧托·葉斯柏森（otto jespersen）認為，唱歌和跳舞先於語言而生，溝通隻是符號化的副產品，儀式、神話和音樂等則是人類創造的符號係統的絕佳的例子，信仰則是一種終極的符號體係。
然而，現代人的思維卻大量輕視這些符號係統。我們的社會越來越基於理性的規章和製度而運轉，越來越傾向於避免這些“無用”且“昂貴”的儀式。因為生活日益被設計成“高效”的。孩子們按照一定的程序被送入學校（幼兒園、小學、初中、高中、大學……），然後他們被期望找到一份好工作，甚至連娛樂活動都是高度有規則的，什麽遊戲要怎麽玩等都需要規定得很清晰……這在我看來就是“機器思維”，一種必須遵循理性規則的思維。
想一下傳統婚禮與現代世俗婚禮的不同，印度的傳統婚禮需要花上三天，現代的政府婚姻登記處隻要簡單的婚姻登記就可以了。可以說，我們在基因裏就被設定成了“符號思維”（沉溺於儀式與傳說等的思維），然而，也不知何時，不知為什麽，我們就越來越喜歡“機器思維”的社會了。
現在你可能會開始理解，為什麽我說放棄人工智能領域基於知識的方法有些太早了。基於知識的人工智能完全是關於符號係統的，那是關於知識如何被呈現的，那就是知識本身。如果你“知道”某件事，那意味著你能創造關於它的符號。
遺憾的是，如今流行的人工智能（基於神經網絡的深度學習）是關於“機器思維”的，不是關於“符號思維”的。“深度學習”擅長識別和執行任務，而不是創造複雜的符號係統。
為什麽符號思維這麽重要呢？首先，這就是我們本來的樣子。這就好像你問：“為什麽眼睛這麽重要？”同樣，如果你的大腦不再創造任何符號了，你也不再是人類了。
其次，這些符號係統定義了我們的價值觀，告訴我們某些事情比其他事情更重要。比如，尊重和幫助你的鄰居或長者比叫外賣和找停車位更重要。我們的“符號思維”告訴我們要禮貌行事，多行好事。道德在一個“符號思維”裏是自然產生的。相反，“機器思維”隻是簡單地遵守設定好的規則和製度。如果沒有一個告訴孩子們要尊重父母的規則，機器思維就不會尊重父母。也就是說，我們現在正在發展的人工智能和正在設計的機器人將不會有任何道德觀念。
如果你還沒覺得這有什麽不妥，那我就要反問，我們創造機器的最終目的是什麽？我想答案應該是，“讓我們更幸福”。而現在，我們正處於將“智能”理解成“有用”的邊緣：一台機器如果越有用，我們就認為它越智能。但有用不等於能讓我們幸福。
那到底機器能為我們做點什麽才會讓我們感到更幸福呢？這個問題很難回答。因為我們經常將物質上的豐盛理解成幸福，結果往往是擁有之後感到更不幸福。在日本和斯堪的納維亞半島（挪威和瑞典）這些國民物質生活質量很高的地方，自殺率一直很高，但在一些特別窮困的國家，自殺率卻一直很低。那麽，到底是什麽讓人們真正感到幸福？
當我到非洲一些窮困的國家旅行時，我一直被那些微笑乃至大笑的人環繞著。而當我行走在西方世界一些所謂的發達城市的街頭時，卻幾乎很少有人微笑。造成這種反差的原因是我們經常迷失於商品的價值。從耶穌到佛陀，很多偉大的智者早就已經警醒世人財富並不等同於幸福。這正是那些偉大的符號體係（信仰等）所能提供的：一條通往幸福的道路。這也是為什麽舍棄“符號思維”是很危險的，而加速整個舍棄過程的人工智能和機器人從這個意義上來說，才變得真正很危險。
當人們問我關於人工智能是否讓我們永生時，我也經常提醒他們，你們真的想要永生嗎？這個星球上活得最久的是細菌和樹，它們活得幸福嗎？你想要成為一棵樹嗎？ 機器能像我們一樣思考嗎<h4>那麽，我們有沒有可能創造出像人類一樣思考，像人類一樣有感情的機器人呢</h4>
問題是，機器真的能思考嗎？機器能有感情嗎？這其實是一個哲學問題。如果你能做所有我可以做的事情，那我可以假設你會思考，但是我沒有辦法來證明。我不能跳到你的腦袋裏證實你真的會思考。你可能像個僵屍一樣，雖然能像我一樣行動，但其實沒有感覺，更沒有感情。我永遠都無法確定其他人能跟我一樣“思考”。
如果你告訴我你會思考，那我隻能相信你。我們可以製造一台會說“我認為”“我很開心”“我為她感到難過”等句子的機器。你又將如何證明這台機器是否真的能思考，或者是否真的有感情？
ibm已經在給“沃森”設計能夠識別人們情感的程序，日本機器人“胡椒”也被設計了同樣的能力，情感機器人時代已經到來。試圖理解人類的情緒再做出相應行為的機器人將被發明出來。設計這樣的機器人其實並不是特別難，隻是因為實際可應用之處還非常少，所以這種“情感機器人”才沒有像人臉和聲音識別一樣迅速發展。
有人假設，鑒於神經網絡模擬人腦的技術發展得如此先進，機器人很快就能以我們的方式“思考”。然而，這種假設建立在對人腦工作原理的極大誤解之上。首先，我們對人腦到底如何工作還所知甚少。如今的醫學水平連一些最常見的腦部疾病都無能為力。完全理解人腦的運轉原理可能需要花上幾十年甚至幾個世紀。所以，我們現在隻有非常膚淺的腦部結構模型。其次，今天我們已有的人工神經網絡隻是接近這些膚淺的模型。人工神經網絡隻有一種神經遞質（neurotransmitters），神經元之間隻有一種溝通方式，而人腦已知的神經遞質就有52種，真正有的可能更多；人工神經網絡假設神經元隻是一個0—1的開關，然而，神經係統科學家們發現，真正的神經元內部結構非常之複雜。
簡單地說，如今我們的機器人要模擬人腦還遙不可期，因為我們距離完全理解人腦都還非常遙遠。擁有一台等於人腦的機器更是無從談起。如果未來有一天人類真的完全理解人的大腦了，我們或許可以嚐試回答這個問題。
問題是，現在很多人早已習慣和沉浸於“機器思維”，他們喜歡高效而簡潔的行動，喜歡大量的智能設備，也同樣覺得自己很開心。是的，某種程度上，我們簡直在創造一種新的人性。當然，每個人都可以自由地選擇讓自己開心的方式，你可以選擇天天在家裏玩遊戲，也可以選擇去旅行。在矽穀，有一段時間很多人確實都是“技術控”，他們就是喜歡宅在家裏沉溺於遊戲、社交網站等，但現在越來越多的人開始喜歡爬山，喜歡走出來跟人和自然交流。
不可忽略的事實是，現在的年輕人過於依賴智能設備。而這些電子設備並不比過去“智能”多少，年輕人卻比他們的父輩、祖父輩“傻”多了，很多人連根據太陽識別方向的能力都沒有。
年輕人有時候已經不動腦子了，如果智能設備能更多地用於一些讓人更聰明的活動，而不是在線社交、購物和打遊戲就好了。可能說智能設備讓我們變“傻”不準確，但現在很多人確實樂於什麽都不做，他們希望智能設備最好能把事情全都“想”好。人類一向都想要無所不能，如今大家卻期待機器變成無所不能的，自己則甘於平庸。如果這是一種新的人性，我不確定它是不是我們真正想要的。
你可能會問，如果在未來，人工智能可以應用在更多一些讓人變聰明的地方，是不是情況會有所不一樣？這正是我擔心的又一個問題，即人工智能的產業發展方向。迄今為止，人工智能最成功的應用是搜索引擎在電腦上個性化的展示廣告。facebook的前科學家傑弗裏·哈默巴赫爾（jeffrey hammerbacher）對此頗為感慨，他曾寫道，“我這一代最聰明的大腦思考的問題隻是怎麽讓人們點擊廣告”。這確實很悲哀，人工智能可以在很多方麵改善人們的生活，第一個應用卻是讓人們在網站上花錢。我擔心人工智能在未來的應用將取決於穀歌這樣的大公司到底如何使用它們的技術。
如今閱讀網站內容的30%讀者都是機器。當然，這些機器大部分都屬於大公司。當我想到未來大部分內容還是人類來寫，大部分讀者卻很快都會變成機器人，機器人讀者的數量甚至會超過人類時，心裏真的不是滋味。你在網上做的任何事情都會被機器記錄下來和進行分析，機器會非常“專業”地讀你寫的任何內容，並不是因為它們真的喜歡你寫的東西，隻是因為你的個人生活對它們來說是一個商業機會，它們要看下你寫的東西有沒有用。這類讀者的動機和行為都讓人覺得有那麽點邪惡。
今天我們生活的世界隻是部分自動化。我擔心的是，在一個完全自動化的世界裏，我們的人性又會何去何從。
我擔心的是，由於越來越多的機器取代了人的工作，人跟人之間的互動會日益減少。如今，誰給你現金？自動取款機。誰遞給你火車票？自動售票機……我們傾向於從經濟層麵看機器取代人工後的好處：這種服務可以變成一天24小時，一周7天，服務成本還很便宜。雖然一份工作被取代了，但我們可以在其他地方創造更多的工作，因為我們在這些地方省錢了，等等。但是，這背後隱藏的一個重要的，也容易被忽略的信息是：每一次我周圍的人被一台機器取代，就意味著我跟人類的互動機會減少一次。
人和機器互動的結果就是人類之間互動的減少，這種趨勢已經在過去一個世紀裏不斷增長（我們早已忘了曾經有電話接線員，曾經有專門的打字秘書等）。這種趨勢在人工智能時代還會繼續加強，直到很多人，尤其是老人將隻能跟機器互動。機器會打理你的房子，會幫你辦雜事，會關注你的健康，還會跟你娛樂……這會極大地降低你跟其他人的互動，甚至包括你的家人（意味著家庭支持也會變得越來越不重要）。你將隻有很少幾個朋友，你的同事會是機器人，你的朋友也會是機器人。我們不禁思考，如果我們不再跟人類互動之後，人性到底會發生什麽改變。