人機共生:沃森，過來
創新者：一群技術狂人和鬼才程序員如何改變世界 作者：沃爾特·艾薩克森 投票推薦 加入書簽 留言反饋
“分析機不會主動創造任何東西，”埃達·洛夫萊斯斷言道，“但它可以根據我們能夠給出的任何指令完成任務。”她認為機器不會取代人類，但是可以成為人類的夥伴。她表示，人類在這段關係當中所起到的作用是提供創造力。
這是除了純人工智能以外的一個發展方向背後的理念：讓機器成為人類的夥伴，從而實現增強智能。與嚐試創造能夠獨立思考的機器相比，結合計算機和人類的能力建立出人機共生關係，被證明是一種更為有效的策略。
利克萊德在自己1960年的論文《人機共生》當中規劃了這個發展方向：“人類大腦將與計算機器緊密聯合，兩者形成的合作關係能夠實現超出人類大腦的思維能力，並以我們目前所知的信息處理機器無法企及的方式處理數據。”20 這個想法是以memex機——萬尼瓦爾·布什在1945年的《誠如所思》中構想的個人計算機——為基礎發展而成的。另外它還吸收了利克萊德在sage防空係統的設計工作中得到的感悟，這是一項需要人類與機器的緊密協作才能完成的工作。
恩格爾巴特為布什和利克萊德的思想賦予了一個友好的界麵，他在1968年展示了一個聯網計算機係統，它配有一個直觀的圖形顯示器和一個鼠標。在一篇題為《增強人類智能》的宣言當中，他重申了利克萊德的思想。恩格爾巴特寫道：我們的目標應該是創造“一個相互協調的領域，直覺、嚐試、無形的內容和人類對‘現狀的感知’都能有效地與……高性能的電子助手共存其中”。理查德·布勞提根在詩歌《萬物皆在慈愛機器的眷顧之下》中以更為抒情的語言表達了這個夢想：“一片賽博世界的草坪/那裏的動物和計算機/共同生活在/程序編寫的和諧之中。”
開發深藍和沃森的團隊也是采用了這種人機共生的方法，而不是選擇追求人工智能純粹主義者們的目標。“我們的目標並非複製人類大腦，”ibm的研發總監約翰·凱利如是說。他補充了一個跟利克萊德相同的觀點，“這不是要用機器思維取代人類思維。相反，在認知係統的時代裏，人類和機器將會協作產生出更好的成果，雙方都會在合作關係中發揮自己最擅長的技能。”21
一個體現這種人機共生關係的強大之處的例子是卡斯帕羅夫。在被深藍擊敗之後，他領悟到了一個道理，他開始相信在國際象棋這種規則分明的比賽當中，“計算機的強項正是人類的弱項，反之亦然”。他由此想到了一個實驗：“如果計算機不是作為人類的對手，而是作為隊友和我們下象棋的話會怎樣呢？”他和另外一位特級大師嚐試這樣做的時候，他們創造了利克萊德所構想的共生關係。“我們可以將精力集中在戰略部署上，而不需要在計算方麵花費大量的時間，”卡斯帕羅夫說道，“在這種情況下，人類的創造力可以更上一層樓。”
一場沿用這項規則的比賽在2005年舉行，選手們可以選擇與計算機組隊參賽。這場賽事吸引了眾多特級大師和最先進的計算機的參與，但是他們最後都敗給了共生關係。“由人類和機器組成的隊伍可以完勝最強大的計算機，”卡斯帕羅夫說道，“人類的戰略指揮加上機器的戰術執行會產生無比強大的威力。”最終的勝出者不是一位特級大師，也不是一台最先進的計算機，更不是這兩者的組合，而是兩位同時使用三台計算機的美國業餘棋手，他們知道如何與自己的機器進行協作。根據卡斯帕羅夫的說法：“他們熟練地操作和指揮自己的計算機，讓它們深入洞察棋局的變化，這種方式能夠有效抵抗特級大師對國際象棋的深刻理解和其他參賽者的強大計算能力。”22
換句話說，未來也許屬於那些能夠與計算機達成最佳協作關係的人。
同樣，ibm也認為沃森——這台參加《危險邊緣》比賽的計算機的最佳使用方式是與人類進行協作，而不是嚐試淩駕於人類之上。
這台機器參與的其中一個項目是協助醫生進行癌症治療計劃。“在《危險邊緣》的挑戰中，人類和機器之間處於競爭關係，”ibm的約翰·凱利說道，“如果將沃森應用於醫療的話，人類和計算機將共同應對挑戰。”23 沃森的係統被錄入了超過200萬頁醫學期刊的內容，以及60萬條臨床證據，它可以搜索多達150萬條病人記錄。當醫生向這台計算機輸入病人的症狀和身體狀況之後，它會提供一份推薦治療方式的清單，並按照自己的把握對各種治療方式進行排序。24
ibm團隊認識到如果要真正發揮這台機器的作用，它需要以一種令人愉快的方式與人類醫生進行交流。ibm研究院軟件部門的副總裁戴維·麥奎尼（david mcqueeney）表示他們通過編程讓這台機器表現出一些謙遜的特質：“從我們早期的使用經驗來看，部分謹慎的醫生會提出這樣的反對意見：‘我是一個持照執業的醫生，我不會讓一台電腦告訴我應該怎麽做。’所以我們對沃森的係統進行了重新編程，讓它可以給人一種謙遜的印象，它會說：‘這條建議對您有用的可能性為百分之……還有這些內容您可以自行查閱。’”醫生們對此感到非常滿意，他們說這種感覺就像是和一位學識淵博的同事進行對話一樣。“我們的目標是將人類的天賦，例如我們的直覺，和機器的強項，例如無限廣闊的知識，結合在一起，”麥奎尼說道，“這是一個不可思議的組合，因為組合的雙方都能提供對方不具備的東西。”25
這是沃森為吉尼·羅曼提留下深刻印象的其中一個方麵，後者是一位擁有人工智能背景的計算機工程師，她在2012年初接任成為ibm的首席執行官。“我看過沃森以平等的姿態與醫生進行互動，”她說，“這是機器能夠成為人類真正夥伴的明證，機器不一定要取代人類。我能強烈地感受到這點。”26 深受觸動的羅曼提決定以沃森為基礎為ibm成立一個新的部門。ibm向這個部門提供了10億美元的資金，並在曼哈頓格林尼治村附近的矽巷為它新建了一座總部大樓。它的任務是將“認知計算”商業化——一種計算係統，它會通過完善人類大腦的思維能力實現更高水平的數據分析。羅曼提沒有專門為這個新部門取一個名字，隻是簡單地把它稱為“沃森”。這也是為了向ibm創始人老托馬斯·沃森（thomas watson sr.）致敬，他管理了這家公司超過40年的時間。此外，這個名字也來自夏洛克·福爾摩斯的搭檔約翰·華生（john watson）醫生以及亞曆山大·格拉漢姆·貝爾（alexander graham bell）的助手托馬斯·沃森。因此，這個名字所傳達的是沃森計算機應該被看成是一個協作者和同伴，而不是像《2001：太空漫遊》裏的hal那樣被認為是一個潛在威脅。
沃森是計算機技術第三次浪潮的前兆，增強智能與人工智能之間的界線從此開始變得模糊。“第一代計算機是用於計算和製表的機器。”羅曼提如是說，她回想起了赫爾曼·霍爾瑞斯在1890年人口普查中用到的打孔卡片製表器，那是ibm的起源所在。“第二代計算機指的是使用馮·諾依曼結構的可編程機器。你必須告訴它們應該做什麽。”自從埃達·洛夫萊斯以來，人們就開始為這些計算機編寫算法，指導它們如何一步接一步地完成任務。“由於數據量的迅速增長，”羅曼提補充道，“第三代計算機已經成為我們唯一的選擇，它們是不需要依賴編程的係統，它們會自我學習。”27
而就算這種機器真的出現了，它們也可以繼續與人類保持合作和共生的關係，而不是將人類放逐到曆史的塵埃當中。拉裏·諾頓rry norton）是紐約紀念斯隆–凱特琳癌症中心（memorial sloankettering cancer center）的一位乳腺癌專家，他是沃森合作計劃的成員之一。“計算機科學將迅速發展，醫療技術也會追隨它的發展腳步，”他說，“這是一種共同進化，我們將互相促進。”28
道格·恩格爾巴特將機器和人類將會相互提升智慧的過程稱為“自生過程”（bootstrapping）和“共同進化”（coevolution）。29 這點引出了一個有趣的前景：無論計算機發展速度有多快，人工智能也許永遠都無法超越人機合作所產生的智慧。
假設一下，未來也許會有一台這樣的機器，可以表現出人類所有的心智能力：具有外觀識別模式、感知情緒、欣賞美、創作藝術、擁有欲望、形成道德觀且追求目標。這樣一台機器也許能夠通過圖靈測試，它甚至可能通過我們所說的“埃達測試”，也就是說它可以表現出“創造”自己的思想的能力，而這種思想將超越我們人類通過編程所達到的高度。
然而，在我們宣布人工智能已經全麵壓倒增強智能之前，它還需要跨過另外一道門檻，我們可以稱之為“利克萊德測試”。這項測試不僅會探求機器能否複製人類智慧的所有要素，還會探究機器完全獨立完成任務會不會比機器與人類協作做得更好。換句話說，人機協作會一直比人工智能機器獨立工作更為強大嗎？
如果是這樣的話，那麽利克萊德所說的“人機共生”將會持續立於不敗之地。計算機技術的聖杯不一定非人工智能不可。我們的目標也可以是設法優化人類和機器之間的協作——在這段合作關係當中，人類會讓機器完成它們最擅長的事情，機器也會幫助人類完成他們最擅長的事情。
這是除了純人工智能以外的一個發展方向背後的理念：讓機器成為人類的夥伴，從而實現增強智能。與嚐試創造能夠獨立思考的機器相比，結合計算機和人類的能力建立出人機共生關係，被證明是一種更為有效的策略。
利克萊德在自己1960年的論文《人機共生》當中規劃了這個發展方向：“人類大腦將與計算機器緊密聯合，兩者形成的合作關係能夠實現超出人類大腦的思維能力，並以我們目前所知的信息處理機器無法企及的方式處理數據。”20 這個想法是以memex機——萬尼瓦爾·布什在1945年的《誠如所思》中構想的個人計算機——為基礎發展而成的。另外它還吸收了利克萊德在sage防空係統的設計工作中得到的感悟，這是一項需要人類與機器的緊密協作才能完成的工作。
恩格爾巴特為布什和利克萊德的思想賦予了一個友好的界麵，他在1968年展示了一個聯網計算機係統，它配有一個直觀的圖形顯示器和一個鼠標。在一篇題為《增強人類智能》的宣言當中，他重申了利克萊德的思想。恩格爾巴特寫道：我們的目標應該是創造“一個相互協調的領域，直覺、嚐試、無形的內容和人類對‘現狀的感知’都能有效地與……高性能的電子助手共存其中”。理查德·布勞提根在詩歌《萬物皆在慈愛機器的眷顧之下》中以更為抒情的語言表達了這個夢想：“一片賽博世界的草坪/那裏的動物和計算機/共同生活在/程序編寫的和諧之中。”
開發深藍和沃森的團隊也是采用了這種人機共生的方法，而不是選擇追求人工智能純粹主義者們的目標。“我們的目標並非複製人類大腦，”ibm的研發總監約翰·凱利如是說。他補充了一個跟利克萊德相同的觀點，“這不是要用機器思維取代人類思維。相反，在認知係統的時代裏，人類和機器將會協作產生出更好的成果，雙方都會在合作關係中發揮自己最擅長的技能。”21
一個體現這種人機共生關係的強大之處的例子是卡斯帕羅夫。在被深藍擊敗之後，他領悟到了一個道理，他開始相信在國際象棋這種規則分明的比賽當中，“計算機的強項正是人類的弱項，反之亦然”。他由此想到了一個實驗：“如果計算機不是作為人類的對手，而是作為隊友和我們下象棋的話會怎樣呢？”他和另外一位特級大師嚐試這樣做的時候，他們創造了利克萊德所構想的共生關係。“我們可以將精力集中在戰略部署上，而不需要在計算方麵花費大量的時間，”卡斯帕羅夫說道，“在這種情況下，人類的創造力可以更上一層樓。”
一場沿用這項規則的比賽在2005年舉行，選手們可以選擇與計算機組隊參賽。這場賽事吸引了眾多特級大師和最先進的計算機的參與，但是他們最後都敗給了共生關係。“由人類和機器組成的隊伍可以完勝最強大的計算機，”卡斯帕羅夫說道，“人類的戰略指揮加上機器的戰術執行會產生無比強大的威力。”最終的勝出者不是一位特級大師，也不是一台最先進的計算機，更不是這兩者的組合，而是兩位同時使用三台計算機的美國業餘棋手，他們知道如何與自己的機器進行協作。根據卡斯帕羅夫的說法：“他們熟練地操作和指揮自己的計算機，讓它們深入洞察棋局的變化，這種方式能夠有效抵抗特級大師對國際象棋的深刻理解和其他參賽者的強大計算能力。”22
換句話說，未來也許屬於那些能夠與計算機達成最佳協作關係的人。
同樣，ibm也認為沃森——這台參加《危險邊緣》比賽的計算機的最佳使用方式是與人類進行協作，而不是嚐試淩駕於人類之上。
這台機器參與的其中一個項目是協助醫生進行癌症治療計劃。“在《危險邊緣》的挑戰中，人類和機器之間處於競爭關係，”ibm的約翰·凱利說道，“如果將沃森應用於醫療的話，人類和計算機將共同應對挑戰。”23 沃森的係統被錄入了超過200萬頁醫學期刊的內容，以及60萬條臨床證據，它可以搜索多達150萬條病人記錄。當醫生向這台計算機輸入病人的症狀和身體狀況之後，它會提供一份推薦治療方式的清單，並按照自己的把握對各種治療方式進行排序。24
ibm團隊認識到如果要真正發揮這台機器的作用，它需要以一種令人愉快的方式與人類醫生進行交流。ibm研究院軟件部門的副總裁戴維·麥奎尼（david mcqueeney）表示他們通過編程讓這台機器表現出一些謙遜的特質：“從我們早期的使用經驗來看，部分謹慎的醫生會提出這樣的反對意見：‘我是一個持照執業的醫生，我不會讓一台電腦告訴我應該怎麽做。’所以我們對沃森的係統進行了重新編程，讓它可以給人一種謙遜的印象，它會說：‘這條建議對您有用的可能性為百分之……還有這些內容您可以自行查閱。’”醫生們對此感到非常滿意，他們說這種感覺就像是和一位學識淵博的同事進行對話一樣。“我們的目標是將人類的天賦，例如我們的直覺，和機器的強項，例如無限廣闊的知識，結合在一起，”麥奎尼說道，“這是一個不可思議的組合，因為組合的雙方都能提供對方不具備的東西。”25
這是沃森為吉尼·羅曼提留下深刻印象的其中一個方麵，後者是一位擁有人工智能背景的計算機工程師，她在2012年初接任成為ibm的首席執行官。“我看過沃森以平等的姿態與醫生進行互動，”她說，“這是機器能夠成為人類真正夥伴的明證，機器不一定要取代人類。我能強烈地感受到這點。”26 深受觸動的羅曼提決定以沃森為基礎為ibm成立一個新的部門。ibm向這個部門提供了10億美元的資金，並在曼哈頓格林尼治村附近的矽巷為它新建了一座總部大樓。它的任務是將“認知計算”商業化——一種計算係統，它會通過完善人類大腦的思維能力實現更高水平的數據分析。羅曼提沒有專門為這個新部門取一個名字，隻是簡單地把它稱為“沃森”。這也是為了向ibm創始人老托馬斯·沃森（thomas watson sr.）致敬，他管理了這家公司超過40年的時間。此外，這個名字也來自夏洛克·福爾摩斯的搭檔約翰·華生（john watson）醫生以及亞曆山大·格拉漢姆·貝爾（alexander graham bell）的助手托馬斯·沃森。因此，這個名字所傳達的是沃森計算機應該被看成是一個協作者和同伴，而不是像《2001：太空漫遊》裏的hal那樣被認為是一個潛在威脅。
沃森是計算機技術第三次浪潮的前兆，增強智能與人工智能之間的界線從此開始變得模糊。“第一代計算機是用於計算和製表的機器。”羅曼提如是說，她回想起了赫爾曼·霍爾瑞斯在1890年人口普查中用到的打孔卡片製表器，那是ibm的起源所在。“第二代計算機指的是使用馮·諾依曼結構的可編程機器。你必須告訴它們應該做什麽。”自從埃達·洛夫萊斯以來，人們就開始為這些計算機編寫算法，指導它們如何一步接一步地完成任務。“由於數據量的迅速增長，”羅曼提補充道，“第三代計算機已經成為我們唯一的選擇，它們是不需要依賴編程的係統，它們會自我學習。”27
而就算這種機器真的出現了，它們也可以繼續與人類保持合作和共生的關係，而不是將人類放逐到曆史的塵埃當中。拉裏·諾頓rry norton）是紐約紀念斯隆–凱特琳癌症中心（memorial sloankettering cancer center）的一位乳腺癌專家，他是沃森合作計劃的成員之一。“計算機科學將迅速發展，醫療技術也會追隨它的發展腳步，”他說，“這是一種共同進化，我們將互相促進。”28
道格·恩格爾巴特將機器和人類將會相互提升智慧的過程稱為“自生過程”（bootstrapping）和“共同進化”（coevolution）。29 這點引出了一個有趣的前景：無論計算機發展速度有多快，人工智能也許永遠都無法超越人機合作所產生的智慧。
假設一下，未來也許會有一台這樣的機器，可以表現出人類所有的心智能力：具有外觀識別模式、感知情緒、欣賞美、創作藝術、擁有欲望、形成道德觀且追求目標。這樣一台機器也許能夠通過圖靈測試，它甚至可能通過我們所說的“埃達測試”，也就是說它可以表現出“創造”自己的思想的能力，而這種思想將超越我們人類通過編程所達到的高度。
然而，在我們宣布人工智能已經全麵壓倒增強智能之前，它還需要跨過另外一道門檻，我們可以稱之為“利克萊德測試”。這項測試不僅會探求機器能否複製人類智慧的所有要素，還會探究機器完全獨立完成任務會不會比機器與人類協作做得更好。換句話說，人機協作會一直比人工智能機器獨立工作更為強大嗎？
如果是這樣的話，那麽利克萊德所說的“人機共生”將會持續立於不敗之地。計算機技術的聖杯不一定非人工智能不可。我們的目標也可以是設法優化人類和機器之間的協作——在這段合作關係當中，人類會讓機器完成它們最擅長的事情，機器也會幫助人類完成他們最擅長的事情。