樊青山的書房裏,隻有王嘯時而激越時而消沉的聲音在回響:
“所以,當你做出某個決定的時候,你覺得這是我想的,是我的主觀意願,但很有可能,是某個對於我們來說是神的東西的意誌。對於重大進步的推動者,重要曆史進程的推動者,被影響的可能性更大一些。畢竟就算是神,也不會無聊到影響每個人每天‘想吃什麽’這種細節問題,最有可能的,就是在他要讓我們的曆史拐彎的時候,影響某幾個人做出他要的決定。”
“當我某天發覺可能存在這個問題後,在這個問題沒想好前,我覺得我做什麽都沒有太大的意義。因為所有的努力、所有的進步、所有的一切作為,可能都不是我的,都是別人強加於我的。就像電影裏的某個人物,如果他有意識了,他說著自己的話、做著自己的事、感受著自己的歡樂和悲傷、忍受著自己的痛苦,他以為是他自己的,但其實是人家已經拍攝好了,播放出來而已。”
“如果我是隻被‘人’控製的提線木偶,或者我就是那電影中的人物,演的都是別人早已編好的劇本,那我做的,有何意義?”
“但即便覺得沒有意義,但某些事不做還不行,這是最苦惱的。現在各大公司、各種機構、各國都在竭力的研究人工智能。就算我們不推動,都已經到了突破的邊緣,最多二十年,人工智能競賽就會有很多個突破,然後,人工智能自己發展的加速度,將在極短的時間內超越大部分人類幾千、幾萬、甚至幾十萬倍。”
“那麽問題來了,要你我何用?要人類何用?這個問題已經有很多人預測過,表現這個問題的影視、文學作品也有很多。這也就是我經常想的第二個問題,科技於人類到底是什麽?”
“這個問題其實我是有答案的,但關鍵在於怎麽做。”
“有的人說,我可以外接啊,可以通過人工神經網絡接到電腦上啊,讓人工智能輔助我們思考啊,可以隻把人工智能當工具啊,你看我們眼鏡不就是最早的輔助工具嗎?我們用得不是挺好的嗎,現在各種可穿戴設備不也是用得挺好的嗎。”
“但這是一回事嗎?就在昨天,我趕著來救你的時候,我的車速在市區裏最高到三百多。在車多人多的市區車速到三百多是什麽概念,一秒一百米左右甚至一百多米。人的視線,在近郊道路上大概也就能看一公裏左右,那也不過十秒左右。在市區道路,有樹、有轉角、有各種障礙物,視線最好也不過是兩三百米,那就是兩三秒的時間,如果你期望一個普通人在兩三秒的時間裏發現一輛高速行駛的車靠近並做出及時的閃避,那是不可能的,你期望一個司機一秒鍾前看後視鏡,沒有車,剛轉向,下一秒發現車來了,再做出避讓,那也是不可能的。”
“所以,葉蓮娜,也就是我的輔助‘電腦’,每一秒鍾,都在傳送無數的熱成像數據給我,我隨時都要監控到幾十人、甚至幾百人的每一個動作,她是否要邁出左腳了?他是否開始從肩部發力,要轉向了,他用力的程度,究竟是要轉向,還是要修正一點點方向?她在等紅燈的時候是否無意識的要向前邁一小步。要把所有的這些東西綜合起來,甚至還包括某個人體重多少,要離他多遠這個車速所引起的空氣流動才不會對他造成致命影響,不會把他卷入車裏這一類的問題。把所有這一切綜合起來,才能決定我這零點零一秒的車速是快一點,還是慢一點,快多少、慢多少,我的高速行駛才不會造成事故而且能夠流暢的行駛。這種決定,這種思維速度,一般人能勝任嗎?而且,這還是我明知隻有我會這麽快的情況下做出決定需要的數據,如果有其他車輛,也會像我一樣的高速行駛的時候,數據量將會呈指數級的增長。”
“這些數據,我不處理,交給葉蓮娜處理行不行?當然行。交給葉蓮娜處理,就是那些人所說的人工智能輔助,也就是他們發展人工智能的意義。而葉蓮娜她隻把數據收集了給我,就是傳統意義上的輔助。區別很小,但是是致命的區別——決定是誰做出。做出決定是最終的控製權,是相對人類發展出來的人工智能而言,人類存在的意義。”
“但正如我之前所說的,普通人處理不了。數據給你了,但在相對的時間裏你處理不了,也就是你做不了決定,那隻能由人工智能來做決定了。那就又回到了之前的問題,人的決定,沒有人工智能好,沒有人工智能快,那是不是都交給人工智能來做呢?到了所有決定都是人工智能來做的時候,你我有何用?人類有何用?”
“就如一個三歲的小孩子,請一個管家來幫他打理一切,他的所有資源、所有決定,甚至包括他怎麽活,吃什麽穿什麽幹什麽玩什麽,都是管家來調配、管家來決定,那麽他有什麽用?有他沒他,對於管家來說,有區別嗎?對於他來說,人家要把他當電池,他就隻能做電池,人家要把他當玩具,他就隻能成玩具。”
“現在,所有人都想要努力把人類自身變成那個三歲的小孩子,你說現在我該怎麽辦?是阻止呢?還是推動?還是砸爛這一切?”
樊青山剛想說話,王嘯又製止他道:“還有最後一個問題,聽我說完。”
接著說道:“還有一個我經常想的問題是,他們配嗎?”
“你看一直以來,人類所表現出來的種種醜惡、各種卑劣。雖然我算不上好人,是實用主義者,但這些人性之惡也讓我極度痛恨。”
“這些惡,在原來是沒有問題的,畢竟人的一生,也就短短幾十年,早的時候,就是四五十年,現在七八十年。惡終歸要逝去,當然,善也終歸要逝去。可如果,如果人基本都不用死了,都能活很長很長時間,那麽這些惡,要如何消除?就如我們之前討論的那個,那個謝安,他不僅作惡,而且法律無法審判他的惡、道德無法約束他的惡。就這次同學聚會,我那同學伍鴻城,所表現出來的,做了壞事,還要反咬一口,還能讓大家都相信他,被害的人甚至無話可說。他們所表現出來的惡,是我所痛恨的,是我所想要消除的。當然,隨著技術的進步,這些惡會被壓製,會受到更多的限製,但永遠不會消除,他們同樣會想出很多辦法來,繼續釋放他們的惡念。所以我經常想,他們配嗎?但是,如何去區分誰配誰不配呢?又如何能讓人信服的指出他不配活在這個世界上、不配接受更好的醫療,並讓他自願的逝去?沒辦法的。”王嘯搖著頭重複道:“沒有辦法的。”
樊青山歎息道:“還真是個憂心的打工仔啊!你這是幹著修理工的活,操著人類前途命運的心啊。”
喝了口茶,抿了抿嘴,樊青山說道:“對於你的第一個問題,我覺得完全就是杞人憂天。我不知道你這個奇奇怪怪的想法是從哪裏來的,也不知道你們有什麽證據指向那種可能性。有那種可能性,也不見得就是真的。而且我想的,就是我想的!雖然在一定程度上會受些影響,可不都是這樣過來的嗎?任何一個人,都在受著別人的影響和製約,就算當皇帝的,也要考慮別人的想法,這很正常的。”
王嘯覺得他沒明白:“你沒明白,你偷換了我概念,我說的不是別人的影響或製約,而是,我們自己的想法裏,如果摻雜著某個‘人’的想法,也就是被別人輸入了其他內容,而‘他’讓我們覺得是我們自己的想法,如果我想的和不是我想的混雜在一起,沒法區分,怎麽辦?”
樊青山問:“那就當做都是你想的囉,為什麽要區分?”
沒讓王嘯回答,又道:“當然有時候,我們最終做出的決定,和一開始想的,可能已經摻雜了很多其他的東西,有了很大的不同。可我們的決定,是為了解決一開始‘我想’或‘我們想’的問題而做出的。我們不都是這樣子過來的嗎?我們的曆史,不都是因為‘我想’、‘我們想’而創造的嗎?”
“……”
樊青山肯定的道:“意誌也是需要妥協的,從來就沒有絕對的意誌。最強大的君主也沒有絕對的意誌。”
又道:“就算如你所言,真有個上帝或者神,在某個時候創造了我們,那我們現在存在了,難道就因為是‘他們’創造了我們而什麽也不幹了?等著餓死了?或者因為他們可能影響我們,操縱我們,我們就等著餓死?”
接著滔滔不絕的道:“就算真有‘人’操縱著我們,那我們也要跟他們鬥上一鬥,問一問他們為什麽要操縱我們,如果答案不合我們的意,那把他們幹翻再說。主席他老人家說:與天奮鬥,其樂無窮;與地奮鬥,其樂無窮;與人奮鬥,其樂無窮。還說:一切反動派都是紙老虎。怎麽鬥?怎麽戳破那隻紙老虎?”
“那就一個字,幹。我們共.產.黨人,最不怕的就是幹,最會的也就是幹。幹事業,幹革.命,什麽不是幹出來的?你什麽都不幹,‘他’就不操縱你了?”
“我們努力幹,通過幹,來強大自己,到了‘他’操縱不了的那一天,那你不就幹贏了麽?”
哇,王嘯在心裏想,這老革.命,什麽都是幹。
不過他轉念一想,其實老頭說的還是挺有道理的。因為怕自己是那隻木偶而什麽都不幹了,確實太過於消極,焉知自己的這種想法,說不定正是那些‘人’所期望的、所努力的結果呢?
這想法忽如其來,像一道閃電,一下劈中了王嘯,王嘯覺得眼前突然打開了一扇門。
他又聽到樊老頭繼續說道:“你真就是杞人憂天的消極份子。那人工智能,少說也還要一二十年的吧,長生不死,那更是遙遠,用得著你現在就來憂慮嗎?”
王嘯問:“如果就在眼前呢?”
樊老頭承認自己的無知:“關於人工智能,我無法評說。”
接著又道:“關於善惡,關於醫療,沒有什麽配不配的。沒有人絕對的善,也沒有人是絕對的惡,惡人也會有善念,善人也會有惡念。我們還是應該看到教化的作用,正確的去引導人民群眾。同時不斷增強法律、道德的約束力,就算長生不死了,那死刑也還是可以有的吧?對於真正作惡多端的人,不該也不能手軟。不知道這種說法,你覺得怎麽樣?”
王嘯道:“我不讚同你的這種觀點,配不配,還是要考慮的,自由心證就好,自己怎麽想怎麽幹就行,不用管別人是怎麽樣的。我們在這方麵已經做過一些嚐試了,我把這些嚐試稱之為非正義審判。”
“你們可不要幹犯法的事。”
“放心吧,我們不幹犯法的事。”
樊青山聽王嘯老是說我們我們的,不由得就問道:“你們是有組織的嗎?說說你們的情況。”
王嘯道:“我們是一家公司。今晚聽你的一席話,雖說不是勝讀十年書,但突然讓我意識到可能一直以來,我都想偏了。我什麽都不做,說不定真是‘他們’所希望的。所以,以後就一個字,幹。老頭!我想通了,你就拭目以待吧,以後你會慢慢了解我們的。”
“所以,當你做出某個決定的時候,你覺得這是我想的,是我的主觀意願,但很有可能,是某個對於我們來說是神的東西的意誌。對於重大進步的推動者,重要曆史進程的推動者,被影響的可能性更大一些。畢竟就算是神,也不會無聊到影響每個人每天‘想吃什麽’這種細節問題,最有可能的,就是在他要讓我們的曆史拐彎的時候,影響某幾個人做出他要的決定。”
“當我某天發覺可能存在這個問題後,在這個問題沒想好前,我覺得我做什麽都沒有太大的意義。因為所有的努力、所有的進步、所有的一切作為,可能都不是我的,都是別人強加於我的。就像電影裏的某個人物,如果他有意識了,他說著自己的話、做著自己的事、感受著自己的歡樂和悲傷、忍受著自己的痛苦,他以為是他自己的,但其實是人家已經拍攝好了,播放出來而已。”
“如果我是隻被‘人’控製的提線木偶,或者我就是那電影中的人物,演的都是別人早已編好的劇本,那我做的,有何意義?”
“但即便覺得沒有意義,但某些事不做還不行,這是最苦惱的。現在各大公司、各種機構、各國都在竭力的研究人工智能。就算我們不推動,都已經到了突破的邊緣,最多二十年,人工智能競賽就會有很多個突破,然後,人工智能自己發展的加速度,將在極短的時間內超越大部分人類幾千、幾萬、甚至幾十萬倍。”
“那麽問題來了,要你我何用?要人類何用?這個問題已經有很多人預測過,表現這個問題的影視、文學作品也有很多。這也就是我經常想的第二個問題,科技於人類到底是什麽?”
“這個問題其實我是有答案的,但關鍵在於怎麽做。”
“有的人說,我可以外接啊,可以通過人工神經網絡接到電腦上啊,讓人工智能輔助我們思考啊,可以隻把人工智能當工具啊,你看我們眼鏡不就是最早的輔助工具嗎?我們用得不是挺好的嗎,現在各種可穿戴設備不也是用得挺好的嗎。”
“但這是一回事嗎?就在昨天,我趕著來救你的時候,我的車速在市區裏最高到三百多。在車多人多的市區車速到三百多是什麽概念,一秒一百米左右甚至一百多米。人的視線,在近郊道路上大概也就能看一公裏左右,那也不過十秒左右。在市區道路,有樹、有轉角、有各種障礙物,視線最好也不過是兩三百米,那就是兩三秒的時間,如果你期望一個普通人在兩三秒的時間裏發現一輛高速行駛的車靠近並做出及時的閃避,那是不可能的,你期望一個司機一秒鍾前看後視鏡,沒有車,剛轉向,下一秒發現車來了,再做出避讓,那也是不可能的。”
“所以,葉蓮娜,也就是我的輔助‘電腦’,每一秒鍾,都在傳送無數的熱成像數據給我,我隨時都要監控到幾十人、甚至幾百人的每一個動作,她是否要邁出左腳了?他是否開始從肩部發力,要轉向了,他用力的程度,究竟是要轉向,還是要修正一點點方向?她在等紅燈的時候是否無意識的要向前邁一小步。要把所有的這些東西綜合起來,甚至還包括某個人體重多少,要離他多遠這個車速所引起的空氣流動才不會對他造成致命影響,不會把他卷入車裏這一類的問題。把所有這一切綜合起來,才能決定我這零點零一秒的車速是快一點,還是慢一點,快多少、慢多少,我的高速行駛才不會造成事故而且能夠流暢的行駛。這種決定,這種思維速度,一般人能勝任嗎?而且,這還是我明知隻有我會這麽快的情況下做出決定需要的數據,如果有其他車輛,也會像我一樣的高速行駛的時候,數據量將會呈指數級的增長。”
“這些數據,我不處理,交給葉蓮娜處理行不行?當然行。交給葉蓮娜處理,就是那些人所說的人工智能輔助,也就是他們發展人工智能的意義。而葉蓮娜她隻把數據收集了給我,就是傳統意義上的輔助。區別很小,但是是致命的區別——決定是誰做出。做出決定是最終的控製權,是相對人類發展出來的人工智能而言,人類存在的意義。”
“但正如我之前所說的,普通人處理不了。數據給你了,但在相對的時間裏你處理不了,也就是你做不了決定,那隻能由人工智能來做決定了。那就又回到了之前的問題,人的決定,沒有人工智能好,沒有人工智能快,那是不是都交給人工智能來做呢?到了所有決定都是人工智能來做的時候,你我有何用?人類有何用?”
“就如一個三歲的小孩子,請一個管家來幫他打理一切,他的所有資源、所有決定,甚至包括他怎麽活,吃什麽穿什麽幹什麽玩什麽,都是管家來調配、管家來決定,那麽他有什麽用?有他沒他,對於管家來說,有區別嗎?對於他來說,人家要把他當電池,他就隻能做電池,人家要把他當玩具,他就隻能成玩具。”
“現在,所有人都想要努力把人類自身變成那個三歲的小孩子,你說現在我該怎麽辦?是阻止呢?還是推動?還是砸爛這一切?”
樊青山剛想說話,王嘯又製止他道:“還有最後一個問題,聽我說完。”
接著說道:“還有一個我經常想的問題是,他們配嗎?”
“你看一直以來,人類所表現出來的種種醜惡、各種卑劣。雖然我算不上好人,是實用主義者,但這些人性之惡也讓我極度痛恨。”
“這些惡,在原來是沒有問題的,畢竟人的一生,也就短短幾十年,早的時候,就是四五十年,現在七八十年。惡終歸要逝去,當然,善也終歸要逝去。可如果,如果人基本都不用死了,都能活很長很長時間,那麽這些惡,要如何消除?就如我們之前討論的那個,那個謝安,他不僅作惡,而且法律無法審判他的惡、道德無法約束他的惡。就這次同學聚會,我那同學伍鴻城,所表現出來的,做了壞事,還要反咬一口,還能讓大家都相信他,被害的人甚至無話可說。他們所表現出來的惡,是我所痛恨的,是我所想要消除的。當然,隨著技術的進步,這些惡會被壓製,會受到更多的限製,但永遠不會消除,他們同樣會想出很多辦法來,繼續釋放他們的惡念。所以我經常想,他們配嗎?但是,如何去區分誰配誰不配呢?又如何能讓人信服的指出他不配活在這個世界上、不配接受更好的醫療,並讓他自願的逝去?沒辦法的。”王嘯搖著頭重複道:“沒有辦法的。”
樊青山歎息道:“還真是個憂心的打工仔啊!你這是幹著修理工的活,操著人類前途命運的心啊。”
喝了口茶,抿了抿嘴,樊青山說道:“對於你的第一個問題,我覺得完全就是杞人憂天。我不知道你這個奇奇怪怪的想法是從哪裏來的,也不知道你們有什麽證據指向那種可能性。有那種可能性,也不見得就是真的。而且我想的,就是我想的!雖然在一定程度上會受些影響,可不都是這樣過來的嗎?任何一個人,都在受著別人的影響和製約,就算當皇帝的,也要考慮別人的想法,這很正常的。”
王嘯覺得他沒明白:“你沒明白,你偷換了我概念,我說的不是別人的影響或製約,而是,我們自己的想法裏,如果摻雜著某個‘人’的想法,也就是被別人輸入了其他內容,而‘他’讓我們覺得是我們自己的想法,如果我想的和不是我想的混雜在一起,沒法區分,怎麽辦?”
樊青山問:“那就當做都是你想的囉,為什麽要區分?”
沒讓王嘯回答,又道:“當然有時候,我們最終做出的決定,和一開始想的,可能已經摻雜了很多其他的東西,有了很大的不同。可我們的決定,是為了解決一開始‘我想’或‘我們想’的問題而做出的。我們不都是這樣子過來的嗎?我們的曆史,不都是因為‘我想’、‘我們想’而創造的嗎?”
“……”
樊青山肯定的道:“意誌也是需要妥協的,從來就沒有絕對的意誌。最強大的君主也沒有絕對的意誌。”
又道:“就算如你所言,真有個上帝或者神,在某個時候創造了我們,那我們現在存在了,難道就因為是‘他們’創造了我們而什麽也不幹了?等著餓死了?或者因為他們可能影響我們,操縱我們,我們就等著餓死?”
接著滔滔不絕的道:“就算真有‘人’操縱著我們,那我們也要跟他們鬥上一鬥,問一問他們為什麽要操縱我們,如果答案不合我們的意,那把他們幹翻再說。主席他老人家說:與天奮鬥,其樂無窮;與地奮鬥,其樂無窮;與人奮鬥,其樂無窮。還說:一切反動派都是紙老虎。怎麽鬥?怎麽戳破那隻紙老虎?”
“那就一個字,幹。我們共.產.黨人,最不怕的就是幹,最會的也就是幹。幹事業,幹革.命,什麽不是幹出來的?你什麽都不幹,‘他’就不操縱你了?”
“我們努力幹,通過幹,來強大自己,到了‘他’操縱不了的那一天,那你不就幹贏了麽?”
哇,王嘯在心裏想,這老革.命,什麽都是幹。
不過他轉念一想,其實老頭說的還是挺有道理的。因為怕自己是那隻木偶而什麽都不幹了,確實太過於消極,焉知自己的這種想法,說不定正是那些‘人’所期望的、所努力的結果呢?
這想法忽如其來,像一道閃電,一下劈中了王嘯,王嘯覺得眼前突然打開了一扇門。
他又聽到樊老頭繼續說道:“你真就是杞人憂天的消極份子。那人工智能,少說也還要一二十年的吧,長生不死,那更是遙遠,用得著你現在就來憂慮嗎?”
王嘯問:“如果就在眼前呢?”
樊老頭承認自己的無知:“關於人工智能,我無法評說。”
接著又道:“關於善惡,關於醫療,沒有什麽配不配的。沒有人絕對的善,也沒有人是絕對的惡,惡人也會有善念,善人也會有惡念。我們還是應該看到教化的作用,正確的去引導人民群眾。同時不斷增強法律、道德的約束力,就算長生不死了,那死刑也還是可以有的吧?對於真正作惡多端的人,不該也不能手軟。不知道這種說法,你覺得怎麽樣?”
王嘯道:“我不讚同你的這種觀點,配不配,還是要考慮的,自由心證就好,自己怎麽想怎麽幹就行,不用管別人是怎麽樣的。我們在這方麵已經做過一些嚐試了,我把這些嚐試稱之為非正義審判。”
“你們可不要幹犯法的事。”
“放心吧,我們不幹犯法的事。”
樊青山聽王嘯老是說我們我們的,不由得就問道:“你們是有組織的嗎?說說你們的情況。”
王嘯道:“我們是一家公司。今晚聽你的一席話,雖說不是勝讀十年書,但突然讓我意識到可能一直以來,我都想偏了。我什麽都不做,說不定真是‘他們’所希望的。所以,以後就一個字,幹。老頭!我想通了,你就拭目以待吧,以後你會慢慢了解我們的。”