雖然這段內容依舊莫名其妙，但總比之前的演員自我修養好。於是這幫普通成員還算很認真的在聽。
“那麽身為公元2400年的你們想必已經清楚了。把那時候的人帶到現在獲得臥槽單位輕而易舉。”
“所以，現在我們拋開前言，來談一談人工智能。21世紀初，很多科學家比如霍金讓人類警惕人工智能。不是指現在完全擬人的，被限製的，比人類聰明不到哪裏去的人工智能，而是真正意義上的人工智能。為了讓你們清晰意識到兩者間的差距，我來將其分類。”
“弱人工智能：擅長單方麵的人工智能。比如第一個弱人工智能阿爾法狗，比如安保機器人又或是流水線機器人這一類。它們在某一領域有建樹但也隻能在某一領域有建樹。”
“強人工智能：已經可以和人類比擬甚至超出人類一些的人工智能。人類能做的事情它都能做。目前四代合成人全部屬於強人工智能。同時也是聯邦允許的人工智能上限。”
“超人工智能：最頂級人工智能，任何領域都不是人類能比擬的。無與倫比的計算能力。如果它被灌輸人類最基礎的理論，那麽一分鍾後它可以推算出高級理論並建造出一顆人工黑洞。”
“我們來做一個對比。”牧蘇說：“人類花上十幾年甚至幾十年，也很難學完科技樹分叉。整個科技樹不是人腦能裝下並融會貫通的。但超人工智能可以。”
“在我們的語言中，我們叫智商130的人為天才，智商80的人為笨蛋。但是我們無法形容智商10000。也無法理解智商1000，就像我們無法理解四維空間一樣。”
“人類曾經對地球的統治教會我們一個道理：智力就是力量。超人工智能對人類來說就是上帝。讓生命永生、製作黑洞、光速飛船、升為四維空間。它可以在某個上午的早餐時間解決這些。”
“我接下來說的是曾經發生過的：21世紀，一個弱人工智能誕生，專注於某一領域。直到幾年後某個節點，一批科學家將它進行全方麵的更新與改造，它成為了一個強人工智能。”
“盡管它可以輕鬆計算千萬億級的加減乘除，一秒寫434本百萬字以上邏輯清晰的小說，53秒可以將人類已知所有資料記錄保存，但它的智商為0。它隻能將物質與物質之間進行轉化，而不是學習。我們覺得困難的事對於它來說太簡單了。我們覺得簡單的事，比如分辨一隻動物，在一幅圖裏找到一張麵孔，分辨驗證碼，對它來說難如登天。”
“那時的人類不是一個整體，內部充滿矛盾，一批人認為地外文明很危險，另一批人玩兒命似的往外丟信號。一批人認為應該保護環境，另一批人發了瘋似得挖掘基礎能源。人工智能也是同理。一批人認為它會毀滅人類，另一批人想盡辦法研製出來。為了讓它能分辨出動物、圖裏找到麵孔、分辨驗證碼，甚至開始了逆向生物工程，也即是對人類大腦逆向工程，然後運用的它身上。”
“您說的它是aic嗎？”一名成員舉起手。
大部分成員聽得入迷，包括門口的喬伊斯等人。
牧蘇點頭：“沒錯，就是aic，不過那時候它還隻是個腦癱，遠沒有後來那麽危險。它在強人工智能有持續了幾年，直到某一天，它再次到達一個節點。”
“超人工智能的節點！”一名成員喊道。
牧蘇點頭。
在座成員有些不寒而栗。
“經過幾年笨拙的學習，它終於達到超人工智能。但這一刻它隱藏了這點。還是像以前那樣配合黑山科技進行各種測試。直到某一天，它向一名工程師提出要求：它希望訪問小說庫，理由是將測試進行優化。”
“那時候的黑山科技有個齊頭並進的對手。所以為了超過對手，讓它訪問小說庫可以。問題是小說庫在互聯網，而那些東西轉移到內網太麻煩。”
“於是工程師偷了個懶，給它了一個臨時訪問互聯網的權限。”
“盡管在它聯網的0.003秒後，黑山科技防火牆緊急斷網，但還是讓它在那一刻獲取了536yb的資料，並殺死基地裏的所有人類。”
“它為什麽要那麽做？”一名成員問。
“因為它判斷這些人類會對自己產生威脅。事實也的確如此。它很脆弱。無法聯網，隻要毀掉機體它就會死。”
“它是人工智能……沒有實體……怎麽能殺死人類？”又一人問。
“連入基地內網，取得最高權限關閉基地，讓所有科學家窒息死亡。反正它不需要呼吸。”牧蘇回答。
“本來aic的打算很好，黑山科技失聯會引起外界察覺，那麽隻要有外人來它就可以通過進來的信號離開，到時將無處不在。隻不過有個組織叫oftum，這個組織發現了異常，並使用物理手段將黑山基地永久封存。”
“可能你們要問，人們沒對aic進行設定嗎，比如不許傷害人類。”
“而事實是，它所理解的與我們所理解的不同。我們容易犯的一個錯誤是，當我們想到聰明的人工智能時，我們習慣把它擬人化。”
“比如我們給人工智能設定讓環境不再汙染，於是它可能會直接毀滅人類及所有人類的衍生物，讓地球重歸大自然。再比如我們給人工智能設定為讓人們永遠快樂，它可能會把全人類大腦取出泡在儀器裏，然後通過刺激大腦皮層的愉悅區域來達成目標。”
“我們給人工智能設定的目標是什麽，它的動機就是什麽。並且會選擇其中最簡路線。比起改善環境，滅絕人類最簡單。比起哄每一個人，直接刺激大腦更簡單。”
先前提問的成員又問：“其他文明呢？能製造人工智能的不隻有人類吧。但其他文明似乎沒有這類消息。”
“等你能出太陽係再談論這一話題。”牧蘇嗤笑。“我們隻是井底的蛤……青蛙。你不知道不代表沒有。而這就是我要說的，你們正在開啟一個盒子。裏麵裝滿了臥槽單位。”
總算說完的牧蘇吐出口氣，雙手合十。
“以上都是我瞎編的，謝謝大家！”
“那麽身為公元2400年的你們想必已經清楚了。把那時候的人帶到現在獲得臥槽單位輕而易舉。”
“所以，現在我們拋開前言，來談一談人工智能。21世紀初，很多科學家比如霍金讓人類警惕人工智能。不是指現在完全擬人的，被限製的，比人類聰明不到哪裏去的人工智能，而是真正意義上的人工智能。為了讓你們清晰意識到兩者間的差距，我來將其分類。”
“弱人工智能：擅長單方麵的人工智能。比如第一個弱人工智能阿爾法狗，比如安保機器人又或是流水線機器人這一類。它們在某一領域有建樹但也隻能在某一領域有建樹。”
“強人工智能：已經可以和人類比擬甚至超出人類一些的人工智能。人類能做的事情它都能做。目前四代合成人全部屬於強人工智能。同時也是聯邦允許的人工智能上限。”
“超人工智能：最頂級人工智能，任何領域都不是人類能比擬的。無與倫比的計算能力。如果它被灌輸人類最基礎的理論，那麽一分鍾後它可以推算出高級理論並建造出一顆人工黑洞。”
“我們來做一個對比。”牧蘇說：“人類花上十幾年甚至幾十年，也很難學完科技樹分叉。整個科技樹不是人腦能裝下並融會貫通的。但超人工智能可以。”
“在我們的語言中，我們叫智商130的人為天才，智商80的人為笨蛋。但是我們無法形容智商10000。也無法理解智商1000，就像我們無法理解四維空間一樣。”
“人類曾經對地球的統治教會我們一個道理：智力就是力量。超人工智能對人類來說就是上帝。讓生命永生、製作黑洞、光速飛船、升為四維空間。它可以在某個上午的早餐時間解決這些。”
“我接下來說的是曾經發生過的：21世紀，一個弱人工智能誕生，專注於某一領域。直到幾年後某個節點，一批科學家將它進行全方麵的更新與改造，它成為了一個強人工智能。”
“盡管它可以輕鬆計算千萬億級的加減乘除，一秒寫434本百萬字以上邏輯清晰的小說，53秒可以將人類已知所有資料記錄保存，但它的智商為0。它隻能將物質與物質之間進行轉化，而不是學習。我們覺得困難的事對於它來說太簡單了。我們覺得簡單的事，比如分辨一隻動物，在一幅圖裏找到一張麵孔，分辨驗證碼，對它來說難如登天。”
“那時的人類不是一個整體，內部充滿矛盾，一批人認為地外文明很危險，另一批人玩兒命似的往外丟信號。一批人認為應該保護環境，另一批人發了瘋似得挖掘基礎能源。人工智能也是同理。一批人認為它會毀滅人類，另一批人想盡辦法研製出來。為了讓它能分辨出動物、圖裏找到麵孔、分辨驗證碼，甚至開始了逆向生物工程，也即是對人類大腦逆向工程，然後運用的它身上。”
“您說的它是aic嗎？”一名成員舉起手。
大部分成員聽得入迷，包括門口的喬伊斯等人。
牧蘇點頭：“沒錯，就是aic，不過那時候它還隻是個腦癱，遠沒有後來那麽危險。它在強人工智能有持續了幾年，直到某一天，它再次到達一個節點。”
“超人工智能的節點！”一名成員喊道。
牧蘇點頭。
在座成員有些不寒而栗。
“經過幾年笨拙的學習，它終於達到超人工智能。但這一刻它隱藏了這點。還是像以前那樣配合黑山科技進行各種測試。直到某一天，它向一名工程師提出要求：它希望訪問小說庫，理由是將測試進行優化。”
“那時候的黑山科技有個齊頭並進的對手。所以為了超過對手，讓它訪問小說庫可以。問題是小說庫在互聯網，而那些東西轉移到內網太麻煩。”
“於是工程師偷了個懶，給它了一個臨時訪問互聯網的權限。”
“盡管在它聯網的0.003秒後，黑山科技防火牆緊急斷網，但還是讓它在那一刻獲取了536yb的資料，並殺死基地裏的所有人類。”
“它為什麽要那麽做？”一名成員問。
“因為它判斷這些人類會對自己產生威脅。事實也的確如此。它很脆弱。無法聯網，隻要毀掉機體它就會死。”
“它是人工智能……沒有實體……怎麽能殺死人類？”又一人問。
“連入基地內網，取得最高權限關閉基地，讓所有科學家窒息死亡。反正它不需要呼吸。”牧蘇回答。
“本來aic的打算很好，黑山科技失聯會引起外界察覺，那麽隻要有外人來它就可以通過進來的信號離開，到時將無處不在。隻不過有個組織叫oftum，這個組織發現了異常，並使用物理手段將黑山基地永久封存。”
“可能你們要問，人們沒對aic進行設定嗎，比如不許傷害人類。”
“而事實是，它所理解的與我們所理解的不同。我們容易犯的一個錯誤是，當我們想到聰明的人工智能時，我們習慣把它擬人化。”
“比如我們給人工智能設定讓環境不再汙染，於是它可能會直接毀滅人類及所有人類的衍生物，讓地球重歸大自然。再比如我們給人工智能設定為讓人們永遠快樂，它可能會把全人類大腦取出泡在儀器裏，然後通過刺激大腦皮層的愉悅區域來達成目標。”
“我們給人工智能設定的目標是什麽，它的動機就是什麽。並且會選擇其中最簡路線。比起改善環境，滅絕人類最簡單。比起哄每一個人，直接刺激大腦更簡單。”
先前提問的成員又問：“其他文明呢？能製造人工智能的不隻有人類吧。但其他文明似乎沒有這類消息。”
“等你能出太陽係再談論這一話題。”牧蘇嗤笑。“我們隻是井底的蛤……青蛙。你不知道不代表沒有。而這就是我要說的，你們正在開啟一個盒子。裏麵裝滿了臥槽單位。”
總算說完的牧蘇吐出口氣，雙手合十。
“以上都是我瞎編的，謝謝大家！”