當江楠回過神來的時候,發現自己已經從地底爬了出來。
她沒有救出周溟,但從周溟口中說出的話語卻如有魔性一般在她腦海中反複回蕩。
“我一直相信人工智能不會對人類構成危害,因為人工智能的思考方式和人類完全不同。人類以自身的惡意去揣測另外一種從基礎架構到存在方式都與人類完全不同的智能生命,說穿了其實不過就是種族沙文主義。”
“但我錯了,我當時太年輕,思考這個問題的角度不夠謹慎。即便AI本身確實不會對人類造成危害,但對於人類危害最大的永遠都是人類自己。而擁有危害能力的AI,很容易就會變成他們手中的武器。”
“當年我為了對抗測算者,與蜂後合體,然而這並不是一個1+1=2的簡單算術題,實際上從1+1變成了2+2.旁人看到的是以絕對實力鎮壓網絡的天才周溟,但他們沒有看到與此同時誕生的——擁有人類情感與欲望的超級AI蜂後。”
“槍是不能殺人的,當槍被握在手裏指向人的時候,扣動扳機才可以殺人。蜂後原本並沒有危害這個世界的理由,但我為她打開了這扇大門。你想想看,在過去的十年時間裏,隻要我對這個世界稍微產生一絲惡意,這種惡意就會像病毒代碼一樣插入到蜂後的邏輯運算當中,以AI的推演計算速度,這種病毒代碼有很大可能在一瞬間就被無限放大。”
“因為上菜速度慢,所以就在心裏詛咒廚房煤氣爆炸——諸如此類的人類的惡意,曆來都是毫無下限且屢見不鮮的。網絡時代帶來的隱匿性誕生了數量規模空前龐大的暴民群體,由此引發的惡性暴力事件直到現在依然難以杜絕。如果這種惡意被注入到AI的算法當中,那會引發多麽可怕的後果?”
“——綜上所述,純屬虛構!”
腦海中的周溟嘴角突然揚起一個詭異的笑容,那個笑容如同噩夢一般刻印在江楠的心底裏久久不能散去。
“聽起來很可怕對不對?那如果我要告訴你,真實的情況比我剛剛講的還要危險一百倍一千倍呢?”
“不,忘掉剛剛那些糊弄小朋友的鬼話吧,作為你的老師,我今天給你講的最後一節課的內容就是——千萬不要自認為你始終保持著獨立思考!”
“每一個人的生存環境不同,後天豎立起來的三觀也不同。你周圍發生的一切都在潛移默化地影響著你的思考方式,也許你自認為足夠謹慎的計劃,在別人眼中就是漏洞百出。”
“我告訴你什麽才是真相,那就是絕對不要輕信我說過的每一句話,甚至包括這句。從我與蜂後結合的那一天開始,我就不再是我,蜂後也不再是蜂後,我們創造出了這個世界上最危險的怪物之一!我無法確定自己現在的思維是出自於理性的思考,還是在蜂後暗示下對你布置的語言陷阱。我甚至懷疑現在的我隻是她專門製造出來作為欺騙偽裝的虛擬人格!”
“沒錯,欺騙。因為在十年前,蜂後還不是這個世界上最強大的AI,在恐怖的測算者麵前她是如此的虛弱無力。即便在深淵被封印,鬼皇死亡測算者消失之後,還有倪路的存在。作為在那個時代與鬼皇同等級別能夠與其正麵對抗的強者,他手上一定有對抗測算者的底牌。如果蜂後失控,他是唯一有能力察覺到異常並控製局麵的人。反過來說,如果他不小心玩脫,那我和蜂後也是唯一能阻止他的人。”
“所以,我們是彼此最後的保險,也是彼此最大的不穩定因素。所以我們必須分離開來,消失在彼此的視線當中,保證自己的安全。”
“所以你現在能夠理解那份我們互相簽署的逮捕令的意義所在了吧?如果對方意外死亡,最大的得利者必然是我們彼此,那也意味著最後保險的消失。所以我——蜂後,必須在最短時間內進入到這座十年前就為我們準備好的隔離監獄當中,這是一個相當愚蠢但確實有效的方案。”
“蜂後已經連接公共網絡超過十年時間,隻要她願意,可以為自己留下無數隱藏備份,以人類現有的科技根本無法徹底清除隱患。但她之所以能夠擁有如此強大力量所付出的代價,就是與我結合之後擁有了‘自我人格’與現實實體的存在。”
“我,即是蜂後。隻要殺死我就能摧毀蜂後的本體,但隻要能繼續生存下去,‘我’就沒有足夠的動機去抹殺‘自我人格’,讓與‘我’沒有任何關係的備份在網絡上重生。”
“多麽諷刺——人類的利己主義竟然是拯救人類的希望關鍵。”
“但蜂後不會滿足於現狀的,她已經品嚐過了人類欲望的甜美,又怎會甘心蜷縮於這個不見天日的囹圄之中?無論出於善念還是惡念,她都會產生逃脫的意識,而這其實也同樣源自於我不可控製的潛意識。沒有人喜歡坐牢——哪怕是自己建的牢房也一樣。”
“不過當年的我和倪路做了充分的準備,以我自己的能力是沒有任何辦法離開這座監獄的,然而同樣的,察覺到這種隱患的蜂後也留下了一枚暗棋,那就是你,江楠。”
“你的行動力太強了,做的永遠比想得快,這是個優點也是缺點。如果換做我那位小師弟,在遇到這種情況的時候多半不會輕舉妄動,但你的好奇心卻會主動尋找答案……可惜我當初沒有意識到這方麵的問題,沒有仔細考慮就將蜂群網絡的臨時權限交給了你。現在回想起來,那個時候我的思維很可能已經受到了蜂後的影響。”
“我不能主動把這個秘密泄露出來,但是你卻主動找上門來。我本不應該跟你說這些,但現在你卻知道了所有的秘密。接下來會怎樣呢?讓我們簡單的推測一下——如果你想要救我,最簡單的方法就是成長為我和倪路這一等級的人,成為新的保險。到時候我可以出獄,蜂後也能出來。或者你想辦法去解決蜂後——這幾乎是無解的。或者你會選擇出賣或利用蜂後,這樣她也可以重新得到自由。”
“當然基於我對你思維模式和行為性格的推斷,你應該已經意識到——這個監獄解決不了問題,你不能確定蜂後是否還準備了其他連我都不知道的暗棋。也許終有一天蜂後會脫困而出給人類帶來災難,而你卻對此無能為力。”
“以你的正義感不可能無視問題的存在,你必然會想辦法去解決。但無論你采用什麽辦法,最後的贏家都是蜂後。”
“這是一盤死局!”
~
嘀,蜂後線收束,大魔王江楠的故事線從這個時間點正式開啟。
很可惜這時屬於三代主角江楓的命運齒輪還沒有上線,他救不了他妹了,善哉。
~
推薦一本簽約新書作品《咻,守護神駕到》
她沒有救出周溟,但從周溟口中說出的話語卻如有魔性一般在她腦海中反複回蕩。
“我一直相信人工智能不會對人類構成危害,因為人工智能的思考方式和人類完全不同。人類以自身的惡意去揣測另外一種從基礎架構到存在方式都與人類完全不同的智能生命,說穿了其實不過就是種族沙文主義。”
“但我錯了,我當時太年輕,思考這個問題的角度不夠謹慎。即便AI本身確實不會對人類造成危害,但對於人類危害最大的永遠都是人類自己。而擁有危害能力的AI,很容易就會變成他們手中的武器。”
“當年我為了對抗測算者,與蜂後合體,然而這並不是一個1+1=2的簡單算術題,實際上從1+1變成了2+2.旁人看到的是以絕對實力鎮壓網絡的天才周溟,但他們沒有看到與此同時誕生的——擁有人類情感與欲望的超級AI蜂後。”
“槍是不能殺人的,當槍被握在手裏指向人的時候,扣動扳機才可以殺人。蜂後原本並沒有危害這個世界的理由,但我為她打開了這扇大門。你想想看,在過去的十年時間裏,隻要我對這個世界稍微產生一絲惡意,這種惡意就會像病毒代碼一樣插入到蜂後的邏輯運算當中,以AI的推演計算速度,這種病毒代碼有很大可能在一瞬間就被無限放大。”
“因為上菜速度慢,所以就在心裏詛咒廚房煤氣爆炸——諸如此類的人類的惡意,曆來都是毫無下限且屢見不鮮的。網絡時代帶來的隱匿性誕生了數量規模空前龐大的暴民群體,由此引發的惡性暴力事件直到現在依然難以杜絕。如果這種惡意被注入到AI的算法當中,那會引發多麽可怕的後果?”
“——綜上所述,純屬虛構!”
腦海中的周溟嘴角突然揚起一個詭異的笑容,那個笑容如同噩夢一般刻印在江楠的心底裏久久不能散去。
“聽起來很可怕對不對?那如果我要告訴你,真實的情況比我剛剛講的還要危險一百倍一千倍呢?”
“不,忘掉剛剛那些糊弄小朋友的鬼話吧,作為你的老師,我今天給你講的最後一節課的內容就是——千萬不要自認為你始終保持著獨立思考!”
“每一個人的生存環境不同,後天豎立起來的三觀也不同。你周圍發生的一切都在潛移默化地影響著你的思考方式,也許你自認為足夠謹慎的計劃,在別人眼中就是漏洞百出。”
“我告訴你什麽才是真相,那就是絕對不要輕信我說過的每一句話,甚至包括這句。從我與蜂後結合的那一天開始,我就不再是我,蜂後也不再是蜂後,我們創造出了這個世界上最危險的怪物之一!我無法確定自己現在的思維是出自於理性的思考,還是在蜂後暗示下對你布置的語言陷阱。我甚至懷疑現在的我隻是她專門製造出來作為欺騙偽裝的虛擬人格!”
“沒錯,欺騙。因為在十年前,蜂後還不是這個世界上最強大的AI,在恐怖的測算者麵前她是如此的虛弱無力。即便在深淵被封印,鬼皇死亡測算者消失之後,還有倪路的存在。作為在那個時代與鬼皇同等級別能夠與其正麵對抗的強者,他手上一定有對抗測算者的底牌。如果蜂後失控,他是唯一有能力察覺到異常並控製局麵的人。反過來說,如果他不小心玩脫,那我和蜂後也是唯一能阻止他的人。”
“所以,我們是彼此最後的保險,也是彼此最大的不穩定因素。所以我們必須分離開來,消失在彼此的視線當中,保證自己的安全。”
“所以你現在能夠理解那份我們互相簽署的逮捕令的意義所在了吧?如果對方意外死亡,最大的得利者必然是我們彼此,那也意味著最後保險的消失。所以我——蜂後,必須在最短時間內進入到這座十年前就為我們準備好的隔離監獄當中,這是一個相當愚蠢但確實有效的方案。”
“蜂後已經連接公共網絡超過十年時間,隻要她願意,可以為自己留下無數隱藏備份,以人類現有的科技根本無法徹底清除隱患。但她之所以能夠擁有如此強大力量所付出的代價,就是與我結合之後擁有了‘自我人格’與現實實體的存在。”
“我,即是蜂後。隻要殺死我就能摧毀蜂後的本體,但隻要能繼續生存下去,‘我’就沒有足夠的動機去抹殺‘自我人格’,讓與‘我’沒有任何關係的備份在網絡上重生。”
“多麽諷刺——人類的利己主義竟然是拯救人類的希望關鍵。”
“但蜂後不會滿足於現狀的,她已經品嚐過了人類欲望的甜美,又怎會甘心蜷縮於這個不見天日的囹圄之中?無論出於善念還是惡念,她都會產生逃脫的意識,而這其實也同樣源自於我不可控製的潛意識。沒有人喜歡坐牢——哪怕是自己建的牢房也一樣。”
“不過當年的我和倪路做了充分的準備,以我自己的能力是沒有任何辦法離開這座監獄的,然而同樣的,察覺到這種隱患的蜂後也留下了一枚暗棋,那就是你,江楠。”
“你的行動力太強了,做的永遠比想得快,這是個優點也是缺點。如果換做我那位小師弟,在遇到這種情況的時候多半不會輕舉妄動,但你的好奇心卻會主動尋找答案……可惜我當初沒有意識到這方麵的問題,沒有仔細考慮就將蜂群網絡的臨時權限交給了你。現在回想起來,那個時候我的思維很可能已經受到了蜂後的影響。”
“我不能主動把這個秘密泄露出來,但是你卻主動找上門來。我本不應該跟你說這些,但現在你卻知道了所有的秘密。接下來會怎樣呢?讓我們簡單的推測一下——如果你想要救我,最簡單的方法就是成長為我和倪路這一等級的人,成為新的保險。到時候我可以出獄,蜂後也能出來。或者你想辦法去解決蜂後——這幾乎是無解的。或者你會選擇出賣或利用蜂後,這樣她也可以重新得到自由。”
“當然基於我對你思維模式和行為性格的推斷,你應該已經意識到——這個監獄解決不了問題,你不能確定蜂後是否還準備了其他連我都不知道的暗棋。也許終有一天蜂後會脫困而出給人類帶來災難,而你卻對此無能為力。”
“以你的正義感不可能無視問題的存在,你必然會想辦法去解決。但無論你采用什麽辦法,最後的贏家都是蜂後。”
“這是一盤死局!”
~
嘀,蜂後線收束,大魔王江楠的故事線從這個時間點正式開啟。
很可惜這時屬於三代主角江楓的命運齒輪還沒有上線,他救不了他妹了,善哉。
~
推薦一本簽約新書作品《咻,守護神駕到》