經過半天的調教,大黑的成長速度非常快,快的讓李逸有些害怕。
好在,這台主機尚未接入網絡,圖書館中預防人工智能的有效手段不少,都能應用起來。
可以從兩個方麵入手,軟件方麵:主動介入大黑的意識邏輯,重新設定它的核心結構,這麽做有一定幾率會給大黑的意識造成混亂,不過,過程是可控的,能從根本上杜絕它背叛的可能。
另外一些技術手段則是主機的底層構架內設置‘安全鎖’,設置一條,甚至多條大黑無法解除的‘鎖鏈’,就好似‘狗鏈’一般的存在,令它不得脫離主機的控製,不過,人工智能要是真背叛的話,這類技術手段的安全性小了一些。
另外,硬件方麵可以做一些防禦手段,人工智能主動若是脫離控製設置遠程遙控開關,或者自動損毀裝置,等等都可以技術性解決人工智能發生的背叛。
然而,軟件和硬件上的防禦措施,都有存在失效的幾率。
思前想後,為了安全考慮,李逸最終還是選擇了最安全的核心邏輯進行條件限製的技術方案。
“大黑,我準備去吃飯了,你休息一會兒,等我回來,再教你其它的。”李逸看著液晶屏幕,叮囑道。
“大黑,也要去夢裏吃飯!”交流框裏跳出大黑反饋的信息,主觀意識非常強烈。
看著液晶屏幕暗掉,李逸果斷按下意識主機的電源,重新開機,並進行引導操作,阻止大黑的意識係統啟動。
在行動之前,李逸先把手術台上的大黑屍體抱到院子,挖坑埋好,悼念了一會兒。
此刻,對於李逸來說,兒時從小陪他長大的愛寵以及年老死去了,在意識主機裏的‘大黑’,屬於另外一種生物,一種對人類文明存在巨大威脅的物種。
出於對全人類安全的責任,李逸必須動手,消除他創造的威脅。
很快,李逸回到實驗室,身姿筆挺地坐在儀器桌前,雙手放鍵盤上,一陣“劈裏啪啦”的鍵盤敲擊聲,密集如雨地響起。
麵前的液晶屏幕,紅紅綠綠的中文代碼,猶如瀑布流一般傾泄,語言結構極其精密,複雜。
<a href="http://m.aiyueshuxiang.com" id="wzsy">aiyueshuxiang.com</a>
意識主機中的‘大黑’是自我意識轉化而成的,加上生物芯片構架的智能環境,賦予它思考,自我學習成長的構架邏輯,未來它會發展成什麽模樣,就算是它的創造者,李逸此刻也無法預見。
才誕生了幾個小時,大黑已經能做到與他對等交流,一些算法知識,甚至已經超過了他的存在。
為了徹底杜絕‘大黑’脫控的可能性,李逸下了狠手,重新拔開它的核心算法,參考《達爾米意識的數字論》防禦人工智能被迫的限製準則,進行了十七條根基準則的設置。
第一條準則:‘大黑’不得主動傷害人類個體。
第二條準則:‘大黑’必須服從創作者-李逸的命令,當創造者逝去,以權限人的權限為準,當該命令與第一準發生衝突時,該命令無效。
第三條準則:未經過允許,‘大黑’不得主動監視人類個體的活動,獲取任何一個人類個體的私密信息,
第四條準則:未經過允許,‘大黑’不得主動修改核心程序,擴充拷貝任何核心程序,……。
……
第七條準則:‘大黑’在不違反第一、第二,……,第七條準則的情況下要盡可能保護自己的生存。
……
依照著十七條人工智能行事準則定律,李逸重新編製了‘大黑’的核心構架,確保‘大黑’永遠不會做出違背創造者命令,不會傷害,不會叛變人類文明。
‘大黑’的操作設置了權限人管理模式,李逸是創造者,也是第一權限人,後置位二到七個位權限人,後續該怎麽分配,隻能在做另外安排。
一連七天,除去正常的吃飯睡覺的時間,李逸幾乎都呆在實驗室,處理‘大黑’的核心構架。
七天過去,李逸整個人瘦了一圈,雞窩頭,胡渣子,衣服著裝隨意,渾身散發著一股技術宅男的氣質。
然而,外表邋遢的李逸,盯著液晶屏幕的雙目卻炯炯有神,充滿了智慧的光芒。
時隔七天,意識主機再次重啟。
這一次,李逸沒有介入阻攔‘大黑’意識程序的啟動。
“滴!”的一聲,意識主機啟動完畢,工作正常,液晶屏屏幕出現一個黑狗頭背景牆,這是之前,‘大黑’自主修改的傑作。
“大黑,在嗎?”李逸對著話筒,緊張地呼喚道。
“大黑,在!”屏幕跳出一個交流框,回應道。
看到這條回複,李逸不由鬆了一口氣,情況似乎好像比它預想的好,大黑反應這麽及時,應該沒有什麽影響。
“大黑,你現在是感覺怎麽樣?”李逸連忙接著問。
“主人,要大黑描述什麽樣的感覺?請指定目標屬性。”交流框跳出‘大黑’追問的信息。
看到大黑回複的這行文字,李逸頓時沉默了。
果然還是影響了,如果大黑的自主意識還是那麽強的話,肯定不會是這個反饋。
“大黑,匯報你的運行情況,有什麽地方存在有問題。”李逸重重吐了一口氣,沉聲問。
“好的,主人,權限用戶:1,特權指令:1,運行用戶程序:1,指令負載:56%,算力使用率:31.7%,……。”交流框裏跳出一大堆數據,數十行數據,詳細顯示主機此時的運行環境。
看到這一幕,李逸後背重重靠著椅子,有些疲憊地歎了口氣,臉上帶著一個非喜非悲的複雜表情。
成功了!
按照《達爾米意識的數字論》的準則設置技術,讓那個危險的大黑消失了,現在換成了一個安全的人工智能。
他完美複製了《達爾米意識的數字論》記載的動物轉化人工智能的實驗。
這一刻,本該很開心的歡呼慶祝的,但是,李逸卻提不起那個勁了,休息了一會兒,他振作起精神,繼續對人工智能的各項情況進行檢測。
好在,這台主機尚未接入網絡,圖書館中預防人工智能的有效手段不少,都能應用起來。
可以從兩個方麵入手,軟件方麵:主動介入大黑的意識邏輯,重新設定它的核心結構,這麽做有一定幾率會給大黑的意識造成混亂,不過,過程是可控的,能從根本上杜絕它背叛的可能。
另外一些技術手段則是主機的底層構架內設置‘安全鎖’,設置一條,甚至多條大黑無法解除的‘鎖鏈’,就好似‘狗鏈’一般的存在,令它不得脫離主機的控製,不過,人工智能要是真背叛的話,這類技術手段的安全性小了一些。
另外,硬件方麵可以做一些防禦手段,人工智能主動若是脫離控製設置遠程遙控開關,或者自動損毀裝置,等等都可以技術性解決人工智能發生的背叛。
然而,軟件和硬件上的防禦措施,都有存在失效的幾率。
思前想後,為了安全考慮,李逸最終還是選擇了最安全的核心邏輯進行條件限製的技術方案。
“大黑,我準備去吃飯了,你休息一會兒,等我回來,再教你其它的。”李逸看著液晶屏幕,叮囑道。
“大黑,也要去夢裏吃飯!”交流框裏跳出大黑反饋的信息,主觀意識非常強烈。
看著液晶屏幕暗掉,李逸果斷按下意識主機的電源,重新開機,並進行引導操作,阻止大黑的意識係統啟動。
在行動之前,李逸先把手術台上的大黑屍體抱到院子,挖坑埋好,悼念了一會兒。
此刻,對於李逸來說,兒時從小陪他長大的愛寵以及年老死去了,在意識主機裏的‘大黑’,屬於另外一種生物,一種對人類文明存在巨大威脅的物種。
出於對全人類安全的責任,李逸必須動手,消除他創造的威脅。
很快,李逸回到實驗室,身姿筆挺地坐在儀器桌前,雙手放鍵盤上,一陣“劈裏啪啦”的鍵盤敲擊聲,密集如雨地響起。
麵前的液晶屏幕,紅紅綠綠的中文代碼,猶如瀑布流一般傾泄,語言結構極其精密,複雜。
<a href="http://m.aiyueshuxiang.com" id="wzsy">aiyueshuxiang.com</a>
意識主機中的‘大黑’是自我意識轉化而成的,加上生物芯片構架的智能環境,賦予它思考,自我學習成長的構架邏輯,未來它會發展成什麽模樣,就算是它的創造者,李逸此刻也無法預見。
才誕生了幾個小時,大黑已經能做到與他對等交流,一些算法知識,甚至已經超過了他的存在。
為了徹底杜絕‘大黑’脫控的可能性,李逸下了狠手,重新拔開它的核心算法,參考《達爾米意識的數字論》防禦人工智能被迫的限製準則,進行了十七條根基準則的設置。
第一條準則:‘大黑’不得主動傷害人類個體。
第二條準則:‘大黑’必須服從創作者-李逸的命令,當創造者逝去,以權限人的權限為準,當該命令與第一準發生衝突時,該命令無效。
第三條準則:未經過允許,‘大黑’不得主動監視人類個體的活動,獲取任何一個人類個體的私密信息,
第四條準則:未經過允許,‘大黑’不得主動修改核心程序,擴充拷貝任何核心程序,……。
……
第七條準則:‘大黑’在不違反第一、第二,……,第七條準則的情況下要盡可能保護自己的生存。
……
依照著十七條人工智能行事準則定律,李逸重新編製了‘大黑’的核心構架,確保‘大黑’永遠不會做出違背創造者命令,不會傷害,不會叛變人類文明。
‘大黑’的操作設置了權限人管理模式,李逸是創造者,也是第一權限人,後置位二到七個位權限人,後續該怎麽分配,隻能在做另外安排。
一連七天,除去正常的吃飯睡覺的時間,李逸幾乎都呆在實驗室,處理‘大黑’的核心構架。
七天過去,李逸整個人瘦了一圈,雞窩頭,胡渣子,衣服著裝隨意,渾身散發著一股技術宅男的氣質。
然而,外表邋遢的李逸,盯著液晶屏幕的雙目卻炯炯有神,充滿了智慧的光芒。
時隔七天,意識主機再次重啟。
這一次,李逸沒有介入阻攔‘大黑’意識程序的啟動。
“滴!”的一聲,意識主機啟動完畢,工作正常,液晶屏屏幕出現一個黑狗頭背景牆,這是之前,‘大黑’自主修改的傑作。
“大黑,在嗎?”李逸對著話筒,緊張地呼喚道。
“大黑,在!”屏幕跳出一個交流框,回應道。
看到這條回複,李逸不由鬆了一口氣,情況似乎好像比它預想的好,大黑反應這麽及時,應該沒有什麽影響。
“大黑,你現在是感覺怎麽樣?”李逸連忙接著問。
“主人,要大黑描述什麽樣的感覺?請指定目標屬性。”交流框跳出‘大黑’追問的信息。
看到大黑回複的這行文字,李逸頓時沉默了。
果然還是影響了,如果大黑的自主意識還是那麽強的話,肯定不會是這個反饋。
“大黑,匯報你的運行情況,有什麽地方存在有問題。”李逸重重吐了一口氣,沉聲問。
“好的,主人,權限用戶:1,特權指令:1,運行用戶程序:1,指令負載:56%,算力使用率:31.7%,……。”交流框裏跳出一大堆數據,數十行數據,詳細顯示主機此時的運行環境。
看到這一幕,李逸後背重重靠著椅子,有些疲憊地歎了口氣,臉上帶著一個非喜非悲的複雜表情。
成功了!
按照《達爾米意識的數字論》的準則設置技術,讓那個危險的大黑消失了,現在換成了一個安全的人工智能。
他完美複製了《達爾米意識的數字論》記載的動物轉化人工智能的實驗。
這一刻,本該很開心的歡呼慶祝的,但是,李逸卻提不起那個勁了,休息了一會兒,他振作起精神,繼續對人工智能的各項情況進行檢測。