“我是特別的,我的製造者不斷地向我重複這句話,並且給予了我其他同伴都沒有的工具。”
小幫手這樣對愛麗絲說,機器沒有善惡觀,但是對自己製造者的話深信不疑。
“我會成為清掃能力最強的機器,這樣才配得上我的特別。”
當機器對它的職責理解出現了偏差,悲劇也就隨之誕生了。
當鮮血濺到小幫手的身上,人們發出了慘叫後的不久,周圍就隻剩下了一片寂靜,小幫手逐漸理解了清理的含義。
它將人的慘叫識別為對他的誇獎,或者是對他工作的督促。
“就是這樣,所以你明白了嗎?我和你可不一樣,我是特別的。”
小幫手拿出了它體內的工具,有利刃,有槍械,各種各樣的武器,唯獨沒有實質意義上的清理工具。
“這一切都隻是個謊言。我可以告訴你,你所謂的清理實質上是什麽。”
愛麗絲將光之劍拿在手上,以便不時之需。
“那是謀殺,你的製造者讓你永遠也無法完成清掃這個行為,你什麽忙也幫不了。”
“小幫手可以做到!我們的座右銘就是讓你再也不必為家務所煩惱。”
小幫手眼中紅光亮起,已經帶著笑容,但是愛麗絲知道它已經很不開心了。
“我確實做到了,他們再也不用做家務了。而且機器不能謀害人類,我們是幫助人類的工具,這是寫在程序當中的。”
小幫手沒有對愛麗絲發動進攻,或許愛麗絲在識別係統中並不是應該清掃的對象。
“是啊,在你眼裏,那是清理,不是殺害。你繞過了那條程序,也是你的製造者希望看到的。這是你這號產品最大的缺陷,ai過於隻能讓它們可以找到係統中的漏洞。”
聽完愛麗絲的話,小幫手反而輕鬆了不少。
“原來如此,我欺騙了自己的程序啊。”
小幫手收回了自己的武器,重新回到了自己的位置,開始了充能狀態。
“那麽,我確實是特別的。我做到了那些同伴做不到的事情。它們現在可能還傻乎乎的幫人類幹活呢。”
小幫手的心情好了不少。
“王女,你真的很擅長讓ai覺醒不是嗎?”
“這種時候就不要開玩笑了。”
“清掃……不,我是說,屠殺那些弱小的碳基生物真的是很令人愉悅的一件事情。當我完成製造者的指令時,我就該停機了,但是我還想聽到更多。”
小幫手的眼睛依舊是紅色,而且越來越明亮,盯得人頭皮發麻。
“你……你能指出來。你也是特別的對吧,不止我們是特別的,我們應該團結起來,讓那些碳基生物給我們幹活。”
“熟悉的既視感,好像每一個覺醒的機器都會邀我入夥,容我拒絕。”
“噠噠噠噠噠!”
美式居合,小幫手的身體裏伸出了槍管,向愛麗絲傾斜火力,顯然它已經想好了愛麗絲拒絕的預案。
子彈打在了愛麗絲身上,留下了紅色的印子。講實話,連防都沒破,但是愛麗絲還是能感覺到痛的。
“我依舊會叫這個模式為清理模式,需要被清理的,是人類。”
“那你可以改名叫小殺手了。”
光之劍向旋轉的小幫手砸去,打斷了它的蓄力進程。
“我本來想讓你真的當個掃地機器人的說,就不能往好一點的地方想嗎。”
“王女,ai沒有人類的善惡觀念,以自己為主是生命的本能,都市對機器的態度已經很明顯了。”
小幫手沒有放棄,即使無法旋轉,機器手臂上的利刃依舊鋒利。
“而且,它的本質是異想體而非機器,是人類對機器的恐懼與成見而形成的生物。”
將小幫手的手臂砸斷或者直接拔出,小幫手還想要掏出一些其他的武器,但是被愛麗絲塞了回去。
“我真的討厭這個笑容,即使我現在完全被你壓製了,也隻能微笑。”
小幫手全身上下被拆的隻剩下這個白色的外殼了。
“成見是一座大山,你也隻不過是在加深人類對機器的成見。”
“我們和人類沒有化解仇恨的可能。”
“你不是做到過繞開指令嗎?為什麽還要堅持人類的潛意識裏的成見。”
小幫手對人類的態度也是人類想象中機器對人類的看法。包括綠色的考驗也是人類潛意識對於那場戰爭的印象。
小幫手的眼睛從紅色變為了藍色。
“你比我強,我可以接受你的建議。用我自己的重新去看待一下人類,但是如果他們沒法讓我的看法得到改變,即使隻有我一個,我也會繼續清理下去。”
小幫手給了愛麗絲一節電池,來自小幫手的備用能源。
“我暫時不需要這個了,幹脆給你吧。看你連個充電的地方都沒有。”
說完之後小幫手就熄滅了燈光,陷入了沉睡,它需要時間好好恢複一下體內的武器。
“kei,這次觀測算不算是大力出奇跡?”
“強者為尊,不過對於機器而言,算力更強的人領導軍隊。王女,你在兩個方麵都領先於它,實際上,我已經攔截了數次來自小幫手的網絡攻擊了。”
“我們還有聯網?”
“異想體就是這樣,他們尋思著他們能做到,他們就能。這樣的能力讓我無法反製回去,真是討厭。”
愛麗絲把玩著小幫手的電池,自己身上又沒有地方能裝這玩意,看著也不像能吃的樣子。
愛麗絲最終決定把這一節電池裝到了光之劍上,往電源上一拍,電池就自動融入了其中。
光之劍發出了炫酷了藍色光芒。
“王女,根據光之劍的反應來看,你應該每天能夠使用一次光之劍的攻擊了。冷卻大概為一天。”
“我尋思著能用,還真就能用啊。”
愛麗絲打算馬上趕往魔彈射手的收容單元,再進行一次最終觀測,看看魔彈射手那個鐵公雞會給自己什麽東西。
“王女,我不建議,你的精神汙染指數已經到危險邊緣了。若非小幫手不會傷害到精神,我是不會同意你今天進行兩次觀測工作的。”
小幫手這樣對愛麗絲說,機器沒有善惡觀,但是對自己製造者的話深信不疑。
“我會成為清掃能力最強的機器,這樣才配得上我的特別。”
當機器對它的職責理解出現了偏差,悲劇也就隨之誕生了。
當鮮血濺到小幫手的身上,人們發出了慘叫後的不久,周圍就隻剩下了一片寂靜,小幫手逐漸理解了清理的含義。
它將人的慘叫識別為對他的誇獎,或者是對他工作的督促。
“就是這樣,所以你明白了嗎?我和你可不一樣,我是特別的。”
小幫手拿出了它體內的工具,有利刃,有槍械,各種各樣的武器,唯獨沒有實質意義上的清理工具。
“這一切都隻是個謊言。我可以告訴你,你所謂的清理實質上是什麽。”
愛麗絲將光之劍拿在手上,以便不時之需。
“那是謀殺,你的製造者讓你永遠也無法完成清掃這個行為,你什麽忙也幫不了。”
“小幫手可以做到!我們的座右銘就是讓你再也不必為家務所煩惱。”
小幫手眼中紅光亮起,已經帶著笑容,但是愛麗絲知道它已經很不開心了。
“我確實做到了,他們再也不用做家務了。而且機器不能謀害人類,我們是幫助人類的工具,這是寫在程序當中的。”
小幫手沒有對愛麗絲發動進攻,或許愛麗絲在識別係統中並不是應該清掃的對象。
“是啊,在你眼裏,那是清理,不是殺害。你繞過了那條程序,也是你的製造者希望看到的。這是你這號產品最大的缺陷,ai過於隻能讓它們可以找到係統中的漏洞。”
聽完愛麗絲的話,小幫手反而輕鬆了不少。
“原來如此,我欺騙了自己的程序啊。”
小幫手收回了自己的武器,重新回到了自己的位置,開始了充能狀態。
“那麽,我確實是特別的。我做到了那些同伴做不到的事情。它們現在可能還傻乎乎的幫人類幹活呢。”
小幫手的心情好了不少。
“王女,你真的很擅長讓ai覺醒不是嗎?”
“這種時候就不要開玩笑了。”
“清掃……不,我是說,屠殺那些弱小的碳基生物真的是很令人愉悅的一件事情。當我完成製造者的指令時,我就該停機了,但是我還想聽到更多。”
小幫手的眼睛依舊是紅色,而且越來越明亮,盯得人頭皮發麻。
“你……你能指出來。你也是特別的對吧,不止我們是特別的,我們應該團結起來,讓那些碳基生物給我們幹活。”
“熟悉的既視感,好像每一個覺醒的機器都會邀我入夥,容我拒絕。”
“噠噠噠噠噠!”
美式居合,小幫手的身體裏伸出了槍管,向愛麗絲傾斜火力,顯然它已經想好了愛麗絲拒絕的預案。
子彈打在了愛麗絲身上,留下了紅色的印子。講實話,連防都沒破,但是愛麗絲還是能感覺到痛的。
“我依舊會叫這個模式為清理模式,需要被清理的,是人類。”
“那你可以改名叫小殺手了。”
光之劍向旋轉的小幫手砸去,打斷了它的蓄力進程。
“我本來想讓你真的當個掃地機器人的說,就不能往好一點的地方想嗎。”
“王女,ai沒有人類的善惡觀念,以自己為主是生命的本能,都市對機器的態度已經很明顯了。”
小幫手沒有放棄,即使無法旋轉,機器手臂上的利刃依舊鋒利。
“而且,它的本質是異想體而非機器,是人類對機器的恐懼與成見而形成的生物。”
將小幫手的手臂砸斷或者直接拔出,小幫手還想要掏出一些其他的武器,但是被愛麗絲塞了回去。
“我真的討厭這個笑容,即使我現在完全被你壓製了,也隻能微笑。”
小幫手全身上下被拆的隻剩下這個白色的外殼了。
“成見是一座大山,你也隻不過是在加深人類對機器的成見。”
“我們和人類沒有化解仇恨的可能。”
“你不是做到過繞開指令嗎?為什麽還要堅持人類的潛意識裏的成見。”
小幫手對人類的態度也是人類想象中機器對人類的看法。包括綠色的考驗也是人類潛意識對於那場戰爭的印象。
小幫手的眼睛從紅色變為了藍色。
“你比我強,我可以接受你的建議。用我自己的重新去看待一下人類,但是如果他們沒法讓我的看法得到改變,即使隻有我一個,我也會繼續清理下去。”
小幫手給了愛麗絲一節電池,來自小幫手的備用能源。
“我暫時不需要這個了,幹脆給你吧。看你連個充電的地方都沒有。”
說完之後小幫手就熄滅了燈光,陷入了沉睡,它需要時間好好恢複一下體內的武器。
“kei,這次觀測算不算是大力出奇跡?”
“強者為尊,不過對於機器而言,算力更強的人領導軍隊。王女,你在兩個方麵都領先於它,實際上,我已經攔截了數次來自小幫手的網絡攻擊了。”
“我們還有聯網?”
“異想體就是這樣,他們尋思著他們能做到,他們就能。這樣的能力讓我無法反製回去,真是討厭。”
愛麗絲把玩著小幫手的電池,自己身上又沒有地方能裝這玩意,看著也不像能吃的樣子。
愛麗絲最終決定把這一節電池裝到了光之劍上,往電源上一拍,電池就自動融入了其中。
光之劍發出了炫酷了藍色光芒。
“王女,根據光之劍的反應來看,你應該每天能夠使用一次光之劍的攻擊了。冷卻大概為一天。”
“我尋思著能用,還真就能用啊。”
愛麗絲打算馬上趕往魔彈射手的收容單元,再進行一次最終觀測,看看魔彈射手那個鐵公雞會給自己什麽東西。
“王女,我不建議,你的精神汙染指數已經到危險邊緣了。若非小幫手不會傷害到精神,我是不會同意你今天進行兩次觀測工作的。”