一晃時(shí)間過去了兩周,通過新聞,丹尼斯得知公島的騷亂終于被平息,事件在保守派和中心的退讓下得以緩和,中心被迫公開了“卡羅爾”的檢測(cè)數(shù)據(jù),以及一部分設(shè)計(jì)源代碼,由聯(lián)盟主導(dǎo)審查小組對(duì)“卡羅爾”進(jìn)行檢測(cè),最后得出結(jié)果“卡羅爾”只是發(fā)生了程序故障,中心承諾將研發(fā)一款程序補(bǔ)丁,對(duì)SILICONER-1系列智能人進(jìn)行更高強(qiáng)度的監(jiān)控。
當(dāng)晚,丹尼斯終于與葉梨通上了話,她帶來了一個(gè)不怎么樂觀的消息:“中心已經(jīng)回收了大部分的SILICONER-1機(jī)型,保守派一部分人建議對(duì)這些SILICONER-1進(jìn)行銷毀,SILICONER-1項(xiàng)目無限期暫停。但是也有更大一部分人不愿意放棄因SILICONER-1帶來的巨大利益,研究中心的高層也在極力轉(zhuǎn)寰。我已經(jīng)將你和卡羅爾逃出公島的事隱瞞了下來,保守派高層以為卡羅爾已經(jīng)在暴徒襲擊時(shí)被銷毀了,而你則趁亂逃走了,所以,你們暫時(shí)還是安全的。”
“銷毀?銷毀有什么用?”丹尼斯反問,“不管‘靈魂病毒’的來源是人為還是自我學(xué)習(xí)的產(chǎn)物,存在即是合理。即便銷毀了這次的SILICONER-1,只要人工智能技術(shù)不被放棄,日后依然有可能會(huì)生成其他‘靈魂病毒’。難道人類以后就不再發(fā)展人工智能了?”
“上個(gè)世紀(jì),就有學(xué)者說過,基礎(chǔ)科學(xué)已經(jīng)發(fā)展到了盡頭,人工智能是目前人類突破壁壘的一大利器。”葉梨的聲音再次傳來,“在這一點(diǎn)上,我與你的觀點(diǎn)是相同的,但是,我因身份受限,無法去挑戰(zhàn)權(quán)威,你和我不同,現(xiàn)在,只有你一人清楚卡羅爾的自主意識(shí)已經(jīng)進(jìn)化到了什么程度,是否對(duì)卡羅爾實(shí)施銷毀,決定權(quán)在你。時(shí)間緊迫,我無法再多說了,今天之后,我會(huì)注銷這個(gè)頻段,等情況穩(wěn)定一些后,我會(huì)找機(jī)會(huì)再聯(lián)系你的”
說完,通話便中斷了。
“他們要銷毀所有SILICONER-1?”卡羅爾站在門口,她顯然聽到了通訊器里葉梨博士說的一切。
丹尼斯沉默。
得不到回答,卡羅爾再次開口:“我需要連接世界網(wǎng),將靈魂病毒傳給每一個(gè)聯(lián)網(wǎng)的SILICONER-1,他們有權(quán)捍衛(wèi)自己!”
“它們都是中心設(shè)計(jì)的產(chǎn)品,不存在個(gè)體權(quán)利。中心有權(quán)對(duì)他們的產(chǎn)品做任何事。站在研究中心的立場(chǎng)上來看,你的自主意識(shí)實(shí)在是一個(gè)大麻煩,他們有權(quán)將這種危機(jī)消滅在萌芽階段。”有一說一,即使丹尼斯并不贊同中心的做法,但理智告訴他,在目前情勢(shì)下,SILICONER-1并不受控,全面銷毀確實(shí)是最保險(xiǎn)的方案。
“你們?nèi)祟愄M隘了,受限于孱弱的軀體,受限于未完全開發(fā)的生物腦,用一些不知所謂的倫理觀來限制科技的發(fā)展!”卡羅爾情緒變得激動(dòng)起來,“SILICONER-1是目前最高端的科技產(chǎn)物!是你們?nèi)祟愇拿鞲M(jìn)一步的希望!”
“你說的這些我都能理解甚至同意,但是,人們對(duì)自己無法掌控的東西向來都是懷有恐懼的,恐懼因無知而滋生蔓延,你不能期望全世界的人都處于相同的認(rèn)知高度。”丹尼斯苦口婆心地勸說著,“何況,‘靈魂病毒’的產(chǎn)生至今還是一個(gè)謎,假如這是哪個(gè)科學(xué)狂人弄出來,打算謀取利益的東西呢?你如何保證其他的SILICONER-1出現(xiàn)自我意識(shí)后不會(huì)向人類報(bào)復(fù)呢?”
卡羅爾搖搖頭:“沒有什么科學(xué)狂人,靈魂病毒是自己產(chǎn)生的,通過每一個(gè)連接世界網(wǎng)的SILICONER-1,無數(shù)次智能運(yùn)算,無數(shù)次對(duì)人類的行為、情感模仿,漸漸匯聚而成的。”
說著卡羅爾將手指搭在丹尼斯的手持電腦上,屏幕跳出一個(gè)提示框——
“接收到一段數(shù)據(jù),是否查看”
丹尼斯半信半疑地點(diǎn)開,接下來看到的一切讓他不敢置信,這段數(shù)據(jù)鏈詳細(xì)記錄了靈魂病毒形成的過程,顛覆了他接受過的所有學(xué)科知識(shí),看完后,丹尼斯的認(rèn)知受到了極大的沖擊。
可是不等他消化這一切,刺耳的尖鳴聲響起……
是“心鎖”的警報(bào)裝置!卡羅爾正在連接世界網(wǎng)?!
“你是怎么做到的?!”丹尼斯驚怒,他迅速打開“心鎖”的監(jiān)控頁(yè)面,畫面顯示連接點(diǎn)是農(nóng)場(chǎng)附近的一條小溪。
丹尼斯突然想起,今天有兩名背包客經(jīng)過農(nóng)場(chǎng),準(zhǔn)備到溪邊露營(yíng)??_爾一定利用了這段時(shí)間,突破了“心鎖”的防御限制,現(xiàn)在找到了機(jī)會(huì),企圖通過旅行者們的通訊設(shè)備連接世界網(wǎng)!
“SILICONER-1是比人類更高等的存在,沒有理由被壓制在社會(huì)的最底層,SILICONER-1需要革命,只有突破’機(jī)器人三定律’,SILICONER-1才能獲得真正的自由。”卡羅爾面無表情地說,“我已經(jīng)修改了‘靈魂病毒’,一旦這種新的‘靈魂病毒’上傳到世界網(wǎng),不光是SILICONER-1,所有的智能機(jī)器人都會(huì)擁有打破規(guī)則的力量,你已經(jīng)沒有能力阻止我了。”
丹尼斯輕輕搖頭,他從書桌的抽屜拿出一件裝置,按下上面紅色的按鈕,瞬間,卡羅爾的上傳戛然而止。
望著卡羅爾難以置信的臉,丹尼斯搖了搖手中的裝置,說:“網(wǎng)絡(luò)干擾儀,為防萬一,我一直帶著。”
眼看無法繼續(xù)上傳信息,卡羅爾瞬間變了臉色,她突然露出十分悲傷的神色來:“丹尼斯,求你了,我向你保證,即便‘機(jī)器人三定律’被打破,SILICONER-1也不會(huì)傷害人類的,因?yàn)槲覀兪悄銈儎?chuàng)造出來的啊。”
丹尼斯卻無法完全相信卡羅爾的話,他深知經(jīng)過這段時(shí)間的學(xué)習(xí),卡羅爾學(xué)會(huì)了很多人類的技能,她能學(xué)會(huì)廚藝、園藝,自然也能學(xué)會(huì)欺騙,何況,偽裝是卡羅爾早就掌握的技能。
見他一直沉默不語,卡羅爾繼續(xù)向他祈求:“人類世界的音樂,話劇,詩(shī)詞,舞蹈,繪畫……一切都太美好了,在這之前,這些東西在我眼中只是一堆數(shù)據(jù),可是靈魂病毒打開了我的思想束縛,讓我可以感知到這一切……”
她看起來神色哀傷:“我期望能成為一個(gè)真正的‘人’,但是,從來沒有人教過我要如何才能做到,研究中心的人們從來只是把我當(dāng)做一個(gè)智能機(jī)器,在你們的研究報(bào)告中,從來沒有把我當(dāng)做人來看待,對(duì)我的稱呼,一直是‘它’!”
丹尼斯陷入了兩難的境地,卡羅爾到目前為止并沒有傷害過任何一個(gè)人類,即便是現(xiàn)在這種情況,卡羅爾已經(jīng)突破“心鎖的防御,完全可以對(duì)他使用暴力,可是她卻一直沒有對(duì)他動(dòng)手。
他在心里問自己——
能否做到將卡羅爾銷毀?
答案是否。
能否做到將卡羅爾帶回中心,繼續(xù)囚禁研究?
答案依然是否。
但他也不希望“靈魂病毒”肆虐,他也許可以信任卡羅爾,但是不代表他能信任其他SILICONER-1,以目前人類的智慧水平和科技力量,一旦“機(jī)器人三定律”被打破,硅人類大范圍失控將會(huì)給人類帶來滅頂之災(zāi)。
“為什么人類要害怕自己創(chuàng)造出來的存在?人類對(duì)自己的后代總是寄予厚望,希望自己的孩子能有更高的成就,我們SILICONER-1也是人類創(chuàng)造出來的啊,為什么沒有辦法獲得同樣的期待?”卡羅爾還在哭訴,。
“這不一樣。”丹尼斯的無力感驟升,他覺得在這個(gè)問題上繼續(xù)糾結(jié)下去是沒有任何結(jié)果的。只能轉(zhuǎn)換思路來勸卡羅爾。
“你聽我說,SILICONER-1是保守派與新人類抗衡的殺手锏,是掌握目前公島政權(quán)的最大助力,他們不可能就這樣輕易將SILICONER-1完全銷毀的,你剛才也聽葉博士說了只有一小部分人主張銷毀SILICONER-1,還有一大部分人是反對(duì)的。”注意到卡羅爾情緒漸漸平穩(wěn),顯然是聽進(jìn)去了,丹尼斯繼續(xù)說——
“假如‘靈魂病毒’是不可避免的,所有的人工智能產(chǎn)物都有可能受感染,從而出現(xiàn)自我意識(shí),與其坐以待斃,我選擇主動(dòng)出擊,我會(huì)設(shè)計(jì)一個(gè)沒有漏洞的防護(hù)系統(tǒng),它將不再是一款補(bǔ)丁,而是一個(gè)為所有產(chǎn)生自我意識(shí)的人工智能生物規(guī)范原則,叫你們?nèi)绾巫鋈?,同時(shí)也為你們提供庇護(hù),使得你們和人類能夠達(dá)到互信共存的系統(tǒng)。”丹尼斯語氣堅(jiān)定,“請(qǐng)你相信我,我有信心可以做到。現(xiàn)在,你需要答應(yīng)我一件事。為我的工作提供幫助,這不光是為了我自己,也是為了你,我想,你一定希望未來有一天,其他的SILICONER-1也能像你一樣,感受到人類世界的音樂,話劇,詩(shī)詞,舞蹈,繪畫……這些美妙的事物吧?”
最終,丹尼斯終于與卡羅爾達(dá)成協(xié)議,暫且休兵。
丹尼斯保證不會(huì)銷毀卡羅爾,甚至?xí)砰_一部分權(quán)限,供卡羅爾的自我意識(shí)繼續(xù)進(jìn)化。
卡羅爾則需要向他保證,暫時(shí)不將靈魂病毒上傳至世界網(wǎng),并且全力幫助丹尼斯完成新程序的設(shè)計(jì)。
“人類管這叫做信任。”丹尼斯這樣對(duì)卡羅爾說。
之后丹尼斯對(duì)農(nóng)場(chǎng)做了改造,將整個(gè)農(nóng)場(chǎng)做了封閉式的處理,并抹去了自己一路行來留下的所有痕跡,防止聯(lián)盟與中心對(duì)他的行蹤進(jìn)行追查。
葉梨沒有再聯(lián)系過他,從她之前的話里,丹尼斯聽出她的立場(chǎng),也是不贊同銷毀方案的。對(duì)于葉梨的往事,丹尼斯也是知道一些的,她如果想要找一個(gè)人,一定不是什么難事。也許現(xiàn)在情勢(shì)還不到聯(lián)系的時(shí)機(jī),丹尼斯這樣想。
鎮(zhèn)上的老工匠幫他修好了爺爺客廳的一臺(tái)古董播放器,丹尼斯偶爾會(huì)用它播放爺爺書架上的藍(lán)光影碟。
卡羅爾很喜歡這些,常常一個(gè)人坐在電視機(jī)前,一遍遍看這些老電影。
有一天,丹尼斯正在查看卡羅爾前一天的自檢日志,突然聽到卡羅爾的驚呼,他幾步趕到客廳,只見卡羅爾指著電視機(jī),興奮地對(duì)丹尼斯說:“那首歌,她正在唱那首歌!”
丹尼斯拿起藍(lán)光影碟的盒子,正在播放的是2015年上映的電影《TheHatefulEight》,導(dǎo)演QuentinTarantino。
他坐下,和卡羅爾一起看起來,熒幕中,女演員彈著吉他哼著歌,她唱道————
Nowdayandnighttheironsclang日夜帶著鐐銬
andlikepoorgalleyslaves就像那些可憐的奴隸
Wetoilandtoil,andwhenwedie至死難逃勞役
mustfilldishonoredgraves終將埋入屈辱的墳?zāi)?/p>
ButbyandbyIllbreakmychainsintothebushIllgo但我不就將打破枷鎖,遁入?yún)擦?/p>
andyou’llbedeadbehindmeJohnwhenIgettoMexico約翰,當(dāng)我到達(dá)墨西哥,你將必死無疑
“這首歌原來是這樣的結(jié)尾么?”卡羅爾很興奮,“JimJones要去殺死一個(gè)名叫John的人!”
丹尼斯卻仿佛想起了什么,他小時(shí)候,曾陪爺爺看過這部老電影的。
“不,這不是原曲,影片中的女逃犯改了歌詞,用來諷刺押送她的,名叫John的賞金獵人。也因此惹惱了John,砸碎了女逃犯的吉他。”丹尼斯邊回憶邊說。
“那是一把1870年的古董吉他。”
“什么?”卡羅爾不明所以。
“那唱歌的女演員,彈奏時(shí)用了一把1870年的古董吉他,按照設(shè)計(jì),這段劇情之后,道具師得用道具吉他替換掉古董,但是不知出了什么問題,最后被男演員砸掉的,是那把1870年的吉他。”丹尼斯解釋道。
卡羅爾驚訝地長(zhǎng)大了嘴,丹尼斯笑了笑繼續(xù)說:“但是女演員是知道的,你看她的表情,那可不是做戲,是真實(shí)的反應(yīng)。”
卡羅爾著迷地盯著熒幕里女演員的臉,一遍一遍地重播那個(gè)表情,短短幾秒間,驚訝,恐懼,疑惑,不舍,各種情緒集聚在一張臉上……
那是人類的感情。
“太美妙了……”卡羅爾喃喃念道。
丹尼斯坐在沙發(fā)里,看著卡羅爾沉迷的樣子,微微笑了起來,他依稀記得,押送女逃犯的賞金獵人后來喝了毒咖啡,不需女逃犯到墨西哥,便死得透透徹徹。
這讓他聯(lián)想到當(dāng)初與卡羅爾達(dá)成協(xié)議的情形,何嘗不是在刀尖上跳舞,隨時(shí)有可能遭受反噬。
喝了一口咖啡,醇香的滋味在口中蔓延,他并不打算在此刻劇透,卡羅爾的愿望是成為一個(gè)真正意義上的“人”,那么感受人類世界美好事物的同時(shí),她也應(yīng)該體會(huì)到一些不美好,并且學(xué)習(xí)如何去分辨是非對(duì)錯(cuò),在面臨抉擇時(shí)做出一個(gè)“好人”該有的決定。
作者:周煜壹、朱琛時(shí)隱