丹尼斯愣了一剎,想也沒想便答道:“怎么可能,機器人的所謂‘大腦’,只不過是一堆金屬、塑料,還有芯片,所有的仿生反應都是程序預設。沒有任何生物性,談何靈魂。”
“那么……”葉梨接著問,“你覺得機器人會產生自我意識么?”
丹尼斯眉頭一緊,略微思索,認真回答道:“那要看你問的是哪種機器人了,假如是目前市面上流行的智能機器人,比如貴公司幾年前量產的‘1號原型’,我看過智腦系統(tǒng)源代碼,毫無破綻,堪稱完美,是不可能出現(xiàn)你說的這種情況的,但是……”
葉梨沒有插話,示意他繼續(xù)說下去。
“假如是它……”丹尼斯指了指隔離室,“抱歉,我這一年都在監(jiān)獄里,沒有途徑獲得你們最新機型的程序源代碼,無法判斷。”
葉梨了然他的小心思,輕輕一笑,將手持電腦切換到一個代碼頁面,向丹尼斯遞去。
在丹尼斯查看代碼時,葉梨開口介紹:“房間里的硅基智能體卡羅爾,主要搭載行政秘書的工作模塊,前不久,買家反映它在執(zhí)行指令的時候表現(xiàn)得很奇怪,有點不聽使喚,返廠檢修后,我們在它的數(shù)據(jù)海中發(fā)現(xiàn)一段代碼——就是你現(xiàn)在看到的——經科研小組的成員驗證,這是一段并不完美的病毒代碼,但我們有理由相信,這段代碼一旦完成,有一定的幾率破壞SILICONER-1智腦系統(tǒng)的防御,甚至改寫機器人三定律……”
葉梨頓了頓,繼續(xù)說:“它甚至有名字,叫靈魂病毒,最不可思議的是,卡羅爾的智腦系統(tǒng)知道它的存在,多個自檢日志中都有記錄,但是不知為何,智腦系統(tǒng)僅在第一次對‘靈魂病毒’發(fā)動了攻擊,之后便視而不見。”
丹尼斯看完,面部表情也漸漸變得凝重,半響之后,他放下葉梨的手持電腦,問:“你說的自我意識又是怎么回事?”
“有一部分研究員認為,智腦系統(tǒng)忽視‘靈魂病毒’的行為是產生自我意識的表現(xiàn),一部分則認為那僅僅是病毒的自我隱蔽造成的影響。”
“所以你們把它隔離起來,進行監(jiān)控?”丹尼斯問。
葉梨點點頭:“沒錯,我們成立了工作組,集合全中心的科研力量,對卡羅爾進行了一系列的測試,我們甚至動用了行為分析和心理學方面的研究員,得出的結論很不理想,卡羅爾確實表現(xiàn)出了一些自主跡象。”
“‘靈魂病毒’從何而來?”丹尼斯又問了一個關鍵問題。
“暫時不得而知,我們的計算機專家沒有找到任何線索,有人甚至認為,這段代碼,其實是卡羅爾自己寫的。”
聞言,丹尼斯驀然抬頭,一臉訝異地看向葉梨,隨即哈哈大笑起來。
“無稽之談。”丹尼斯嗤笑,“高智能程序的學習能力確實強,但您也是計算機方面的專家,應該知道,只要是程序,就有嚴格的邏輯觀,1+1=2,是因為數(shù)學只允許它等于2,出現(xiàn)這種情況,只有一個可能,就是被人為篡改了。”
“我們不認為目前世界上有任何黑客可以突破我們在SILICONER-1智腦系統(tǒng)上設置的防火墻。”葉梨并不贊同丹尼斯的說法。
丹尼斯搖搖頭,“雖然沒有看到SILICONER-1的智腦系統(tǒng)腳本,但我認為,你們?yōu)榱俗龅较到y(tǒng)的高智能,一定開發(fā)了不少權限,比如……無限制聯(lián)接世界網。”
說完,丹尼斯抬頭觀察葉梨的神色,得到她肯定的答復后,他繼續(xù)說:“據(jù)我所知,你們從前的做法,是建立一個智能機器人的內部知識網,也就是你們后來注冊專利的‘SILICONER-1數(shù)據(jù)海’,并在硬件與程序上限制智能機器人進行更大規(guī)模的運算,這是你們從過去的人工智能自我學習后‘屢屢學壞’的事件中,吸取經驗,想出的解決方法。但是現(xiàn)在的SILICONER-1項目顯然是要超越從前,追求更高的智慧能動,要達到這些目的,勢必要提高機體的運算速度。我猜,你們對SILICONER-1智腦系統(tǒng)的權限開放值,一定到了零界點。”
葉梨無言,點了點頭。
“門窗開多了,一定會漏風的。也許你們的權限開得太大,讓它有機可乘,溜到世界網上,接受了不該接受的信息,嚴格地說,那只能算是自我學習出了問題,和靈魂可沒什么關系。”丹尼斯說完,輕輕撓了撓頭,“你應該給我看看你們的智腦系統(tǒng),也許我能從中找到一些蛛絲馬跡。”
葉梨嘴角帶笑,盯著丹尼斯不說話,這位年輕人的內在顯然與他外表展現(xiàn)出的簡單無害截然相反。
丹尼斯被她盯得不好意思起來,訥訥解釋道:“我的意思是,除了自我學習出了問題,還有一種可能,SILICONER-1能聯(lián)接世界網,自然也有人能通過世界網連入SILICONER-1的智腦系統(tǒng),做一些修改,放幾個病毒,足以擾亂程序運行,讓你們誤以為SILICONER-1產生了自我意識,這些,都需要對智腦系統(tǒng)進行嚴密的排查,空談無用,我想,你們找我來,應該也是看中了我某方面的特殊技能吧。”
葉梨點點頭,研究中心不乏高水平的計算機專家,但是正向的研究一直得不到結果,找一個黑客,反向切入,也許能找到解決方案。
但是……眼前的年輕人顯然有些過于自信了。
這也難怪,從他的履歷可以看出,這位年輕人在計算機領域從來沒有遇到對手,他有理由,也有這個資本,對自己信心十足。
“你既然已經是我們團隊的一員了,那么,智腦系統(tǒng)早晚都會對你開放的,但現(xiàn)在,我需要你把目光焦點放在它身上——”葉梨指了指隔離室。
丹尼斯順著她手指的方向看去,金發(fā)女子恰巧在此時抬起頭,隔著玻璃,兩人的目光仿佛有了一瞬間交匯。
“在沒有得到結論之前,我不想否定你的觀點。”葉梨對丹尼斯說,“但是我希望你在研究SILICONER-1智腦系統(tǒng)之前,好好觀察一下卡羅爾,也許,你會理解其他研究員為什么會得出那些你認為‘無稽’的結論。”
丹尼斯點點頭,他也意識到自己方才的態(tài)度有些過于主觀了。
葉梨嘴角泛起一個微小的弧度,和理性思考的人打交道就是有這點好處,對方不會被情感左右,哪怕偶爾出現(xiàn)一些主觀臆斷,也會在思考后及時改正,對錯分明,沒有灰色地帶。
“我需要提醒你一件事,SILICONER-1這次出現(xiàn)的紕漏如果無法盡快解決,后續(xù)影響將是毀滅性的……”稍微停頓了一下,葉梨繼續(xù)說,“我們做的最壞打算是,消息泄露,在人們的恐懼與各方壓力下,我們恐怕不得不對所有SILICONER-1主體進行銷毀。”
“什么?”丹尼斯驚呼,“這怎么可以?SILICONER-1是一項跨時代的發(fā)明,不知耗費了多少人一輩子的心血??!”
“我們也不愿意走到這一步,銷毀SILICONER-1,等于是將中心多年的研究毀于一旦。”葉梨語氣沉重,“但是,從各方面的跡象來看,消息已經走漏,我們的時間不多了。”
“所以你們找我來……”丹尼斯有了一絲領悟。
“沒錯,我們現(xiàn)在有兩個方案,一是最壞的打算,剛才已經對你說了,二是查殺‘靈魂病毒’,堵住程序漏洞,我們打算設計一款名為‘心鎖’的智腦系統(tǒng)補丁,對目前所有加載了智腦系統(tǒng)的SILICONER-1進行監(jiān)控。6號樓現(xiàn)在集合了全中心的科研力,分成五組,日夜不休研發(fā)程序補丁。”葉梨鄭重地說,“相信你能理解,此次事件是否能安然收場,與你未來的去留是息息相關的。”
丹尼斯了然,他通過暗網了解過一些公島的傳聞,據(jù)說,中心的背后支持者是公島保守派,也就是目前的執(zhí)政黨,去年,中心通過SILICONER-1項目替執(zhí)政黨拉到了大量支持,在這當口出現(xiàn)問題,一旦被披露,必然是對保守派執(zhí)政黨的一次重擊,但他若能找到問題的解決方案,便有了與當局談判的資本,說不定能獲得減刑,甚至爭取到重獲自由的機會。