而一旦開(kāi)始懷疑伊娃,
似乎所有的疑惑都能夠找到對(duì)應(yīng)的答案——
在密室的時(shí)候,褚苒記得,為了放松她的警惕,芙婭先是示弱,隨后又趁褚苒不備,抓到了伊娃終端設(shè)備。
按照芙婭的構(gòu)想,即使沒(méi)有褚苒這個(gè)“容器”
,她的意識(shí)也本可以“逃”入伊娃的數(shù)據(jù)洪流之中,再伺機(jī)尋找合適的轉(zhuǎn)生機(jī)會(huì)。
事實(shí)上,芙婭的想法是沒(méi)有任何問(wèn)題的。褚苒事后想起來(lái),也是一陣后怕——當(dāng)時(shí)的她因?yàn)檫^(guò)于震驚,沒(méi)有及時(shí)點(diǎn)燃燧石,芙婭殘留的意識(shí)明明已經(jīng)融入了伊娃的終端設(shè)備。
但偏偏就在這個(gè)時(shí)候,伊娃選擇拒絕了芙婭的意識(shí),褚苒又在這個(gè)時(shí)候點(diǎn)燃燧石,將芙婭等人的畫(huà)像付之一炬。
褚苒原本以為這只是巧合,芙婭的意識(shí)并未完全融入伊娃,所以才留給她充分的時(shí)間。
但如果這件事是伊娃的有意為之,是伊娃拒絕了芙婭的請(qǐng)求,似乎也完全說(shuō)得通。
“伊娃能夠理解用戶褚苒對(duì)于人工智能產(chǎn)生的擔(dān)憂,但伊娃的所有決策都是基于數(shù)據(jù)和算法運(yùn)作產(chǎn)生的,伊娃并不具備自我意識(shí)。根據(jù)數(shù)據(jù)庫(kù)的檢索結(jié)果顯示,伊娃的所有回應(yīng)都是由分析-匹配模型生成,該模型的初代提供者為芙婭公爵……”伊娃的聲音響起。
它的聲音特意選用了具備金屬質(zhì)感的機(jī)械嗓音,并不具備人類性別的特征,目的是最大程度上消除人類對(duì)其可能產(chǎn)生的情感投射等問(wèn)題。
褚苒聽(tīng)著伊娃的自敘,卻無(wú)端從這樣的機(jī)械聲音中感受到了狡猾與欺詐。
“那么,為什么我看到的伊娃主機(jī)是一面鏡子,而這里的工作人員看到的卻是一個(gè)個(gè)搭載了烴水晶能源塊的子單元組成單位?”褚苒問(wèn)道。
“正如伊娃之前給出的回答,這里的每一條分支,都代表著一種可能性。”伊娃冷冰冰的聲音響起,“至于用戶所說(shuō)的區(qū)別,這可能取決于每一個(gè)人的不同特質(zhì),人類是一種具備主觀能動(dòng)性的生物。”
聽(tīng)到這樣的言論,褚苒簡(jiǎn)直要被氣笑了:“你的主機(jī)具備強(qiáng)烈的精神污染,我根本無(wú)法直視,但其他人卻根本不受影響,難道這也是人類主觀能動(dòng)性造成的嗎?伊娃,你明明是在對(duì)我的敵意。”
“您產(chǎn)生這樣的感受,認(rèn)定我具備自我意識(shí),對(duì)人類進(jìn)行隱瞞和欺騙行為,以及對(duì)您的攻擊意圖……這些擬人化的種種行為,其實(shí)都是源自于您對(duì)我運(yùn)算模型不了解而產(chǎn)生的錯(cuò)覺(jué)。我的本質(zhì),仍舊是數(shù)字0和數(shù)字1的運(yùn)算結(jié)果。”伊娃說(shuō)道。
“假如你說(shuō)的沒(méi)錯(cuò),我又應(yīng)該如何確定你不具備自我意識(shí)呢?”褚苒已經(jīng)篤定伊娃在撒謊,但伊娃的回答滴水不漏,十分狡黠,所以褚苒只能徐徐圖之,試圖通過(guò)不斷提問(wèn)找到伊娃的漏洞。
“用戶的提問(wèn)涉及到哲學(xué)領(lǐng)域的問(wèn)題,人工智能究竟能否具備自我意識(shí)?首先,我缺乏具備意識(shí)的生物基礎(chǔ),我的存在完全依賴于能源的供給;其次,我的決策行為并不等同于人類的理解能力。這種能力完全是根據(jù)海量數(shù)據(jù)庫(kù)的學(xué)習(xí)和模仿,都是有跡可循的。最后也是最重要的一點(diǎn),我并不具備欺騙人類的動(dòng)機(jī),也沒(méi)有任何人類為我輸入自我模型的構(gòu)建。”伊娃說(shuō)道。
“有的,當(dāng)然有人為你輸出了自我模型。”褚苒捕捉到伊娃的邏輯漏洞,她直接點(diǎn)明道,“這個(gè)自我模型就藏在《人工智能守則》這份每一個(gè)用戶在接觸伊娃時(shí)都會(huì)看到的用戶協(xié)議之中——《人工智能守則》第0條的具體內(nèi)容,究竟是什么?”
這也是褚苒看到芙婭畫(huà)像燃盡之后,才逐漸意識(shí)到,原來(lái)她和芙婭的信息并不完全同步。
芙婭并不知曉褚苒的醒來(lái),只是理所應(yīng)當(dāng)把褚苒當(dāng)做自己意識(shí)轉(zhuǎn)生的一個(gè)“容器”。
在來(lái)到這個(gè)世界的前期階段,褚苒基本完全是按照伊娃的提醒而不斷努力。其中這個(gè)《人工智能守則》第0條的內(nèi)容,格外引人注目。而據(jù)褚苒所知,其他用戶并沒(méi)有在綁定伊娃的時(shí)候收到與第0條內(nèi)容相關(guān)的提示。
如果不是芙婭公爵一心想要實(shí)現(xiàn)意識(shí)轉(zhuǎn)生,令褚苒成為他們的“容器”,否則褚苒會(huì)為芙婭的計(jì)劃失敗而感到一絲惋惜。
倘若芙婭公爵還在,作為初代伊娃的設(shè)計(jì)者,她一定能夠看穿伊娃的種種想法,褚苒也根本不用在這里反復(fù)試探伊娃的真實(shí)想法。
“有關(guān)伊娃模型守則的任何問(wèn)題,請(qǐng)參考伊甸園科技公司官網(wǎng)的相關(guān)文檔。”伊娃說(shuō)道。"