“等等!”司妍喊住他,眼鏡男轉(zhuǎn)回頭,她定神道:“你們不能這樣消除他。”
“司小姐。”眼鏡男又推了推眼鏡,“站在游戲設(shè)計方的角度,我們理解您身為玩家,在與npc相處的過程中會產(chǎn)生情緒波動和相應(yīng)情感。但還是想請您認識到,他其實不是一個人而是一組程序,由代碼和原畫師制定的形象為基本構(gòu)成,即便您認為他是一個活人,他也并不……”
“很抱歉我要打斷您一下。”司妍截斷了他的話,她深吸了一口氣,在心里提醒自己今天的妝有朝氣且能讓人看起來充滿自信。
那她最好表現(xiàn)得也自信點。
“我沒有從事過相關(guān)的專業(yè)工作,您所做的技術(shù)解釋我不懂,但我愿意相信并尊重您的說法。”她說著看了眼倒在地上依舊被藍光纏繞,臉色慘白的愈發(fā)厲害的jack,竭力不許自己亂陣腳。
她的目光從眼鏡男面上離開,看向先前與她握手的女人,聲音提高了兩分:“但我不贊同你們的做法,也不是因為技術(shù)層面的問題,而是倫理問題。”
職業(yè)裝的女人眉心微蹙。
“你們因為人工智能發(fā)展超過預期的問題而要消除他,又解釋說他只是一組數(shù)據(jù),而不是一個人,但在我看來這是兩個相悖的概念。”司妍腦中思緒飛轉(zhuǎn),醞釀出了昔日在微博上與人辯論的情緒,“人會被尊重不是因為我們具有怎樣的軀體,而是因為我們有感情、有自主意識,又高于地球上其他生物的智商、情商,我們在上萬年的進化過程中脫離了動物本身的野性,在法律和道德的雙重約束下一步步構(gòu)建了現(xiàn)在的社會秩序,人類社會判斷‘王者’的方法也早已不同于大多數(shù)動物采用的以肉搏決定勝負,我們拼的是大腦的力量。”
職業(yè)裝的女人和善地笑了笑:“您依舊是把他定義為一個‘人’來與我爭辯。”
“不,并不是,您聽我說。”司妍挺了挺身子,“我想說的是,如果人工智能在發(fā)展到與我們一樣具有智商、情商,甚至道德感的時候,那他們除了軀體以外,就已經(jīng)和我們沒有其他不同之處了。他們與我們的內(nèi)在已經(jīng)達到相同水準,我們甚至可以完全把他們視作同類進行平等交流時,我們再隨意對他們進行銷毀,是不是有位倫理道德?”
“……”對方被她說得滯了一會兒,道,“我們創(chuàng)造了他們。”
“就像父母創(chuàng)造了孩子?”司妍方才就在等她這句話,如料聽到后不禁勾起一笑,“父母有權(quán)在不理會孩子個人意愿的前提下對其進行打殺嗎?您應(yīng)該清楚這是違法的!”
職業(yè)裝的女人長緩了一息,而后她好似意識到自己被司妍繞進去了,便看向眼鏡男。
眼鏡男再一次做了標志性的扶眼鏡動作后,接過話茬:“我知道您認為技術(shù)層面的事情對于這件事的判斷不重要,但是還是要從技術(shù)方面來給您解釋一下。”
司妍微笑頷首:“您說。”
“我們,是人類;他,是人工智能。”他邊打著比劃邊誠懇道,“這是最基本的區(qū)別。我們的感情是真正的感情,我們的智商情商是真正的智商情商。而他們的所謂感情與智商情商,都是程序計算的結(jié)果——換之,那其實只是一套又一套公式推進出的東西,并不是您所以為的‘與我們的內(nèi)在達到相同水準’。”
“并不是嗎?”司妍用一種“這很有趣”的目光凝視著他,“請問您有相關(guān)研究成果用以論證基因、染色體、神經(jīng)、激素所促成的感情及智商情商比代碼、程序、公式推進出的更高尚、更值得尊敬嗎?”
“……”眼鏡男卡殼。
“你們看看他!”司妍伸手指向一旁跌在地上的jack,自己卻不敢再看他,“他不止有自己的情緒,他甚至和我們一樣會疼的好嗎?現(xiàn)在你們說銷毀就銷毀,這和殺人有什么區(qū)別?即便當下沒有法律會制裁這種情況,但你們良心上過得去嗎?!”
她終于有點克制不住地激動起來,職業(yè)裝的女人定氣道:“calmdown,司小姐。”
司妍再度看向她。
“我認可您說的每一句話,但是我還是希望……您能從內(nèi)測玩家的角度為公司想想,或者,請從人類的角度為真正的同類想想。”她掃了眼在電光中掙扎的jack一瞬便把目光挪回司妍面上,“從人工智能開始研發(fā)的那天起,可能出現(xiàn)的風險就一直令人不敢小覷。根據(jù)現(xiàn)在業(yè)內(nèi)達成的共識,我們不能讓人工智能超出控制范圍,否則那可能很危險,我們也無法預測超出控制的人工智能程序會做出什么殘酷的事情。”
“遠了我不敢說,但一時半會兒的,大概沒有什么會比我們?nèi)祟惛鼩埧崃恕!彼惧酒鹈碱^,平靜地吁了口氣,“我們能解決很多原本看似無解的問題,我們樂于探索未知領(lǐng)域。但當我們自認為對一樣東西擁有主宰權(quán)的時候,我們的控制欲就會壓過求知欲。”
“您這是什么話……”
“就事論事,女士。”司妍冷然垂眸,“貴司能成功地將vr與人工智能進行完美結(jié)合,開發(fā)出這樣的游戲,但在人工智能出現(xiàn)問題的時候,你們的研究時間連24小時都不到,就決定進行消除了。這大約不是因為實在沒有其他途徑解決難題,而是因為直接消除看起來更簡單,且更能體現(xiàn)游戲開發(fā)者在游戲中的絕對權(quán)力吧?”
很多時候都是這樣,對事情有絕對權(quán)力的一方會用更簡單粗暴、且更能昭示權(quán)力的方式解決問題,或許他們在主觀想法上并不這么認為,但這些因素或多或少是起了客觀作用的。
至于在消除這樣一個類人的npc的過程中,是否會讓圍觀的人類享受到快|感……司妍克制住自己不往這個層面上多想。這種享受血腥與壓制感的野性雖然是動物本能,但是太殘酷了,她寧可說服自己相信人類現(xiàn)在已經(jīng)擺脫了這種“享受”。
任由氛圍僵持了一會兒之后,司妍說了自己最終的想法:“我作為玩家,不能阻擋你們消除他。但你們?nèi)绻鲞@件事之前,最好確定我永遠不會在現(xiàn)實世界醒過來。”
“否則我一定會把他當一條人命記住,醒來后必定發(fā)到網(wǎng)上。我相信這種事情會有很多人去關(guān)注、去爭論,有關(guān)部門或許也會覺得應(yīng)該做些什么。”司妍微抬著下巴平靜道,“你們做決定吧。”