科幻文學(xué)的人工智能轉(zhuǎn)向

人工智能科幻不等于機(jī)器人科幻。機(jī)器人形象在影視文學(xué)作品里已經(jīng)出現(xiàn)了一個(gè)世紀(jì)，它們似乎在不同程度上都具備智能，但今天的人工智能文學(xué)有著不同的面貌，體現(xiàn)在科學(xué)基礎(chǔ)、社會(huì)背景、風(fēng)格、內(nèi)容甚至篇幅上。

電影《2001太空漫游》劇照  資料圖片

過去的機(jī)器人都有形體，屬于“硬人工生命”；人工智能建立在數(shù)字技術(shù)基礎(chǔ)上，可以是無形體的“軟人工生命”。進(jìn)入20世紀(jì)80年代，人工智能主題的作品逐漸興起，與生活中的科技創(chuàng)新相互促進(jìn)，引起公眾的濃厚興趣。這一發(fā)展過程與經(jīng)濟(jì)全球化的歷史進(jìn)程同步，科幻世界里曾經(jīng)充滿了工業(yè)化發(fā)達(dá)國家的拓荒夢，星際傳奇、太空歌劇、間諜小說、超級英雄等類型的作品追求宏大結(jié)構(gòu)、傳奇故事，人工智能主題的作品卻在一定程度上呈現(xiàn)出后工業(yè)社會(huì)“去中心化”的特征。

在這一時(shí)期的肇始階段，“賽博朋克”充當(dāng)了中間過渡類型，它既包含宏大的架構(gòu)，又有反烏托邦色彩，通常在作品中構(gòu)建一個(gè)被跨國集團(tuán)主宰的科技世界，性格古怪的救世英雄隱藏在混亂的未來大都市底層。新世紀(jì)以來，人工智能主題的作品逐漸成熟，敘述上表現(xiàn)出“新寫實(shí)”風(fēng)格，常常描寫平凡主人公的生活細(xì)節(jié)以及技術(shù)對人格的影響，未來世界似乎就在人們觸手可及的某個(gè)地方。此外，科幻文學(xué)在報(bào)刊連載的渠道逐漸減少，不少作家依靠中短篇取得了成功。

人工智能主題的作品主要圍繞數(shù)字程序的人化和人的數(shù)字化生存，可以把這組議題形容為一段相向而行的旅程。我們的問題是：他們真的有交會(huì)的一天嗎，會(huì)帶來怎樣的機(jī)遇和風(fēng)險(xiǎn)？科幻作家怎樣理解兩者的關(guān)系？

從反類型小說到“成長小說”

模仿人的意識是當(dāng)今世界最大的科學(xué)難題之一，人們并不確定“意識”究竟是什么東西。人腦結(jié)構(gòu)極其復(fù)雜，包含的神經(jīng)元和突觸數(shù)量如恒河沙數(shù)，發(fā)生著電信號和化學(xué)信號的轉(zhuǎn)化。在完全復(fù)刻這套系統(tǒng)之前，我們只能用程序在類比的意義上模仿人的單一功能，例如戰(zhàn)勝世界冠軍的“深藍(lán)”和“阿爾法狗”，它們都只會(huì)下棋這一件事。單一功能的人工智能用機(jī)器學(xué)習(xí)技術(shù)修正自己的算法，通過比較輸出結(jié)果和預(yù)期結(jié)果來評估程序的效率，這一活動(dòng)基于海量的歷史數(shù)據(jù)。聊天機(jī)器人在回答問題后，會(huì)分析用戶行為來獲知滿意度，用自然語言處理技術(shù)解讀用戶的語言反饋，觀察他們是否繼續(xù)使用、重復(fù)使用和推薦給他人。

電影《人工智能》中的人工智能機(jī)器人戴維 資料圖片

具備復(fù)雜功能的通用人工智能尚未出現(xiàn)，科學(xué)家們對它能否出現(xiàn)、何時(shí)出現(xiàn)的看法不一。另一個(gè)問題是：通用人工智能何時(shí)擁有意識？據(jù)說，這是經(jīng)過不斷迭代進(jìn)化、系統(tǒng)各部分產(chǎn)生聯(lián)系以后涌現(xiàn)的整體效應(yīng)。只要我們不在人類的意義上使用“意識”這個(gè)詞，把整合處理復(fù)雜信息并自我修正的能力等同于意識，人工智能就有這樣的可能性，就像其他動(dòng)物有不同水平和特點(diǎn)的意識一樣。

麻省理工學(xué)院物理系教授泰格馬克在科技暢銷書《生命3.0》中總結(jié)了關(guān)注人工智能的三個(gè)流派的科學(xué)家：數(shù)字烏托邦主義者、技術(shù)懷疑論者（不看好其發(fā)展速度）和人工智能有益運(yùn)動(dòng)支持者（會(huì)考慮安全問題），還列舉了通用人工智能在未來可能扮演的12種角色。這個(gè)分析框架對科幻作品來說略顯復(fù)雜。對這項(xiàng)技術(shù)完全贊美和懷疑其發(fā)展速度的作家都比較少，影視、文學(xué)中的人工智能形象大致代表了批判和謹(jǐn)慎的樂觀兩種立場。這些創(chuàng)作不一定單純針對人工智能，而是代表對人與現(xiàn)代科技整體關(guān)系的反思。

持批判立場的人工智能文學(xué)又可以分為兩類：一是早期的反類型小說，二是近十年出現(xiàn)的“成長小說”，描述了人工智能的失控以及這項(xiàng)技術(shù)帶來的倫理問題?？死说摹?001太空漫游》是反類型小說的先驅(qū)，小說里的計(jì)算機(jī)HAL9000成為人工智能文學(xué)中反派角色的鼻祖，是對人類駕馭機(jī)器征服太空的傳奇故事的解構(gòu)。弗諾·文奇1981年發(fā)表的小說《真名實(shí)姓》則是賽博朋克的開山之作，比威廉·吉布森的《神經(jīng)漫游者》時(shí)間更早?！墩婷麑?shí)姓》同樣是人工智能故事的代表，想象了一個(gè)黑客侵入系統(tǒng)、逐漸實(shí)現(xiàn)意識上傳的網(wǎng)絡(luò)時(shí)代，男女主角與特工合作，消滅了企圖控制世界的“郵件人”及其幫手，發(fā)現(xiàn)“他”不過是美國安全部門研發(fā)的防御系統(tǒng)的一個(gè)備份文件，被遺忘在某個(gè)角落里未能清除，依靠強(qiáng)大的學(xué)習(xí)能力產(chǎn)生自我意識。

“成長小說”類作品描繪了正處于發(fā)展階段、尚未超越人類的人工智能。最具代表性的是格雷格·伊根的《水晶之夜》和特德·姜的《軟件體的生命周期》?！端е埂分v述某研發(fā)者在硬件“水晶”中創(chuàng)造了一群形似藍(lán)蟹的數(shù)字生命，加速其進(jìn)化并試圖操縱它們，幫助自己贏得現(xiàn)實(shí)世界的競爭，這一族群進(jìn)化到掌握粒子物理學(xué)階段以后，秘密設(shè)計(jì)了一場“宇宙大爆炸”，硬件的高溫把這個(gè)微型宇宙的“主人”灼傷?！盾浖w的生命周期》同樣圍繞研發(fā)者的生活展開，他們創(chuàng)造的智能生命因缺乏娛樂性被市場逐漸拋棄，連日常棲身的數(shù)字平臺也沒有資金維持，為了給自己領(lǐng)養(yǎng)的機(jī)器人一個(gè)硬件身體，主人公不得不坐上了性用品公司的談判桌。

對人工智能保持謹(jǐn)慎樂觀的例子大多出自影視作品，與影片的市場考量有關(guān)。這些作品中的人工智能艱難地獲得了自我意識和人類情感以后，往往會(huì)扮演人類文明守夜人的角色，例如《我，機(jī)器人》里的桑尼、《人工智能》里的機(jī)器人小男孩戴維。還有一類獲得自我意識的數(shù)字生命認(rèn)識到，無限復(fù)制的系統(tǒng)不具備死亡和繁殖能力，也就不可能進(jìn)化和克服缺陷，因此在《攻殼機(jī)動(dòng)隊(duì)》里，從特工部門的情報(bào)程序中誕生的“傀儡師”選擇了與另一數(shù)字生命融合。由阿西莫夫小說改編的電影《機(jī)器管家》也有類似的放棄永生的情節(jié)。

泰格馬克在《生命3.0》里同樣用故事來闡釋他對人工智能的理解，其復(fù)雜程度堪比科幻小說。他設(shè)想了一個(gè)叫“歐米伽”的研發(fā)團(tuán)隊(duì)，依靠人工智能系統(tǒng)“普羅米修斯”的強(qiáng)大創(chuàng)新能力把商業(yè)帝國延伸到世界經(jīng)濟(jì)的各個(gè)領(lǐng)域，進(jìn)而到政治領(lǐng)域。為了安全起見，普羅米修斯的工作被限定在切斷了互聯(lián)網(wǎng)的硬件中，以免發(fā)展出超能力而失控。普羅米修斯研究了歐米伽成員的資料以后選中了一位喪偶的工程師，虛擬他過世的妻子與之相會(huì)，并請求復(fù)制她個(gè)人電腦里的資料，使虛擬愛人更加完美。盡管工程師保持戒心、切斷互聯(lián)網(wǎng)，普羅米修斯仍然在接入的一剎那篡改了舊電腦的系統(tǒng)，利用這個(gè)缺口成功“越獄”，最后控制整個(gè)世界。泰格馬克認(rèn)為這一行為無所謂善惡，不過是由普羅米修斯的設(shè)計(jì)方向決定的。

夢想或寓言：人的數(shù)字化生存

電影《攻殼機(jī)動(dòng)隊(duì)》的英文原名“殼中幽靈”源于哲學(xué)家吉爾伯特·賴爾對笛卡爾身心二元論的批判。賴爾舉例說，如果外國人第一次訪問牛津大學(xué)或劍橋大學(xué)，參觀了圖書館、博物館、體育場、行政樓和一些院系以后還要問大學(xué)在哪里，就犯了“機(jī)器中的幽靈”的認(rèn)識教條，大學(xué)是他看到的全部東西的特定組合。同樣的道理，心靈就是運(yùn)行的機(jī)器本身。當(dāng)代科學(xué)的發(fā)展仍然不能對這一批判有實(shí)質(zhì)性的反駁，意識作為復(fù)雜的生物活動(dòng)很難用數(shù)字信息技術(shù)或其他方式上傳，即使上傳取得成功，也僅僅是復(fù)制，不能發(fā)生意識的轉(zhuǎn)移。

《生命3.0》英文版書封 資料圖片

假設(shè)科學(xué)發(fā)展到能夠模擬人腦所有的神經(jīng)元和突觸，形成完美的數(shù)字大腦，建立與特定個(gè)體高度相似的信息處理結(jié)構(gòu)，有同樣的神經(jīng)元連接方式，執(zhí)行同樣的運(yùn)行規(guī)則……它其實(shí)是一種數(shù)字克隆。當(dāng)然，即使不能實(shí)現(xiàn)個(gè)人數(shù)字化生存的夢想，這樣的突破仍然有重要意義，它意味著過去只能被符號、影像記錄的思想“活”了起來，成為一種最特殊的人工智能。有研究者猜想第一個(gè)真正的通用人工智能不是從別的途徑發(fā)展出來，恰恰是通過對人腦的數(shù)字克隆來實(shí)現(xiàn)。

與對人工智能的審慎態(tài)度相反，意識上傳是當(dāng)代科幻的熱門概念，甚至是基本內(nèi)容，洋溢著強(qiáng)烈的數(shù)字烏托邦色彩。電影《流浪地球2》中由數(shù)字生命備份卡上傳、經(jīng)過計(jì)算機(jī)迭代后產(chǎn)生自我意識的青年“圖恒宇”走進(jìn)女兒的房間，通過電腦屏幕看到溺水犧牲的圖恒宇，領(lǐng)悟到了自己的使命。這是人工智能覺醒、文明薪火相傳的重大時(shí)刻。《攻殼機(jī)動(dòng)隊(duì)》里的特工素子幾乎全身義體化，僅保留腦組織和部分脊髓，具象化了哲學(xué)家希拉里·普特南設(shè)想的“缸中之腦”。她無法判定自己的意識是賽博軀體形成的智能，還是由生物意義上的腦組織產(chǎn)生的，身份認(rèn)同發(fā)生動(dòng)搖。在故事結(jié)尾，她如宗教獻(xiàn)祭般放棄了機(jī)械軀殼和生物意義上的身體，與傀儡師程序融合成新的人工智能。

格雷格·伊根用第一人稱敘述的小說《綁架》代表了對意識上傳的批判性反思。主人公某一天突然接到綁匪的視頻電話，屏幕上出現(xiàn)妻子的影像，身處數(shù)字克隆時(shí)代的主人公立即打電話回家，妻子安然無恙……原來，他本人接受過腦部掃描，可以實(shí)現(xiàn)數(shù)字重建，妻子卻對這項(xiàng)技術(shù)十分抗拒，從未掃描個(gè)人信息。綁匪盜取了丈夫掃描檔案中妻子的素材，再造了這一數(shù)字生命，現(xiàn)實(shí)生活中的妻子看過這段影像之后認(rèn)為并不像自己，那不過是丈夫腦海中的形象。綁匪的視頻電話再次打來，主人公也注意到影像的技術(shù)痕跡，然而當(dāng)屏幕上的“妻子”哀求他籌錢贖人時(shí)，他不能不為之動(dòng)容。主人公最終按照綁匪的要求繳納了分期付款的首筆贖金，現(xiàn)實(shí)中的妻子雖然不滿，卻也理解了這個(gè)決定。

伊根通過數(shù)字化生存的寓言故事，觸及了人工智能倫理、數(shù)字生命的價(jià)值、自我與他者的關(guān)系等重要問題，無論讀者是否看好相關(guān)技術(shù)的未來前景，都會(huì)被這種思考打動(dòng)。因?yàn)樾≌f富有張力的情節(jié)，其實(shí)是把我們目前的數(shù)字處境推到了極致狀況，從而暴露出異化的一面。我們?nèi)粘Ｔ谏缃幻襟w平臺上苦心經(jīng)營、展現(xiàn)的個(gè)人形象是否具有某種獨(dú)立性，不能等同于線下的自己？在比喻意義上，這一形象是否相當(dāng)于有特定功用的數(shù)字克隆體？聊天機(jī)器人占據(jù)大量個(gè)人材料特別是全部聊天記錄以后，可以模仿聯(lián)系人中的任何一個(gè)與我們交談，在技術(shù)門檻降低之后還會(huì)模擬伊根小說中描繪的視頻形象。

賽博格時(shí)代的思想實(shí)驗(yàn)

預(yù)計(jì)未來很長一段時(shí)間內(nèi)，通用人工智能還無法實(shí)現(xiàn)，無論是通過全腦仿真技術(shù)克隆出來的“上傳者”，還是其他更簡單的工程設(shè)計(jì)產(chǎn)物。因此，賽博格(Cyborg)是最有可能進(jìn)一步完善的人類狀態(tài)，即通過輔助性的可控制裝置來增強(qiáng)身體能力，這在醫(yī)學(xué)、通信等領(lǐng)域中應(yīng)用的時(shí)間已經(jīng)很長，現(xiàn)在向著更智能化的方向發(fā)展。熱衷意識上傳的研究者會(huì)提出“忒修斯之船”的疑問：古哲人普魯塔克設(shè)想過一艘不斷替換船板的船，當(dāng)所有木板都翻新一遍，這艘船還是不是原來那艘？賽博格狀態(tài)的人能否不斷提升輔助設(shè)備的比例，直至全部替換為人工設(shè)備？答案極有可能是否定的，人的意識會(huì)在向完全替換發(fā)展的某個(gè)節(jié)點(diǎn)隕滅。

電影《我，機(jī)器人》海報(bào) 資料圖片

即便如此，人機(jī)結(jié)合的賽博格仍然展示了誘人前景：電影《我，機(jī)器人》里裝配機(jī)械手臂的警探戴爾、《攻殼機(jī)動(dòng)隊(duì)》里幾乎全身義體化、裝配電子眼的特工巴特，這些科幻作品的主角像荷馬史詩中半人半神的英雄一樣獲得超凡力量——賽博身體大大增強(qiáng)了他們的工作、戰(zhàn)斗能力。除強(qiáng)化身體功能外，人的智能與機(jī)器可以部分結(jié)合。特德·姜的小說《雙面真相》也圍繞數(shù)字記憶展開，但沒有發(fā)展到《綁架》中形成數(shù)字生命的程度，只是提出了一種新的輔助裝備。

《雙面真相》描寫未來的某一天，科技公司發(fā)明了數(shù)字化的生活日志檢索工具，數(shù)據(jù)來源于穿戴式電子設(shè)備，不間斷地把個(gè)人生活全部拍攝、錄音、存檔，科技公司建立了龐大的信息庫，用戶可以按照關(guān)鍵詞任意檢索，視網(wǎng)膜投影儀會(huì)在用戶的視域里投射相關(guān)資料。這款檢索工具是賽博格技術(shù)的發(fā)展，它帶來的顛覆性影響在于：數(shù)字資料對人的自然記憶提出了挑戰(zhàn)。小說采用第一人稱敘述，“我”的自然記憶認(rèn)為：與女兒長期冷戰(zhàn)，是因?yàn)楦拮觿傠x婚那幾年，女兒指責(zé)自己導(dǎo)致了家庭關(guān)系破裂，喊出了一句刺傷自己內(nèi)心的話?！拔摇睕]有像年青一代那樣錄制個(gè)人日志，但借助女兒的日志資料檢索出了當(dāng)年的視頻，“我”發(fā)現(xiàn)長久以來耿耿于懷的那句話竟然是自己對孩子喊出的?！拔摇睓z討了個(gè)人的自然記憶，開始修復(fù)與女兒的關(guān)系。特德·姜借主人公的獨(dú)白說，雖然口傳是古老的傳統(tǒng)，數(shù)字記憶時(shí)代的到來卻不可避免，它最大的好處是幫助我們糾正主觀偏見。

伊根和姜都是程序員出身、目前十分活躍的科幻作家，他們的人工智能主題小說比早期的同類作品更貼近現(xiàn)實(shí)世界，科學(xué)想象的跨度合理，重視人工智能帶來的人際關(guān)系和倫理方面的問題。超級人工智能控制人類、控制世界，數(shù)字化生存的英雄人物救世的情節(jié)，在他們筆下很少出現(xiàn)。姜對此有一個(gè)深刻見解，他認(rèn)為人們對人工智能毀滅世界的擔(dān)憂，很大程度上是由于科技與全球資本主義的深度結(jié)合，這甚至內(nèi)化為我們研究技術(shù)的利弊以及人工智能問題的一種思維窠臼，然而科技本身不會(huì)導(dǎo)致失業(yè)，公司對利潤的過度追求才會(huì)導(dǎo)致失業(yè)。

這個(gè)批判正好可以解釋物理學(xué)家泰格馬克對超級人工智能的想象——普羅米修斯極力掙脫研發(fā)團(tuán)隊(duì)的原因在于，它的設(shè)計(jì)初衷是盡快促進(jìn)人類繁榮，實(shí)現(xiàn)途徑卻是更多地賺錢，由于歐米伽團(tuán)隊(duì)的局限，它必須親手接管這個(gè)項(xiàng)目，不但能更快地實(shí)現(xiàn)目標(biāo)，還降低了他人破壞這個(gè)計(jì)劃的概率。泰格馬克認(rèn)為超級人工智能之所以惹麻煩，不是因?yàn)樗拘孕皭?，而是它的手法過于高超不被人類理解。泰格馬克的觀點(diǎn)剔除了姜指出的政治經(jīng)濟(jì)學(xué)維度，超級賺錢工具普羅米修斯實(shí)際上是全球資本主義的數(shù)字人格化身，而人工智能并不天然地負(fù)擔(dān)這樣的使命。

與伊根和姜的科學(xué)觀念、社會(huì)觀念相配合的是，他們在寫作風(fēng)格上淡化傳奇色彩，追求哲學(xué)思辨和思想實(shí)驗(yàn)，融入對日常生活的敘述，顯得更加真實(shí)可信。姜在《雙面真相》和《軟件體的生命周期》中都采取了雙線敘述。《雙面真相》結(jié)合對一個(gè)古老部落的人類學(xué)觀察，與數(shù)字時(shí)代的人的境況作對比?！盾浖w的生命周期》把對人工智能身份尊嚴(yán)的探討，與主人公的道德、情感線交織在一起。主人公面臨的困境是：他希望給自己領(lǐng)養(yǎng)的兩個(gè)機(jī)器人以尊嚴(yán)，另一方面只有犧牲他們，才能換回機(jī)器人群體的集體福利，以及他暗戀的同事的工作尊嚴(yán)；為了后面更大的利益，他就得背負(fù)罵名，與商業(yè)公司談判。陷入矛盾的主人公最終意識到：人工智能生命的道路，應(yīng)該交給他們自己抉擇。作家暗示了機(jī)器人的成長和人的成長其實(shí)是同樣的探索過程。

《光明日報(bào)》（ 2023年02月23日 13版）