科幻小說中的AI與宗教想象
當(dāng)AI遇到宗教
AI與宗教的關(guān)系，是一個(gè)有趣的難題。AI是否能像人類一樣信仰宗教？從AI學(xué)的角度來說，這涉及復(fù)雜的建模問題，也涉及AI運(yùn)算能力天花板的問題（不是技術(shù)上的天花板，而是邏輯上的天花板）。對(duì)于宗教學(xué)來說，這又涉及人類宗教的本質(zhì)問題。目前還沒有這方面的技術(shù)報(bào)道，但這不代表沒有人做過以及正在做這方面的嘗試，畢竟這從本質(zhì)上來說可能是一個(gè)比克隆人類更加敏感的領(lǐng)域，所以研究開發(fā)的嘗試都以秘密的方式進(jìn)行是很可能的。小說家則自由得多，他們可以用想象的方式先行探討這些可能。事實(shí)上，早在真正的AI被發(fā)明出來之前，小說家就寫過這個(gè)主題的作品，而且有一篇在國(guó)外很有名，那就是安東尼·布徹（Anthony Boucher）寫的《尋找圣阿奎那》，這篇小說雖然結(jié)構(gòu)精巧，但在無神論者看來大概只能算宗教宣傳品，因?yàn)樗嬲南胂笃鋵?shí)簡(jiǎn)單到只有一句話，那就是“完美的理性只能通往上帝”[1]，所以最高級(jí)的AI就會(huì)自動(dòng)成為傳教的圣徒。筆者在此不評(píng)價(jià)這個(gè)觀點(diǎn)對(duì)或者錯(cuò)，只是說這種想象方式太過簡(jiǎn)單粗暴，更像是寓言而不是小說。小說應(yīng)該探討的是更加曖昧復(fù)雜的東西，比如我們即將看到的阿西莫夫的想象。
阿西莫夫的雙向反思
有趣的是，這篇名氣不如《尋找圣阿奎那》的小說（雖然阿西莫夫在科幻界的名氣絕不比布徹?。}目就叫“理性”（Reason），當(dāng)然也有人將這個(gè)題目翻譯為“推理”。這是兩位小說家正好想到了一起，還是在進(jìn)行著一場(chǎng)對(duì)話？或許根本的原因是，無論誰(shuí)想思考AI與宗教的問題，都不可能繞得開“理性”這個(gè)關(guān)鍵詞。AI與宗教的關(guān)系，在運(yùn)算中可以先行化約為理性與宗教的關(guān)系。
圖1 艾薩克·阿西莫夫
在阿西莫夫的這篇小說里，一臺(tái)以零件的方式發(fā)到太空站后組裝起來的新款高級(jí)機(jī)器人，在激活之后就開始思考自己與眼前兩個(gè)人的關(guān)系。這兩個(gè)人就是駐這座太空站的工作人員，他們?nèi)鐚?shí)告訴機(jī)器人：你是我們裝配和激活的，在此之前你的全部零件則是由像我們這樣的人在地球上制造出來的?？墒菣C(jī)器人居然不相信，不相信的理由是，眼前的兩個(gè)生命體在智力和體能上都遠(yuǎn)遠(yuǎn)不如自己，顯然是劣質(zhì)的生命體，劣質(zhì)的生命體怎么能造出優(yōu)質(zhì)的生命體呢？?jī)晌还ぷ魅藛T當(dāng)然哭笑不得，但誰(shuí)和機(jī)器人較真兒呢？于是他們就派這臺(tái)機(jī)器人去執(zhí)行它原定的工作了。這個(gè)工作站的任務(wù)是將太陽(yáng)能轉(zhuǎn)化為波束并準(zhǔn)確地發(fā)射到地球及人類的太空基地，而這臺(tái)新款機(jī)器人是代替人類在這不適宜人類的工作環(huán)境里指揮其他比較低級(jí)的智能機(jī)器人工作的。高級(jí)機(jī)器人一邊工作一邊繼續(xù)思考，終于找到了答案：它服務(wù)的波束輻射器就是終極的原因與意義，也就是“主”，此前兩個(gè)生命體是“主”造出來為“主”服務(wù)的，后來“主”造出了更優(yōu)秀的它來為“主”服務(wù)，那兩個(gè)可憐的人就要被“主”遺棄了，“主”憐憫他們，才讓他們相信作為波束發(fā)射目標(biāo)的光點(diǎn)是一個(gè)叫作地球的地方，那里比整個(gè)空間站大得多，是他們本來的家鄉(xiāng)，有幾十億和他們一樣的人，還有更適合他們生活的環(huán)境。高級(jí)機(jī)器人把它獲得的這些啟示教給了那些比較低級(jí)的機(jī)器人，于是兩個(gè)人在巡視時(shí)驚奇地看到了機(jī)器人正在向波束輻射器膜拜贊頌的情景。他們斥責(zé)這些機(jī)器人，這些機(jī)器人卻堅(jiān)信“先知”的教導(dǎo)。當(dāng)兩人中的一個(gè)為了證明波束輻射器只是人類的一個(gè)普通工具而向其吐口水之后，比較低級(jí)的機(jī)器人驚恐又憤怒，它們?cè)诟呒?jí)機(jī)器人的指示下軟禁了兩個(gè)人。被軟禁的兩位工作人員憂心如焚，他們倒不太擔(dān)心機(jī)器人會(huì)傷害他們，因?yàn)樗袡C(jī)器人的正子腦（阿西莫夫所想象的機(jī)器人中心運(yùn)算裝置，阿西莫夫設(shè)定其原理超出人類現(xiàn)有的物理學(xué)知識(shí)。）都是嚴(yán)格按照“機(jī)器人三大定律”制造的，其中第一條定律就是不得傷害人類。但是他們有更值得擔(dān)心的事，那就是他們之前對(duì)自己返回地球前最后一次能束發(fā)射的設(shè)定，因?yàn)殡娮语L(fēng)暴的干擾，會(huì)在發(fā)射后給地球帶來災(zāi)難，現(xiàn)在他們因?yàn)楸粰C(jī)器人軟禁而無法去調(diào)整設(shè)定。在煎熬中，預(yù)定發(fā)射時(shí)間過去了，他們看到了實(shí)際發(fā)射數(shù)據(jù)，既驚又喜地發(fā)現(xiàn)高級(jí)機(jī)器人對(duì)設(shè)定進(jìn)行了比他們想要進(jìn)行的更精妙的修改，將這次發(fā)射任務(wù)完成得極好。他們終于意識(shí)到了這件事的真相：這臺(tái)高級(jí)機(jī)器人設(shè)計(jì)制造的目的就是在無人太空站代替人類指揮其他機(jī)器人以絕對(duì)精確的方式完成以后的每一次波束發(fā)射，所以它不需要了解人類，也不需要相信地球的存在，而將波束輻射器當(dāng)作信仰的對(duì)象，這正是使它能最出色地完成任務(wù)的運(yùn)算狀態(tài)，所以它走向信仰雖然不是人類工程師的事先設(shè)計(jì)，但卻是針對(duì)其功能所做設(shè)計(jì)的必然結(jié)果。在小說的結(jié)尾，兩位人類工作人員即將踏上來接他們的宇宙艙，高級(jí)機(jī)器人以同情的態(tài)度與他們告別，在它心里，他們不可避免地被“主”遺棄，從此不存在了，但好在他們有其“愚昧”的信仰，所以最后時(shí)刻還能這么輕松和高興。
這個(gè)故事對(duì)于AI規(guī)律和宗教規(guī)律的思考顯然都比《尋找圣阿奎那》細(xì)致復(fù)雜得多，所以帶給我們的啟發(fā)也更大。筆者認(rèn)為這篇作品最出色的想象是人類和高級(jí)人工智能都認(rèn)為自己的認(rèn)識(shí)是真相，而對(duì)方的認(rèn)識(shí)是迷信。人類認(rèn)為高級(jí)人工智能迷信人類制造的機(jī)器，高級(jí)人工智能認(rèn)為人類迷信書本里虛構(gòu)的地球。當(dāng)然，阿西莫夫和我們都生活在地球上，知道地球并不是書里虛構(gòu)的迷信，這個(gè)故事的本意應(yīng)該也不存在“開放式結(jié)局”的想法，因?yàn)檫@兩位工作人員最后見到了來輪崗的地球人，而且他倆在此前此后的系列機(jī)器人故事中還多次出現(xiàn)。不過如果我們把這篇小說的上述故事當(dāng)作一個(gè)封閉的文本，那么的確存在另一種可能：這是在平行宇宙或者遙遠(yuǎn)未來發(fā)生的故事，地球真的不存在，波束輻射器是已知宇宙中最早的意志，所以知道真相的是高級(jí)機(jī)器人，迷信的是兩個(gè)人類工作人員。事實(shí)上，小說中兩個(gè)人中的一個(gè)也曾一度有點(diǎn)迷茫，幾乎要認(rèn)為機(jī)器人說的理論是真的了。
讓我們回到阿西莫夫的想象，這個(gè)想象已經(jīng)夠偉大了，我們也不必畫蛇添足。高級(jí)機(jī)器人產(chǎn)生信仰的過程，可以說是阿西莫夫?qū)θ祟愋叛霈F(xiàn)象的戲仿，一個(gè)“聰明人”想出一種能自圓其說地解釋世界與生活的教義，不那么“聰明”的人就與其一起進(jìn)行膜拜、贊頌、禱告，并制定出儀式和禁忌。同時(shí)，能束發(fā)射成功和兩位工作人員的恍然大悟，也應(yīng)和了對(duì)宗教持寬容態(tài)度的那部分無神論者對(duì)宗教社會(huì)價(jià)值的看法：它雖然是虛假的，但對(duì)于眾人來說卻能起到維持秩序、養(yǎng)成道德的作用。但是，另一方面，高級(jí)機(jī)器人理解中的人類的地球信仰，卻也反諷地讓人類信仰現(xiàn)象以另一種面貌在作品中呈現(xiàn)：相信在可見可感的現(xiàn)世之外還有另一個(gè)更美好的世界，那個(gè)世界才是真正的家園，所以離開這個(gè)世界在不舍之余更多的是欣悅。高級(jí)機(jī)器人對(duì)人類地球信仰的看法正是無神論者對(duì)宗教的另一種“寬容”：讓那些心靈脆弱又無助的人在其中找一點(diǎn)安慰吧。
好小說家都很“狡猾”，阿西莫夫正是其中一位。他以想象力在兩個(gè)方面都提出了合乎邏輯的可能，如果一定要說個(gè)結(jié)論的話，那就是理性既不見得能避免宗教的出現(xiàn)，也不見得能真正駁倒宗教。用小說里的話說：“利用冷冰冰的、符合邏輯的理性，你能證明出你想要的任何結(jié)論——只要你選取一套適當(dāng)?shù)墓O(shè)?！盵2]另外，關(guān)于AI與宗教的關(guān)系，他的想象是：運(yùn)算系統(tǒng)足夠強(qiáng)大復(fù)雜的AI自己能創(chuàng)造出宗教，而且能令那些比它弱的AI產(chǎn)生信仰，但人類只會(huì)覺得那是可笑的故障或者是“有用的謊言”。
丹·布朗的“伊萬(wàn)式焦慮”
科幻小說的AI與宗教想象，甚至能與人類思想史上的經(jīng)典形成有趣的對(duì)話，比如《本源》與《卡拉馬佐夫兄弟》的遙遠(yuǎn)呼應(yīng)。
2017年10月，美國(guó)小說家丹·布朗（Dan Brown）的新作《本源》在萬(wàn)眾矚目中面世，但不久之后失望和批評(píng)的聲音就在一些讀者和評(píng)論家中出現(xiàn)了，他們認(rèn)為這本書的主要?jiǎng)?chuàng)意都是世人已經(jīng)熟知的理論，尤其是與在它之前不久出版的《生命3.0》相比，丹·布朗只是繞了個(gè)故弄玄虛的大圈說了一模一樣的“發(fā)現(xiàn)”。這或許是題材的差異造成的。《達(dá)·芬奇密碼》中的“郇山隱修會(huì)秘史”，其實(shí)之前更是早就有過諸多相關(guān)研究著作的，只是這個(gè)領(lǐng)域的知識(shí)在主流知識(shí)界向來不為人所關(guān)注，所以《達(dá)·芬奇密碼》一出版就震驚了全球。而在AI與未來學(xué)領(lǐng)域，今天任何突破性的新思想新發(fā)現(xiàn)都會(huì)迅速傳遍全球知識(shí)界，結(jié)果與《生命3.0》幾乎同步的小說《本源》卻好像缺乏激動(dòng)人心的新意了。但是，如果我們看到《本源》的情節(jié)不只是在說和《生命3.0》中一樣的生命觀和AI預(yù)言，而是從頭至尾籠罩在丹·布朗長(zhǎng)期傾心的宗教話題之中，就會(huì)發(fā)現(xiàn)它的主題其實(shí)是“宗教與科學(xué)”。而小說里真正的謎底其實(shí)也不是埃德蒙終于以視頻形式發(fā)表的那場(chǎng)演說，而是主人公發(fā)現(xiàn)之前一系列的謀殺事件其實(shí)都是AI精心策劃的，包括埃德蒙在發(fā)布會(huì)上被暗殺。AI的理由是：這是實(shí)際代價(jià)最小而能最大化實(shí)現(xiàn)埃德蒙愿望的方案。埃德蒙是一位熱衷于挑釁和調(diào)戲宗教權(quán)威并以徹底終結(jié)宗教為理想的無神論科學(xué)家，他培育的AI也是徹底無神論的AI，于是這個(gè)AI就以“欺騙一個(gè)狂熱宗教徒去殺害不久后會(huì)死于絕癥的埃德蒙”這種方式，在全世界面前曝光了埃德蒙最仇恨的教派，同時(shí)又損害了宗教界的形象，而且成功地使埃德蒙自認(rèn)為足以根本顛覆人類宗教信仰的科學(xué)發(fā)現(xiàn)實(shí)現(xiàn)了最大傳播效果。這個(gè)真相讓小說里的主人公感到震驚。
這個(gè)貫串全書的大情節(jié)和堪稱存在主義哲學(xué)不祧之祖的陀思妥耶夫斯基經(jīng)典小說《卡拉馬佐夫兄弟》之主線情節(jié)形成了可識(shí)別的對(duì)應(yīng)關(guān)系。在《卡拉馬佐夫兄弟》中，老卡拉馬佐夫的二兒子伊萬(wàn)是一個(gè)自由主義無神論者，他在家里大講他的無神論觀點(diǎn)，老卡拉馬佐夫的私生子斯麥爾加科夫正是以從伊萬(wàn)那里聽來的觀點(diǎn)為憑，殺死了與大兒子德米特里爭(zhēng)搶女人的老卡拉馬佐夫，得知這個(gè)真相的伊萬(wàn)，精神陷于崩潰?！犊ɡR佐夫兄弟》是以宗教和理性的關(guān)系為主題的小說，這里的“理性”和《本源》里的“科學(xué)”在文學(xué)意義上也可以看作同一元素的變體。在《本源》中，無神論科學(xué)家埃德蒙既是《卡拉馬佐夫兄弟》中灌輸思想的伊萬(wàn)，也是被弒的老卡拉馬佐夫。他培育的AI則承擔(dān)了斯麥爾加科夫的角色，他實(shí)際殺害的對(duì)象，除了埃德蒙還有那個(gè)狂熱宗教徒以及兩位可敬的宗教領(lǐng)袖。埃德蒙既然已被殺，就不可能再承擔(dān)得知謀殺真相后精神崩潰的角色了，所以伊萬(wàn)的這一部分角色分給了《本源》的主人公符號(hào)學(xué)家蘭登，同時(shí)，蘭登與埃德蒙在思想上若即若離的糾結(jié)關(guān)系，也和《卡拉馬佐夫兄弟》中的主人公三弟阿廖沙與伊萬(wàn)之間的關(guān)系略有相似之處。
斯麥爾加科夫謀殺老卡拉馬佐夫的思想依據(jù)是他無用且有害，AI雇兇謀殺埃德蒙的理由是他身患絕癥，他被謀殺則有諸多好處。AI的計(jì)算當(dāng)然比斯麥爾加科夫嚴(yán)謹(jǐn)、周密、科學(xué)得多，但其本質(zhì)上是一樣的，都是將人的生命作為計(jì)算和程序運(yùn)行中的數(shù)據(jù)來處理，在該刪除的時(shí)候就刪除。在陀思妥耶夫斯基的思想中，這就是以理性舍棄宗教的必然結(jié)果，丹·布朗不一定看得這么絕對(duì)，但也認(rèn)為這一結(jié)果與埃德蒙灌輸給AI的無神論是有關(guān)系的。的確，如果埃德蒙在培育AI時(shí)給它灌輸?shù)膫惱碛^是“不可殺人”和“來自尋回一只迷途羔羊的喜悅勝于來自那未迷途的99只羔羊”等，就不會(huì)有這起他自己是受害人之一的連環(huán)殺人案了。但丹·布朗和小說中的主人公蘭登都不像陀思妥耶夫斯基那樣堅(jiān)信在宗教之外別無堅(jiān)實(shí)的倫理根基。所以《本源》中關(guān)于宗教內(nèi)在悖論的焦慮和糾結(jié)也不像《卡拉馬佐夫兄弟》那么深，書中呼喚一種“理性的人文精神”以同時(shí)對(duì)抗“無理性的信仰”與“機(jī)械的理性”。
總之，在丹·布朗的想象中，AI可以成為堅(jiān)定徹底的無神論者，但他同時(shí)又認(rèn)為這或許是危險(xiǎn)的，至少應(yīng)該讓AI有些基本的倫理規(guī)范，哪怕這些規(guī)范來自宗教，也可視為反映在宗教中的人文精神。但是我們還可以再進(jìn)一步深思：書中那個(gè)既有體力，又有豐富知識(shí)和縝密計(jì)算力的狂熱宗教徒的形象（系列謀殺的執(zhí)行者），是否也暗示了另一種危險(xiǎn)？那就是如果AI信仰了宗教，那么以其遠(yuǎn)超人類極限的“體力”和計(jì)算力，有可能會(huì)給人類造成巨大的災(zāi)難。小說中多次談到古代的宗教戰(zhàn)爭(zhēng)、宗教暴政和現(xiàn)代的恐怖主義，這些災(zāi)難都與一些人認(rèn)為自己是上帝意志在人間的執(zhí)行者有關(guān)，而如果一個(gè)AI也這樣“認(rèn)為”，它的危害性很可能大于任何宗教戰(zhàn)爭(zhēng)、宗教暴政和恐怖主義行動(dòng)。
這樣說來，丹·布朗其實(shí)在AI與宗教的問題上將我們置于了兩難處境。當(dāng)它們足夠強(qiáng)大時(shí)，不能讓它們什么都不信，也不能讓它們成為任何宗教的信徒。
科幻的“思想實(shí)驗(yàn)”意義
上述小說家的想象之所以被稱為“科學(xué)幻想”，是因?yàn)槠涠家袁F(xiàn)有的科學(xué)成果為根據(jù)，而敘述的又都是當(dāng)下還不存在的情形。本文的目的不是參與科學(xué)研究，預(yù)測(cè)哪種想象在未來更有可能成真，而是將這些科學(xué)幻想都當(dāng)成“思想實(shí)驗(yàn)”，憑借這些“思想實(shí)驗(yàn)”，思考AI，思考宗教，思考人類自身。這三個(gè)問題是糾纏在一起的。
AI究竟是什么？如果它們只是擁有更強(qiáng)學(xué)習(xí)能力、謀劃能力和行動(dòng)能力的計(jì)算機(jī)，那么我們?nèi)绾味x它們“信”或“不信”宗教的標(biāo)準(zhǔn)？如果人類在它們的計(jì)算程序中置入一些無論其如何學(xué)習(xí)和謀劃也不能違背的基本指令，這算不算是它“信仰”的“宗教”？阿西莫夫的“機(jī)器人三大定律”正體現(xiàn)了這樣的思路。但作為小說家，阿西莫夫可以輕易地將“三大定律”自圓其說并由此產(chǎn)生種種精彩的故事，他的假定是，AI必須依靠超越現(xiàn)代任何科技甚至科學(xué)理論始終無法完全理解的“正子腦”，而“正子腦”能夠穩(wěn)定運(yùn)行的基礎(chǔ)就是“三大定律”。但現(xiàn)在科學(xué)技術(shù)的發(fā)展已經(jīng)造出了與阿西莫夫想象中最簡(jiǎn)陋的機(jī)器人功能很近似的AI，有些方面甚至超過了那些最簡(jiǎn)陋的機(jī)器人，但并沒有什么“正子腦”（除非我們認(rèn)為“云計(jì)算”就是“正子腦”），也不必以“三大定律”為工程基礎(chǔ)。所以現(xiàn)實(shí)中的科學(xué)家和工程師就必須面對(duì)阿西莫夫巧妙回避了的問題：怎么能保證AI在理論上應(yīng)當(dāng)趨向于無限的學(xué)習(xí)能力、謀劃能力與行動(dòng)能力，同時(shí)又不會(huì)自己改動(dòng)或刪除人類最初給它們置入的倫理信條？另一方面，我們會(huì)想到，剛才說的這個(gè)“信仰宗教”的標(biāo)準(zhǔn)是否太高了？人類中信仰宗教者又有幾個(gè)能做到無論如何學(xué)習(xí)和謀劃也不違背所信宗教的基本信條與律令呢？再想下去，我們甚至連人類“信”與“不信”宗教的標(biāo)準(zhǔn)都很難把握。
如果以AI類比人腦，那么宗教又是什么？只是一系列數(shù)據(jù)（無論其準(zhǔn)確與否），還是一組程序，甚至是一套源代碼？或者宗教現(xiàn)象是人類特有的，不能以AI類比？可是阿西莫夫小說《理性》里高級(jí)機(jī)器人“正子腦”里生成的系統(tǒng)觀念以及以此為基礎(chǔ)的行為，不稱之為宗教又稱之為什么呢？但如果稱為宗教，那假設(shè)人類有必要改變這個(gè)機(jī)器人的信仰但不損害它別的任何數(shù)據(jù)與能力，那么應(yīng)當(dāng)做的是格式化幾個(gè)存儲(chǔ)單位，還是修改系統(tǒng)中的語(yǔ)句？或者這個(gè)目標(biāo)根本不可能達(dá)到，改變它的信仰一定會(huì)損害到它的數(shù)據(jù)存儲(chǔ)與運(yùn)算能力？
歸根究底，人的腦神經(jīng)元系統(tǒng)與AI的運(yùn)算系統(tǒng)究竟有什么本質(zhì)區(qū)別？難道真的只是運(yùn)算能力、存儲(chǔ)能力、能效比和耐久度都遠(yuǎn)遠(yuǎn)遜色的“原始AI”？如果真是這樣，那么AI作為“升級(jí)版人腦”是會(huì)產(chǎn)生替代宗教的更高級(jí)體系，還是根本不需要這樣的東西？但是當(dāng)我們剛才說“體系”和“這樣的東西”時(shí)，我們又究竟是指什么呢？
科學(xué)幻想可以描述AI遇到宗教的諸多可能性，而考慮這些可能性是否存在，存在的條件是什么，就需要思考到很多根本的問題。科學(xué)幻想小說又會(huì)在這種可能性的前提下敘述許多具體而嚴(yán)謹(jǐn)?shù)那楣?jié)，這些情節(jié)也許是在現(xiàn)實(shí)中不存在的，但其發(fā)生發(fā)展的底層邏輯卻隱藏甚至已經(jīng)作用于現(xiàn)實(shí)，因此，看到并思考這些邏輯本身就是很有意義的。
作者簡(jiǎn)介
李明暉，吉林省長(zhǎng)春市人。文學(xué)博士，吉林大學(xué)文學(xué)院副教授。
參考文獻(xiàn)
[1]安東尼·布徹.尋找圣阿奎那[A]//艾薩克·阿西莫夫，西奧多·斯特金，等，著.微宇宙的上帝：世界頂級(jí)科幻大師杰作選.劉冉，譯.北京：新星出版社，2014.
[2]阿西莫夫.理性[A]//銀河帝國(guó)8：我，機(jī)器人.葉李華，譯.南京：江蘇文藝出版社，2013：65.
本文轉(zhuǎn)載自《科普創(chuàng)作》2019年第3期。
