中國(guó)作家協(xié)會(huì)主管

對(duì)人工智能技術(shù)高度發(fā)展所帶來(lái)的的不確定性的思考，最終的落腳點(diǎn)還是要回到人和技術(shù)的關(guān)系問(wèn)題——在技術(shù)發(fā)展中，人應(yīng)該有什么樣的地位，以及人的地位應(yīng)起到什么樣的決定作用。

自歐洲議會(huì)提議授予機(jī)器人“人格”地位不久，世界首位機(jī)器人 “公民”索菲亞（Sophia）便 在 沙 特 誕 生 ，即 說(shuō)出“毀滅人類”的恐怖話語(yǔ)。今年 4月，日本東京的市長(zhǎng)競(jìng)選中竟然出現(xiàn)了一位機(jī)器人候選人，競(jìng)選團(tuán)隊(duì)甚至給出了它當(dāng)選市長(zhǎng)的優(yōu)點(diǎn)：不會(huì)行賄受賄，而且工作效率高?！洞笪餮笤驴?月號(hào)發(fā)表95歲的前美國(guó)國(guó)家安全顧問(wèn)和國(guó)務(wù)卿基辛格的文章警告說(shuō)：人工智能的進(jìn)步可能導(dǎo)致一個(gè)人類將無(wú)法理解的世界。

誠(chéng)如牛津大學(xué)量子物理學(xué)家戴維·多伊奇（David Deutsch）所言：哲學(xué)實(shí)際上是解鎖AI的鑰匙。機(jī)器人是人嗎？是否應(yīng)該被賦予與人類相同的權(quán)利？未來(lái)機(jī)器人是否會(huì)全面取代人類？諸如此類的倫理問(wèn)題意味著人工智能的發(fā)展需要更多哲學(xué)上的探索和反思。近日，在由上海市自然辯證法研究會(huì)、中國(guó)自然辯證法研究會(huì)自然哲學(xué)委員會(huì)、東華大學(xué)馬克思主義學(xué)院聯(lián)合舉辦的“智能化社會(huì)與人類發(fā)展”學(xué)術(shù)會(huì)議上，來(lái)自各大高校哲學(xué)系的專家學(xué)者們就上述問(wèn)題展開(kāi)了討論。

機(jī)器人的“人化”與人的“機(jī)器化”

機(jī)器人與人的界限在哪里？要回答這一問(wèn)題，必須首先厘清人類自身理性、情感和智能中的本質(zhì)性問(wèn)題。上海大學(xué)楊慶峰教授指出，是否擁有記憶是區(qū)分人與機(jī)器人的一個(gè)重要界限。對(duì)于人來(lái)說(shuō)，意識(shí)的連續(xù)性對(duì)自我的維持非常重要，如因偶然事故或阿爾茲海默病而導(dǎo)致記憶障礙，都會(huì)令人非常痛苦。但是機(jī)器失去它們的“記憶”——被刪除數(shù)據(jù)，卻并不會(huì)有類似的問(wèn)題。未來(lái)，這個(gè)界限完全有可能被打破。為機(jī)器人注入“記憶”是現(xiàn)在最新的研究方向，科學(xué)家們正在嘗試為機(jī)器人搭建不同的、多元的記憶神經(jīng)元回路，讓它們展示出類似人類的多樣的記憶行為。但擁有了記憶，機(jī)器人就能被稱為“人”了嗎？問(wèn)題似乎并沒(méi)有那么簡(jiǎn)單。

合肥工業(yè)大學(xué)李才華副教授進(jìn)一步指出，除了持續(xù)性的記憶之外，機(jī)器人與人的本質(zhì)區(qū)別還在于是否擁有維護(hù)自我生存的意識(shí)。人有自己的生活目的，這種目的之根源就是追求生存。如果機(jī)器人將來(lái)能自我設(shè)計(jì)程序，自我修復(fù)，就可能脫離人而具有主體性。就像大熱的美劇 《西部世界》中，機(jī)器人女主角之一的梅芙因?yàn)槟笎?ài)而“覺(jué)醒”，然后獲得了修改自身程序的能力，使得觀眾認(rèn)為她甚至比真正的人類更具有人性。《西部世界》中的機(jī)器人當(dāng)然離我們很遠(yuǎn)，但李才華指出，這種自我設(shè)計(jì)、修復(fù)的能力正是未來(lái)機(jī)器人研發(fā)的方向。我們可以期待的是，當(dāng)機(jī)器人被送到外星，或者到海底深處工作，受到損傷或發(fā)生故障時(shí)能夠自我修復(fù)。所以，機(jī)器人擁有生存意識(shí)，也并非天方夜譚。這使得人與機(jī)器的邊界變得更為模糊。

現(xiàn)在，機(jī)器人和人類邊界的消失不僅僅表現(xiàn)為機(jī)器人的“人化”，還表現(xiàn)為人的“機(jī)器化”。特斯拉CEO馬斯克目前就致力于 “人腦植入芯片”計(jì)劃，制造讓人腦與電腦直接相連的可植入設(shè)備，在他看來(lái)，“人類和機(jī)器之間的最好結(jié)果將是一個(gè)集體的生活方式”。此外，一系列人類增強(qiáng)技術(shù)也被廣泛應(yīng)用于醫(yī)學(xué)、基因工程等領(lǐng)域。有人甚至提出“后人類”的概念，預(yù)測(cè)未來(lái)的人類將成為一種有情感的機(jī)器。這在哲學(xué)層面也引發(fā)了一個(gè)關(guān)鍵問(wèn)題：人類增強(qiáng)是否改變了人類本質(zhì)。

目前學(xué)界看待該技術(shù)主要有兩種思潮：一種叫超人類主 義 （transhumanism），認(rèn) 為 科學(xué)技術(shù)進(jìn)步是一個(gè)無(wú)止境的過(guò)程，并會(huì)幫助人類實(shí)現(xiàn)永生的夢(mèng)想；另一種則是生物保守主義，認(rèn)為應(yīng)該對(duì)可能改變?nèi)诵缘纳锛夹g(shù)的研發(fā)實(shí)施管制，如生物保守主義的代表人物福山就認(rèn)為，人性取決于人的基因構(gòu)成、物理體征等自然特征，改變這些就是在破壞人與人平等的自然基礎(chǔ)，從而侵害人的權(quán)利。

見(jiàn)智見(jiàn)仁，理原一貫。人類增強(qiáng)技術(shù)不僅僅是技術(shù)問(wèn)題，更是倫理問(wèn)題。據(jù)上海社科院哲學(xué)所副研究員計(jì)海慶介紹，應(yīng)用倫理學(xué)在該技術(shù)的具體應(yīng)用方面有著非常廣泛的討論。比如代際倫理問(wèn)題。通過(guò)對(duì)未出生的孩子進(jìn)行基因編輯來(lái)改變其身體的某些性狀，現(xiàn)在從技術(shù)上已經(jīng)可以做到，但如果孩子出生后對(duì)這些改變不滿意，應(yīng)當(dāng)如何平衡？比如公正問(wèn)題。目前，美國(guó)高中生群體在考試時(shí)使用邊緣性的處方藥來(lái)提高短時(shí)精神能力的現(xiàn)象已經(jīng)非常普遍。以此類推，在體育比賽中服用興奮劑是不是也能被逐漸接受？由此可見(jiàn)，人類增強(qiáng)技術(shù)的倫理底線最終還是要探討一個(gè)問(wèn)題：假如我們可以為人性“編程”，哪些“核心代碼”是我們必須保留的。

“人和技術(shù)的關(guān)系”是思考的落腳點(diǎn)

有位人工智能專家曾這樣寫道：“終有一天，機(jī)器人將把我們?nèi)祟愱P(guān)在動(dòng)物園的牢籠里，大機(jī)器人帶著小機(jī)器人參觀動(dòng)物園，對(duì)小機(jī)器人說(shuō)，孩子，這是人，是我們的祖先?！痹趯⑸系鄣母拍睢膀?qū)逐”出去后，我們將精力完全投入到技術(shù)創(chuàng)造中，自己扮演起造物主的角色。但未來(lái)，人類自己是不是也會(huì)同樣遭受被“驅(qū)逐”的命運(yùn)？

東華大學(xué)教授王治東指出，人工智能概念蘊(yùn)含著 “人工-智能”兩個(gè)向度，這兩個(gè)方面讓人工智能成為悖論性的存在。持樂(lè)觀主義態(tài)度的學(xué)者們認(rèn)為，人類智能有人工智能無(wú)法取代的獨(dú)特優(yōu)勢(shì)，并且人工智能其實(shí)也可以為人類智能開(kāi)啟新的“進(jìn)化”方向。在東華大學(xué)張怡教授看來(lái)，在智能化社會(huì)條件下，一種基于物聯(lián)網(wǎng)為載體的存在方式為人類智能打開(kāi)了新的空間，那就是集體智慧，由此形成一種跨界的合作性認(rèn)知，這個(gè)跨界性的合作將形成一種新的社會(huì)分工即 “超專業(yè)化現(xiàn)象”——將工作置于一個(gè)“全球腦”下進(jìn)行虛擬的整體操作。這種“集體智慧”是人類協(xié)同效應(yīng)的進(jìn)化，也是人類智能在受到人工智能影響的條件下進(jìn)化的路徑。上海大學(xué)王天恩教授也指出：“智能進(jìn)化只能是作為集體的類進(jìn)化的結(jié)果，不是按照?qǐng)D紙批量生產(chǎn)就能超越的，這一點(diǎn)大概是人類智能具有優(yōu)勢(shì)的地方?！?/p>

另一方面，許多學(xué)者則擔(dān)心機(jī)器人發(fā)展對(duì)人類本身所造成的潛在威脅。南京大學(xué)榮譽(yù)資深教授林德宏就表達(dá)了對(duì)人類未來(lái)的擔(dān)憂：“按照技術(shù)自身的發(fā)展邏輯，機(jī)器人會(huì)不斷地取代人類，從人的雙手、體能，到人的大腦、智力，再到人的理性、情感，甚至取代人的信仰和社會(huì)地位?！绷纸淌谔匾庖昧藧?ài)因斯坦的話“關(guān)心人的本身，應(yīng)當(dāng)始終成為一切技術(shù)上奮斗的主要目標(biāo)”，他強(qiáng)調(diào)，為了維護(hù)人類自身的尊嚴(yán)，應(yīng)該為技術(shù)的發(fā)展規(guī)定社會(huì)底線。而對(duì)技術(shù)的合理約束實(shí)際上是對(duì)人自身的約束，約束不斷膨脹的物欲和對(duì)技術(shù)的貪婪追求。類似地，復(fù)旦大學(xué)哲學(xué)系副教授徐志宏也指出了機(jī)器人對(duì)人類的一種本體論層面的威脅，她是這樣說(shuō)的：“馬克思曾指出，自由自覺(jué)的勞動(dòng)是人的類本質(zhì)。機(jī)器大工業(yè)的產(chǎn)生解放了生產(chǎn)力和土地上的勞動(dòng)者，卻也導(dǎo)致了勞動(dòng)者經(jīng)濟(jì)和技能雙重意義上的赤貧。今天我們?cè)诟畛潭然蛘吒蠓秶厦媾R著相似的問(wèn)題：當(dāng)人的生活只有輸入而無(wú)輸出 （馬克思意義上自由自覺(jué)的勞動(dòng)）時(shí)，人一開(kāi)始會(huì)感覺(jué)到便利，但最終會(huì)產(chǎn)生深層的焦慮，不知道自己該干什么。技術(shù)的發(fā)展讓人碎片化并帶來(lái)本體論的危機(jī)，盡管智能會(huì)越來(lái)越發(fā)達(dá)，但人卻做出了某種犧牲?！?/p>

不過(guò)，比起擔(dān)憂“機(jī)器人會(huì)統(tǒng)治世界”這樣相對(duì)遙遠(yuǎn)的末世預(yù)言，可能更需要我們迫切警惕的是，人工智能會(huì)造成“馬太效應(yīng)”，并進(jìn)一步加深社會(huì)分層現(xiàn)象。南京林業(yè)大學(xué)副教授郭輝就指出：“不同消費(fèi)群體由于知識(shí)化能力明顯的分化，在掌握運(yùn)用AI技術(shù)的能力和適應(yīng)度上是存在巨大差異的。因此，必須弄清如何讓這些新技術(shù)造福整個(gè)社會(huì)，而不僅僅是技術(shù)的控制者。此外，在消費(fèi)群體中也存在著這樣的分層：創(chuàng)造型消費(fèi)者能充分利用其產(chǎn)品提供的交互性性能，在使用中學(xué)習(xí)和發(fā)展新的智能；而被動(dòng)型消費(fèi)者由于知識(shí)化能力的匱乏，只能沿著被鎖定的技術(shù)路徑，對(duì)人工智能產(chǎn)品形成徹底的依賴而淪為技術(shù)的奴隸。”

海德格爾有關(guān)“牧羊人與羊”的比喻人們耳熟能詳，但現(xiàn)在的情況似乎發(fā)生了反轉(zhuǎn)：在人工智能的促逼下，人類漸漸喪失對(duì)技術(shù)的控制。為此，中共上海市委黨校教授張春美強(qiáng)調(diào)，對(duì)人工智能技術(shù)高度發(fā)展所帶來(lái)的不確定性的思考，最終的落腳點(diǎn)還是要回到人和技術(shù)的關(guān)系問(wèn)題——在技術(shù)發(fā)展中，人應(yīng)該有什么樣的地位，以及人的地位應(yīng)起到什么樣的決定作用。今天，如果我們追隨技術(shù)的邏輯，不斷學(xué)習(xí)和掌握新型的技術(shù)，就有可能成為這個(gè)時(shí)代的牧羊人，否則，我們就可能淪為被技術(shù)所驅(qū)使的羊。