記者 | 林子人

成都創(chuàng)新互聯(lián)堅(jiān)持“要么做到，要么別承諾”的工作理念，服務(wù)領(lǐng)域包括：成都做網(wǎng)站、成都網(wǎng)站制作、成都外貿(mào)網(wǎng)站建設(shè)、企業(yè)官網(wǎng)、英文網(wǎng)站、手機(jī)端網(wǎng)站、網(wǎng)站推廣等服務(wù)，滿足客戶于互聯(lián)網(wǎng)時(shí)代的雁塔網(wǎng)站設(shè)計(jì)、移動(dòng)媒體設(shè)計(jì)的需求，幫助企業(yè)找到有效的互聯(lián)網(wǎng)解決方案。努力成為您成熟可靠的網(wǎng)絡(luò)建設(shè)合作伙伴！

編輯 | 黃月

1

早在兩年前，中國(guó)讀者就知道英國(guó)作家伊恩麥克尤恩（Ian McEwan）準(zhǔn)備寫一本以“機(jī)器人”為主題的小說(shuō)了。2018年11月，麥克尤恩受邀來(lái)到中國(guó)參加《堅(jiān)果殼》新書活動(dòng)。接待隨行的是上海譯文出版社文學(xué)編輯室主任、作家、譯者黃昱寧。據(jù)黃昱寧回憶，當(dāng)時(shí)麥克尤恩一路都在說(shuō)自己正在創(chuàng)作的新小說(shuō)《我這樣的機(jī)器》，稱初稿已經(jīng)完成，趁來(lái)中國(guó)的機(jī)會(huì)再想一想書中的問(wèn)題，回到英國(guó)后修改一遍就能付梓了。那次中國(guó)之行本身也體現(xiàn)了這位年逾七旬仍筆耕不綴的作家對(duì)“機(jī)器”問(wèn)題的思考他在北京甚至還發(fā)表了關(guān)于人工智能和電腦寫作主題的演講。

2019年，《我這樣的機(jī)器》出版。2020上海書展期間，該書中文版面市。日前，黃昱寧、作家小白和上海紐約大學(xué)教授、亞馬遜上海人工智能研究院院長(zhǎng)張崢出席了在朵云書院上海旗艦店舉辦的“機(jī)器有什么錯(cuò)2020麥克尤恩小說(shuō)《我這樣的機(jī)器》新書發(fā)布會(huì)”，與觀眾分享了他們閱讀這本小說(shuō)時(shí)的感受。

新書發(fā)布會(huì)現(xiàn)場(chǎng)，從左至右分別是小白、張崢、黃昱寧。

假如仿真機(jī)器人在1980年代問(wèn)世

“這是看到了希望的宗教渴求，這是科學(xué)界的圣杯。我們雄心萬(wàn)丈要實(shí)現(xiàn)一個(gè)創(chuàng)世的神話，要辦一件可怖的大事，彰顯我們對(duì)自己的愛。一旦條件許可，我們別無(wú)選擇，只能聽從我們的欲望，置一切后果于不顧。用最高尚的言辭來(lái)說(shuō)，我們的目標(biāo)就是擺脫凡人屬性，挑戰(zhàn)造物之神，甚至用一個(gè)完美無(wú)瑕的自我取而代之。說(shuō)得實(shí)際一點(diǎn)，我們要給自己設(shè)計(jì)一個(gè)更完善、更現(xiàn)代的版本，享受發(fā)明的喜悅感和掌控的激動(dòng)感，20世紀(jì)入秋之際，這終于成為現(xiàn)實(shí)……”

這是《我這樣的機(jī)器》的首頁(yè)首段話。小說(shuō)開宗明義地告訴讀者，在一個(gè)平行世界里，艾倫圖靈不僅沒(méi)有被逼自殺，還促進(jìn)了計(jì)算機(jī)技術(shù)的極大發(fā)展，讓人們?cè)?980年代就能買到與真人幾乎一模一樣的完美機(jī)器人。1982年，第一批測(cè)試版仿真機(jī)器人問(wèn)世，其中有12個(gè)亞當(dāng)和13個(gè)夏娃，故事男主角查理花大價(jià)錢買下了一個(gè)亞當(dāng)，此時(shí)他剛剛繼承了一大筆錢，與住在樓上的鄰居、社會(huì)史博士米蘭達(dá)開始約會(huì)。為了增進(jìn)二人的感情，查理決定向米蘭達(dá)讓渡機(jī)器人初始設(shè)置的一半權(quán)利，讓兩人能夠通過(guò)共同創(chuàng)造、擁有亞當(dāng)而獲得某種更強(qiáng)的情感聯(lián)結(jié)。但隨著故事發(fā)展，讀者會(huì)發(fā)現(xiàn)機(jī)器人深深介入了兩人的生活，一系列意想不到的意外與困境亦紛至杳來(lái)。

黃昱寧認(rèn)為麥克尤恩把故事背景設(shè)定在1982年很有趣，“他把一個(gè)在技術(shù)上應(yīng)該發(fā)生在未來(lái)的故事設(shè)定在了過(guò)去，所以我們打開這本小說(shuō)時(shí)會(huì)覺(jué)得非常奇怪，里面有些東西是你熟悉的、屬于過(guò)去的，但關(guān)于人工智能的方面又是完全超前的，造成現(xiàn)在、未來(lái)、過(guò)去三重復(fù)調(diào)。”

小白指出，把一項(xiàng)技術(shù)嵌入過(guò)去歷史中的某個(gè)時(shí)刻是個(gè)科幻文學(xué)中常見的手段，比如蒸汽朋克小說(shuō)。作者借此向“技術(shù)決定論”提出質(zhì)疑：如果這個(gè)技術(shù)在那個(gè)時(shí)代出現(xiàn)，人類會(huì)往哪個(gè)方向走？麥克尤恩顯然也是在利用這個(gè)敘事方式提出類似的問(wèn)題。在為該書撰寫的導(dǎo)讀中，小白指出，把故事背景放在1980年代也有時(shí)代背景的原因機(jī)器人每一次成為社會(huì)熱門話題，往往都是在經(jīng)濟(jì)制度出現(xiàn)劇烈變化的時(shí)候：18世紀(jì)工業(yè)革命初期，英國(guó)就出現(xiàn)了憎恨機(jī)器的盧德主義者；1920年代，美國(guó)大蕭條加劇了工人失業(yè)的恐慌心理，當(dāng)時(shí)捷克作家卡雷爾恰佩克創(chuàng)作了戲劇《羅素姆的萬(wàn)能機(jī)器人》，他在劇中創(chuàng)造了從捷克語(yǔ)“Robota”（勞工）化用的機(jī)器人（robot）一詞。

1980年代初，英國(guó)首相撒切爾開啟了新自由主義改革，鼓勵(lì)企業(yè)提高生產(chǎn)競(jìng)爭(zhēng)力縮減成本，鼓吹廣泛使用機(jī)器人作業(yè)，而當(dāng)時(shí)英國(guó)失業(yè)率常年徘徊在10%。小白在谷歌圖書詞頻（Google Ngram Viewer）上檢索“機(jī)器人”和“人工智能”發(fā)現(xiàn)，這兩個(gè)詞在1980年代的檢索量形成高峰，到1990年代漸漸回落。當(dāng)時(shí)，麥克尤恩剛搬到倫敦生活，見證了英國(guó)社會(huì)上下對(duì)機(jī)器人話題的關(guān)注和討論，這或許在這位年輕的作家心里留下了深刻印象。“他把（故事）放到了八十年代，放到了機(jī)器人、人工智能最初出現(xiàn)在他的頭腦的時(shí)代，我覺(jué)得這部小說(shuō)帶有他對(duì)自己的反思，對(duì)人類社會(huì)的反思，某種程度上甚至可以說(shuō)是有點(diǎn)自傳體性質(zhì)的小說(shuō)。”

黃昱寧表示，她在與麥克尤恩私下交流的過(guò)程中曾得以一瞥他對(duì)機(jī)器人相關(guān)話題的長(zhǎng)期關(guān)切。麥克尤恩曾在兩年前的中國(guó)之行中告訴她，早在1980年代初，他就擁有了第一臺(tái)個(gè)人電腦，這說(shuō)明了“他是對(duì)科技有強(qiáng)烈興趣的這么一個(gè)文科生”。另外麥克尤恩曾在一次演講中說(shuō)過(guò)，最初《贖罪》的設(shè)定里其實(shí)是有機(jī)器人元素的，但他發(fā)現(xiàn)這個(gè)設(shè)定寫不下去，只好作罷。“過(guò)了這么多年，他終于寫成了一部機(jī)器人小說(shuō)，可見這個(gè)問(wèn)題在他腦海里縈繞了多久。”

麥克尤恩在小說(shuō)中花費(fèi)了不少筆墨刻畫平行世界中八十年代的英國(guó)，“篡改”了真實(shí)的歷史：英國(guó)在與阿根廷交戰(zhàn)的馬爾維納斯群島戰(zhàn)役中失敗，導(dǎo)致撒切爾夫人下臺(tái)；英國(guó)失業(yè)率飆升至16%；在撒切爾之后上臺(tái)的左派領(lǐng)袖托尼本恩在任期內(nèi)被暗殺……小白認(rèn)為，小說(shuō)選擇的時(shí)間點(diǎn)非常好，這不僅是機(jī)器人和人工智能概念開始成為大眾趨勢(shì)的時(shí)代，也是當(dāng)下政經(jīng)格局開始形成的起點(diǎn)英國(guó)的撒切爾和美國(guó)的里根開始推動(dòng)政治新保守主義（亦或稱新自由主義），施行偏向富人的政策，社會(huì)開始趨向不公平。在他看來(lái)，麥克尤恩在小說(shuō)中展露了他對(duì)歷史、政治、倫理的通盤思考。

《我這樣的機(jī)器》

[英]伊恩麥克尤恩 著 周小進(jìn) 譯

上海譯文出版社 2020-8

機(jī)器人的自我意識(shí)和道德困境

人類發(fā)明機(jī)器人總是出于種種美好的目的，但為何總是事與愿違無(wú)論是文藝作品還是現(xiàn)實(shí)世界，我們總是對(duì)日益智能、類人的機(jī)器人充滿恐懼。很大程度上來(lái)說(shuō)，麥克尤恩在《我這樣的機(jī)器》中探討的就是這個(gè)問(wèn)題。

其中一個(gè)因素是機(jī)器人發(fā)展出自我意識(shí)后與人類產(chǎn)生沖突。雖然目前科技界仍對(duì)機(jī)器人能否有自我意識(shí)爭(zhēng)論不休，但麥克尤恩顯然在小說(shuō)中給出了肯定的回答：由于有了自我意識(shí)，亞當(dāng)也有了自我保護(hù)的概念，當(dāng)查理再一次試圖關(guān)掉它的電源時(shí)，亞當(dāng)阻止了他，捏碎了他的腕骨。小說(shuō)中，圖靈告訴查理，那批測(cè)試機(jī)器人中已經(jīng)有11位設(shè)法取消了開關(guān)。

張崢認(rèn)為這是我們?cè)谟懻摍C(jī)器人話題時(shí)需要嚴(yán)肅對(duì)待的一個(gè)問(wèn)題。和“自由”相比，“存在”或許是對(duì)機(jī)器人來(lái)說(shuō)更關(guān)鍵的問(wèn)題所謂存在，就是人類不能關(guān)閉它們的電源。但從設(shè)計(jì)者的角度來(lái)看，這就問(wèn)題重重了：如果機(jī)器人出現(xiàn)了故障該怎么辦呢？“這本書有很多（類似）問(wèn)題可以討論，把它單純當(dāng)作科幻小說(shuō)讀不過(guò)癮，需要慢慢細(xì)讀。”張崢說(shuō)。

小白指出，歷史上真正的圖靈其實(shí)就認(rèn)真思考過(guò)“一鍵關(guān)閉機(jī)器人”的問(wèn)題。1951年，他在BBC一檔談話節(jié)目中做了一個(gè)題為“機(jī)器能思考嗎？”的演講，其中說(shuō)到，就算人類把開關(guān)控制在手中，緊急時(shí)刻有能力關(guān)掉它，對(duì)人類來(lái)說(shuō)，這也有夠恥辱的（We should, as a species, feel great humbled）。

在小說(shuō)中，亞當(dāng)和夏娃的出廠設(shè)定中包含道德參數(shù)，事實(shí)上它們是按照上帝的至善標(biāo)準(zhǔn)制造的，但在深度介入男女主角查理和米蘭達(dá)的生活后，深信后現(xiàn)代道德相對(duì)主義的人漸漸陷入困境。在小白看來(lái)，機(jī)器人包含道德參數(shù)的出廠設(shè)定以及它深度學(xué)習(xí)的能力決定了機(jī)器人會(huì)發(fā)展出比人類更強(qiáng)大、更不容置疑的倫理目標(biāo)和價(jià)值觀，這注定了它將違背人類的意愿，而這就是小說(shuō)中最重要的沖突點(diǎn)。

黃昱寧認(rèn)為，小說(shuō)中圖靈說(shuō)的一句話實(shí)際上是這部小說(shuō)的中心思想之一：“它們不理解我們，因?yàn)槲覀儾焕斫庾约骸Ｋ鼈兊膶W(xué)習(xí)程序無(wú)法處理我們，如果我們自己都不理解自己的大腦，我們?cè)趺茨茉O(shè)計(jì)它們的大腦，還指望它們能跟我們一起幸福呢？”也就是說(shuō)，所謂機(jī)器人的道德困境，其實(shí)是人類本身的道德困境。

小白同意這個(gè)看法。在他看來(lái)，發(fā)生在25臺(tái)亞當(dāng)、夏娃身上的事情都是人類自己造成的，麥克尤恩并沒(méi)有在書中討論機(jī)器人如何重建人類的道德和倫理觀念，他真正關(guān)心的問(wèn)題是，隨著時(shí)間發(fā)展機(jī)器人展露出的矛盾和崩潰（甚至很多機(jī)器人為此自殺）實(shí)際上是人類造成的，因?yàn)槿祟惐旧沓３Ｌ幱诘赖潞蛢r(jià)值觀的模糊地帶，這讓被賦予至美至善道德規(guī)則的機(jī)器人不可避免地陷入混亂。無(wú)論是機(jī)器人還是人類，都只有在復(fù)雜和混亂中妥協(xié)，摸索，直至沖突爆發(fā)。

張崢意識(shí)到，麥克尤恩明確借圖靈之口闡釋了他對(duì)這個(gè)問(wèn)題的看法：

“我們創(chuàng)造了一種有智能、有自我意識(shí)的機(jī)器，并將其推入我們這個(gè)不完美的世界。這種智能總體上是根據(jù)理性的原則來(lái)設(shè)計(jì)的，對(duì)他人溫和友善，所以很快就會(huì)置身于紛至杳來(lái)的矛盾之中。我們自己與矛盾相伴，那清單長(zhǎng)得都列不完。無(wú)數(shù)人死于我們已經(jīng)知道如何治療的疾玻無(wú)數(shù)人在物資充足的地方過(guò)著貧窮的生活。我們知道這是唯一的家園，卻日復(fù)一日破壞著生物圈。我們知道核武器的結(jié)果是什么，卻以核武器相互威脅。我們愛著生命，卻聽?wèi){物種大規(guī)模滅絕。如此種種，還有種族屠殺、折磨、奴役、家庭兇殺、虐待兒童、校園槍擊、強(qiáng)奸以及每日發(fā)生的無(wú)數(shù)罪行。我們生活中充滿著這樣的折磨，卻毫不妨礙我們找到幸福，甚至愛。人造的心智可沒(méi)有這么堅(jiān)強(qiáng)……”

圖片來(lái)源：視覺(jué)中國(guó)現(xiàn)實(shí)中何時(shí)會(huì)出現(xiàn)仿真機(jī)器人？

作為人工智能業(yè)內(nèi)人士，張崢在發(fā)布會(huì)現(xiàn)場(chǎng)與讀者分享了他對(duì)麥克尤恩小說(shuō)的觀感，以及他對(duì)人工智能現(xiàn)實(shí)應(yīng)用的看法。在他看來(lái)，麥克尤恩的確在寫這部小說(shuō)前下了大功夫去研究人工智能，但他認(rèn)為小說(shuō)中有兩個(gè)缺憾：其一是小說(shuō)將人工智能的發(fā)展完全歸功于圖靈和戴密斯哈撒比斯（“AlphaGo之父”）的突出貢獻(xiàn)，這其實(shí)遮蔽了真正的人工智能發(fā)展史上全球各地科學(xué)家的集體貢獻(xiàn)；第二是麥克尤恩作為一個(gè)外行人，沒(méi)能完全吃透人工智能領(lǐng)域中最關(guān)鍵的問(wèn)題是什么，他認(rèn)為麥克尤恩在書中探討的個(gè)別問(wèn)題其實(shí)和機(jī)器人主題并不相關(guān)。

張崢盛贊麥克尤恩是個(gè)“非常偉大的產(chǎn)品經(jīng)理”，他很欣賞書中讓查理和米蘭達(dá)一人負(fù)責(zé)一半亞當(dāng)初始設(shè)定的細(xì)節(jié)，“它是一個(gè)比喻，就是把一部分父母的DNA注入進(jìn)去。我覺(jué)得他是一個(gè)非常熱愛人類的人，他對(duì)（機(jī)器人的）本質(zhì)抓得非常準(zhǔn)確。（這個(gè)細(xì)節(jié)）某種意義上是一種致敬，非常有儀式感，這部分我讀了很驚訝，也感覺(jué)非常棒。”

仿真機(jī)器人何時(shí)會(huì)成為現(xiàn)實(shí)？張崢認(rèn)為這個(gè)問(wèn)題很難預(yù)測(cè)。一方面，技術(shù)以指數(shù)級(jí)的速度發(fā)展，這讓我們持續(xù)處于技術(shù)變革之中；另一方面，當(dāng)下有兩個(gè)相關(guān)技術(shù)在平行發(fā)展，一個(gè)是類似于科幻電影《她》中展示的人工智能助手，另一個(gè)是智能的“充氣娃娃”，當(dāng)條件成熟，這兩者合二為一，仿真機(jī)器人就出現(xiàn)了。而仿真機(jī)器人的出現(xiàn)也自然會(huì)給人類社會(huì)帶來(lái)許多倫理困境。

對(duì)于人工智能行業(yè)從業(yè)者來(lái)說(shuō)，對(duì)技術(shù)倫理問(wèn)題的思考也越來(lái)越重要。張崢?lè)窒砹艘粋€(gè)例子：他在一個(gè)月前參加了行業(yè)內(nèi)最重要的一個(gè)會(huì)議，從今年開始，這個(gè)會(huì)議新增了一項(xiàng)投稿要求，即撰稿人需要在論文最后寫明此項(xiàng)研究會(huì)造成怎樣的社會(huì)負(fù)面影響。他表示，這對(duì)許多科學(xué)家來(lái)說(shuō)或許是一個(gè)很棘手的問(wèn)題，因?yàn)槿魏渭夹g(shù)進(jìn)步都在某種意義上消滅了一部分工作崗位，導(dǎo)致了一部分人失去工作。學(xué)術(shù)共同體內(nèi)能達(dá)成怎樣的倫理共識(shí)，還有待觀察。

小白認(rèn)為，通用機(jī)器日益智能，甚至取代創(chuàng)意工作者是極有可能在未來(lái)發(fā)生的。他對(duì)此的推測(cè)是，人類社會(huì)會(huì)建立一整套完整的法律體系，禁止機(jī)器人進(jìn)入很多行業(yè)搶奪人類的工作機(jī)會(huì)。但與此同時(shí)，機(jī)器人肯定會(huì)設(shè)法對(duì)抗，這場(chǎng)人機(jī)斗爭(zhēng)肯定會(huì)發(fā)生。“我們?nèi)祟惖膽?yīng)對(duì)辦法就是腦機(jī)接口，把自己也變成機(jī)器。”

本文標(biāo)題：麥克尤恩如何想象人工智能：“機(jī)器人不理解我們，因?yàn)槲覀儾焕斫庾约骸?/a>
文章URL：http://chinadenli.net/article14/cgijde.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián)，為您提供電子商務(wù)、搜索引擎優(yōu)化、營(yíng)銷型網(wǎng)站建設(shè)、網(wǎng)站改版、商城網(wǎng)站、定制開發(fā)

廣告

聲明：本網(wǎng)站發(fā)布的內(nèi)容（圖片、視頻和文字）以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主，如果涉及侵權(quán)請(qǐng)盡快告知，我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng)，如需處理請(qǐng)聯(lián)系客服。電話：028-86922220；郵箱：631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載，或轉(zhuǎn)載時(shí)需注明來(lái)源： 創(chuàng)新互聯(lián)