原標題：伊恩·麥克尤恩對人工智能提出了第一個難題，“請回答1982......”

2018年11月伊恩·麥克尤恩在上海

近年來，除了文學領域，作家麥克尤恩越發熱衷于社會熱點話題的關注和討論，例如在英國“脫歐”、人工智能技術的發展等方面。麥克尤恩長期以來毫不吝嗇對當下社會給出自己的尖銳批評——2019年9月他發表了一部寓言性質的小說《蟑螂》。在同一年，他經過長期對人工智能領域的探索和研究，推出了一部帶有鮮明麥氏標簽、兼具濃厚科幻色彩——“一部真正思考人類未來困境”的小說。在新作《我這樣的機器》里，他嘗試回答了本人對未來人工智能的看法和期待。

小說中，麥克尤恩塑造了一個1982年平行宇宙中的倫敦，那里擁有我們很熟悉的過往，也有高度發達的人工智能。為什么要塑造這樣一個世界？在上海書展的中文版首發活動上，作家小白，人工智能專家張崢與作家、出版家黃昱寧對這個問題表達了自己的看法，小白認為這更像是麥克尤恩帶有自傳體性質的一個小說，“這部小說帶有他對自己的反思，對人類社會的反思，通過一個機器人的故事影射他的這一段看法”。張崢進一步認為，在“機器化”的麥克尤恩身后，想要表達是一個群體的自傳，作家將科技和人類之間的沖撞，對未來的交織、憧憬都含在里面。

許多人或許忘記了，1982年，也是AI人工智能這個詞在全球搜索比較頻繁的一個熱詞。帶著這個線索，以下進入作家小白對《我這樣的機器》的導讀和章節選讀。

導 讀

文/小白

我們猜想起來，麥克尤恩讓故事發生在1982年，更可能是出于——作為一個小說家，對有關機器人的大眾敘事歷史和觀念變遷的關注。有一個歷史統計數據，到1981年，日本汽車裝配生產線上已使用了6000多個機器人，同一時間英國只有370臺工程機器人。英國首相撒切爾夫人于是大力鼓吹廣泛使用機器人作業，此舉或許也是首相對各地不斷出現罷工浪潮的冷酷回應。當時英國失業率常年徘徊在10%，撒切爾推廣機器人的言論得罪了工人大眾。本來憎恨機器的盧德派在英國就有久遠歷史淵源，政府和工人們兩相激發，機器人成了那個年代英國人最熱門的話題。

事實上，如果你在Google Ngram Viewer上檢索“Robot”（機器人）和“AI”（人工智能），就會看到這兩個詞在80年代初異軍突起，在整個80年代形成一個高峰，到90年代反而漸漸下落。事實上，最令人難忘的機器人電影就是此刻拍攝的——1984年上映的《終結者》。顯然，智能仿真機器人是那個時代極其廣泛的大眾話題。那時候，麥克尤恩剛搬家到倫敦沒幾年，出版了幾本小說，開始創作劇本，與同道友好交往，參加午餐會討論熱門話題，也許這個有關“比人更聰明的人造人”的想法，在這個30歲出頭年輕作家（正是小說中查理的年紀）的內心，一度掀起過極大波瀾。

年輕時的麥克尤恩

Robot這個詞，來自捷克作家卡雷爾·恰佩克（Karel ?apek）一部戲劇，《羅素姆的萬能機器人》，作者在劇中借用了捷克語“Robota”（勞工），變造了機器人一詞。這部戲于1922年在紐約上演時，適逢大蕭條，戲劇故事迎合了自動機器會加劇工人失業的恐慌心理。機器人話題的每一次真正熱門，都跟失業潮、跟擔心機器人在所有工作崗位上取代人類有關。

但麥克尤恩并不為此擔心。在這部小說中，每個人物都欣然接受亞當的代勞。從廚房清洗到檢索政府檔案卷宗——亞當的大腦可以直接接入網絡，密碼也擋不住它。亞當開始熱衷于文學創作，雖然只是最簡單的日本俳句。但文學，那不是人類智慧樹最高處結出的果實么？沒人當回事。對于亞當給生活帶來的種種改善，男主角查理心安理得地享受著。亞當甚至幫他操盤做投資，它是真正的超級智能，不是如今投行們使用的那些高頻交易算法。盈利是毫無疑問的，就像從自己口袋拿錢。

一旦機器產生自我意識，就會遭遇到奧莫亨德羅（Steve Omohundro）的難題：自我意識意味著自我保護，機器會認識到首先必須存在，才能達成圍繞著自我意識的所有其它目標。超級智能機器會設法讓開關失效。當查理再一次試圖伸手關掉它的電源，亞當阻止了他，而且把他的腕骨捏碎了。亞當堅定地奪回/取消了開關控制權。不過當查理把這件嚴重事故告訴小說中的“圖靈”，也就是亞當和夏娃們真正的設計者時，圖靈并沒有震驚，不過是一個“值得關注的”情況。圖靈告訴查理，據他所知，那批測試版機器人中，已有十一位設法取消了開關。這不奇怪，歷史上那位真正的圖靈對此反復思考過了。早在1951年，他就在BBC三臺談話節目中提到此類事情。他在那做了一個演講，題目叫《機器能思考么？》（Can Digital Computers Think？）。其中說到，就算人類把開關控制在手中，必要時關掉它，對人類來說，這也夠恥辱的了（We should,as a species,feel great humbled）。圖靈雖然有點憂慮，顯然不贊成靠開關維持優勢。

麥克尤恩設想了一種道德至上的智能機器。在它們復雜的計算決策“黑盒”底層，必定預置了一些最高級道德命令，以防發生難以控制的不測事件。因為按照牛津大學哲學家尼克（Nick Bostrom）的預想，即便是一個善意的機器人，按照人類命令行事，它也會把世界上的一切都變造成回形針，因為智能機器人在完成任務方面是一個徹底的完美主義者。但亞當卻沒有為查理賺回世界上所有的錢，顯然它在決策中綜合考慮了互不相容的幾種人類偏好。比如說，也要兼顧安全感，過量財富顯然會帶來身心兩方面的危險。尤其是道德損害。

道德規則本身就包含了無數種偏好。比如小說故事就涉及到：是“復仇正義”要緊呢？或者是“不能欺騙他人”更重要呢？這才是麥克尤恩真正感興趣的問題。工程師給亞當們內置了所有人類道德規則，但那些遠不是經由自我審視、選擇而來的道德感。出廠設定代表了人類所有最美好的期望，可就算是人類自己，也沒有一個能做到。因為那些規則條款，根本經不起社會人群的人際摩擦。就像麥克尤恩小說中幾乎所有人物一樣，天性良善，卻讓一些細微的摩擦沖突愈演愈烈，直至不可收拾。

章節選讀

我是樂觀派陣營中的一員，運氣不錯，母親去世、祖傳房屋出售之后，我得到了意外的收入，那房屋恰好位于一個價值可觀的開發地段。就在福克蘭群島特別行動隊動身去執行那無望的任務之前一個星期，第一個真正可用的、由工廠生產出來的人類，在市場上發售，智力和長相都過得去，肢體動作和面部表情的變化也真實可信。亞當售價8.6萬美元。我租了一輛小貨車，將他運到我位于北克拉帕姆那套令人生厭的公寓里。我這個決定做得草率，但聽說戰爭英雄、引領數字時代的天才艾倫·圖靈爵士也買了同款，我便受到了鼓舞。他很可能打算讓實驗室把機器人拆開吧，好好研究一下其內部構造。

科幻劇《真實的人類》劇照

亞當的電池在充電，我給我們倆倒了咖啡，然后翻看長達470頁的在線產品手冊。語言總體上還是清晰準確的。但是，亞當的制造牽涉很多不同的地點和部門，所以手冊讀起來有廢話詩那樣的趣味。“遮住B347K護罩上部，可使主板輸出獲取快樂情緒圖標，減弱情緒波動半暗帶。”

最后，他坐在了我那小小的餐桌旁，腳邊散落著紙板和聚苯乙烯包裝材料，雙眼閉著，一條黑線從他肚臍上的入口處拖下來，連到墻上一個十三安培的插孔上。讓他啟動還需要十六小時。然后就是下載更新和設定個人偏好的環節。我現在就要他，米蘭達也是。我們倆像心情急切的年輕父母一樣，迫不及待地等著他說出第一句話。不是配備個音箱，直接安裝在他胸部。從熱情洋溢的廣告宣傳中，我們得知，他可以用氣息、舌頭、牙齒和上顎發出聲音。他的皮膚和真人相仿，摸上去已經有暖意了，而且和孩子的皮膚一樣光滑。米蘭達說，她看到他的睫毛抖了一下。我敢肯定，她看到的是地鐵在我們腳下一百英尺處轟隆而過引起的震動，但我什么都沒說。

廣告上說，他可以陪伴，可以在智力活動上相互切磋，可以成為朋友，可以總攬家務，會洗碗、鋪床，會“思考”。存在的每個時刻，聽到、看到的每件事，他都記錄下來，都能夠從記憶中調取。目前他還不能開車，不許去游泳、洗澡或不打傘在雨天出門，也不能在沒人監視的情況下操作電鋸。至于活動范圍呢，感謝蓄電技術的突破，他能在兩小時內跑十七公里，中途無需充電，或者連續說話十二天，這兩者消耗的能量是一樣的。他有二十年的使用壽命。他身體健壯、肩膀寬厚，皮膚是深色的，濃密的黑頭發向后梳著；臉部窄長，略微有點鷹鉤鼻，給人思路敏捷、智力逼人的感覺，上眼皮厚重沉郁，嘴唇緊閉，我們在一旁觀察的時候，他的嘴唇褪去了那死亡一般的黃白色，慢慢有了飽滿的、人的顏色，也許唇角還略微松弛了一點兒。米蘭達說他看起來像“博斯普魯斯海峽的碼頭工人”。

坐在我們面前的，就是那終極的玩物，多少世紀以來的夢想，是人本主義的勝利——或者宣告其死亡的天使。令人無比興奮，但也無比難受。十六個小時就這樣等著、看著，可不容易捱過去。我覺得，考慮到午飯后我交出去的那么多錢，亞當這時候就該充好電，隨時可以起身走路了。這是個寒冷的黃昏。我烤了面包片，我們又添了咖啡。社會史專業博士生米蘭達說，她希望十幾歲的瑪麗·雪萊此時和我們在一起，全神貫注，不是觀察弗蘭肯斯坦造出來的那種怪物，而是觀察這位皮膚黝黑、長相英俊的年輕人如何慢慢活過來。我說，兩個東西有個共同點，都渴望電給予他們生命的力量。

......

亞當以后會變成令人生厭的玩意兒嗎？花錢買東西之后的那種懊悔感不時襲來，我一邊要克服這種感覺，一邊還要口授郵件，這可不太容易。毫無疑問，其他有生命、有頭腦的，還會繼續出現，繼續令我們著迷。人造的人，會越來越接近我們，然后和我們一樣，最后超過我們，我們自然不會覺得他們無聊乏味。他們一定會出乎我們的意料，還可能以我們完全無法想象的某些方式，打破我們的預期。悲劇不是沒有可能，但無聊乏味是不可能的。

真正枯燥無味的，是還得去看用戶手冊。指南。我有個偏見：任何機器如果不能在運作中自行告訴你該怎么使用，那就不值得去買。我突然有了復古守舊的沖動，將整個手冊打印出來，然后又去找文件夾。在此過程中，我仍然一直在口授電子郵件。

我沒法把自己當成亞當的“使用者”。之前我以為，任何關于他的事情，他自己都能教我。但是，我雙手捧著手冊，剛好在第十四章打開。這部分的英語表達很清晰：偏好；性格參數。接下來是一系列標題——親和性。外向性。經驗開放性。盡責性。情緒穩定性。我熟悉這個清單。五大性格特質模型。我接受過人文學科的教育，但并不相信這種統括式的概念，不過一位學心理學的朋友告訴過我，每個條目下面都分為很多小類。我掃了一眼下面一頁，發現我需要做出一系列選擇，都是從1到10當中挑選一個。

此前我一直期待著一位朋友。我打算把亞當當作家里的客人，一開始不熟悉，但以后會慢慢了解。我以為他到我家的時候，就已經進行了最佳的配置。出廠設定——在當前社會中，這就是命運的同義詞。我所有的家人朋友，出現在我生命中的時候，都已經設定好了，基因和環境在他們身上留下了不可更改的痕跡。我希望我這位昂貴的新朋友也是這樣。這事干嘛丟給我來做呢？當然，答案我也知道。我們當中，擁有最佳配置的并不多。