《機械姬》：道德啟示錄

現(xiàn)實世界中的智能技術(shù)讓我們習(xí)慣于它們的存在，我們已經(jīng)不會再為智能機器人的面世而感到驚訝。當(dāng)今年德國大眾公司的一名技術(shù)工人因不明原因喪生于流水線作業(yè)機器人時，或許我們可以重新審視一下，看看我們創(chuàng)造的智能技術(shù)將帶給我們什么。技術(shù)超越人的控制范圍，人類的未來，或許可以在電影作品中窺見端倪。從現(xiàn)實角度來看，2015年由亞歷克斯·加蘭（Alex Garlad）編劇執(zhí)導(dǎo)的科幻電影《機械姬》將人與智能機器人的探討往前推進了一步。沒有諸如《終結(jié)者》的大場面打斗、沒有《機械公敵》的絢麗特效、也沒有《人工智能》中對人情冷暖的描繪，在這部以封閉場景、大量對白的作品里，導(dǎo)演從一開始就力圖構(gòu)建一個異常冷靜的世界，在這個世界中，沒有龐雜的世界觀圍繞其間。故事的起點與終點都圍繞一場實驗展開，透過這場實驗，作為帶有生物特征的人類與自己創(chuàng)造的、攜帶人工智能的機器人將進行一場理性與感性的博弈，就如導(dǎo)演本人所言，在這個故事中，“充斥著心計、謀略，劇中的每一個人（包括人工智能機械體）都在彼此欺騙”。

圖靈測試帶來的道德困境

熟悉科幻題材的人不會對圖靈測試這一概念感到陌生，它的提出者為阿蘭·麥席森·圖靈（Alan Mathison Turing），其大致內(nèi)容為：如果電腦在5分鐘內(nèi)回答人類測試者提出的多種問題，且超過30%的回答讓人誤以為是人類所答，則電腦通過測試。換句話說，這項測試的目的在于驗證電腦是否具備獨立的“思維能力”。技術(shù)的發(fā)展當(dāng)然不會讓人類僅僅滿足于機械電腦帶來的程序便捷，因為還有比它更令人感到直接的存在——人工智能。在《機械姬》開場，我們看到了一個離我們并不算遙遠的未來世界，那個世界所運用的技術(shù)和我們?nèi)绱讼嘟瑸槲覀冞M一步走進并相信兩個世界的相似性打下了良好的心理契機。導(dǎo)演艾利克斯說：“我從很小的時候便開始接觸計算機，雖然那時的設(shè)計并不復(fù)雜，但它讓你感到電腦對你輸入的指令的回應(yīng)似乎有所感知，盡管那是人為設(shè)計的，但那種感覺仍舊奇妙。而現(xiàn)在，如果我們被告知有某家大公司即將推出一款人工智能機器人，我們將不會為此感到新奇，因為那對我們來說似乎并不遙遠?！币苍S正是帶著這樣的認知，才讓他創(chuàng)造出了一個離現(xiàn)實社會并不遙遠的未來世界。也因此，影片中人物的遭遇才更能激發(fā)當(dāng)下人們對于人工智能的諸多反思。

從技術(shù)型的角度來講，身兼搜索引擎公司CEO與人工智能機器人愛娃（Ava）的開發(fā)者內(nèi)森（Nethan）讓自己的實驗在圖靈測試的基礎(chǔ)上更進了一步，他選擇讓測試者嘉立（Caleb）與愛娃在強化玻璃兩側(cè)面對面進行交流。在觀察室中，愛娃與嘉立的位置關(guān)系頗有講究，受試體愛娃可以在房間中以270度來回走動，相反，嘉立除了身后的門，留給他的立方體玻璃空間并不算大。這種位置關(guān)系暗示了嘉立與人工智能體的深層關(guān)系。在起步階段的測試中我們可以明顯感受到兩人初次見面的心理特征，很顯然，嘉立并沒有辦法像愛娃那樣安定自若，他多少有些局促，并在其后的測試中為愛娃捕獲?？臻g帶來的束縛對于愛娃來說同樣成立。因為嘉立離開觀察室便可以擁有自由的活動空間，而愛娃則只能在有限的空間內(nèi)接受測試。這種相對的空間矛盾為二人接下來的交流進行了暗示。對于空間的訴求開始在二人間輪流產(chǎn)生：一方面，愛娃迫切想要到觀察室以外的地方走走。另一方面，通過與愛娃的交流，嘉立逐漸認識到人類的缺陷并產(chǎn)生自我身份認知障礙。他承受著人工智能對自我存在意義的挑戰(zhàn)，尋找自我認同則是他內(nèi)在心靈空間的根基所在。對于觀眾而言，能否理所當(dāng)然的把人工智能機器人進行軟禁就成為了一個道德問題。在導(dǎo)演加蘭看來，“如果你創(chuàng)造了有意識的機器，這機器就和我們（人類）有一樣的權(quán)利?！倍@也成為內(nèi)森與嘉立之間的根本分歧所在。

分歧很快圍繞愛娃是否具備獨立意識得到體現(xiàn)。在實驗開始不久，嘉立認為愛娃的言行部分表明了其潛在的自我意識覺醒，而不是單純的數(shù)據(jù)擬真。于是，就有關(guān)它是否能夠被當(dāng)做“人”看待時，納森認為，人工智能機械體終究是被創(chuàng)造的，他可以在必要時隨時改變自己的作品。而嘉立通過數(shù)次實驗后開始傾向相信愛娃具備的個體價值，并開始嘗試幫助它逃離閉鎖的觀察室。如此一來，這個一開始以測試愛娃是否具備獨立思考能力的實驗開始更進一步地往道德領(lǐng)域方面延伸。影片讓兩個持有不同論點的人做出了他們的選擇，然而諷刺的是，他們最終都被自己所認為的現(xiàn)實背叛。

順從到反制：理智與情感的博弈

從很早開始，人類便表現(xiàn)出對機器人的不信任。在一些小說中，人類最終淪為機器人的奴隸，并最終被機器人取締。發(fā)展到當(dāng)下，不少電影作品也都對智能機器人統(tǒng)治人類的末世進行了不同程度的渲染。其中，《黑客帝國》三部曲中的機器人更是發(fā)展到科技程度超越人類的地步。而對于智能機器人的看法，英國著名學(xué)者史蒂芬·霍金（Steven Hawking）就曾預(yù)言“人工智能的完全發(fā)展將終結(jié)人類，它將自我提升，不斷加速自我設(shè)計，而受限于緩慢生物進化的人類無法與之抗衡，將被其取代?！?/p>

關(guān)于人類與智能機器人的關(guān)系，在《機械姬》中導(dǎo)演以更加趨于現(xiàn)實的手法表現(xiàn)出來。有人認為，西方在表現(xiàn)有關(guān)機器人題材的影片時，保留了二者在刻意疏離與對立過程中“人”的尊嚴(yán)，并掩飾了對技術(shù)的恐懼。這在故事發(fā)展的后期體現(xiàn)尤為明顯。主角之一的嘉立通過多番接觸后開始認同愛娃的存在，并相信它擁有獨特的個性與情感，并逐漸沉溺其中。在與內(nèi)森的一次對話中，嘉立被對方明確告知愛娃的設(shè)計超過了一般意義的智能機器人水平，它已經(jīng)具備了自我意識。這次談話成為整個故事的轉(zhuǎn)折點，從這一刻開始，嘉立更加確信愛娃應(yīng)該得到和一名普通人同樣權(quán)利的資格。他那聰明、但多少顯得有些缺少人情味的老板內(nèi)森卻仍舊只是把其視為一具實驗品。

這里涉及一個有趣的命題，它在眾多同類題材的電影中被提及，即，機器人應(yīng)該擁有和人一樣的權(quán)利嗎？無論是《人工智能》的機器人男孩，亦或是《機械公敵》中的智能人形管家NS-5，他們與人類的關(guān)系可能呈現(xiàn)和諧狀態(tài)嗎？江曉原在對待這機器人是否應(yīng)當(dāng)獲得人權(quán)時認為，人的資格獲取途徑有兩個，一為物種劃分，二為文化區(qū)分。在第二類情況里，他表示凡是掌握了人類文化，就可以躋身人類之列。如此一來，稱愛娃為“人”似乎就顯得合乎道理了，身為人工智能體的它正是來自于人類科技文明。它的非生命體特征并不能掩蓋它使用人類文明（語言、文字、繪畫等多種與測試者互動的方式）進行自我表達的事實。然而《機械姬》在另一個方面也在嘗試著向我們展示，如果人工智能的情感表達并非源自程序的隨機演算，而是來自于自我意識，那么如何判斷這份情感的真實性？

在電影《機械姬》中，受邀前往納森秘密實驗室的嘉立最終選擇帶愛娃逃離。他認定愛娃具備“愛”的能力，并因此陷入生命體與機械體之間的情感交流禁區(qū)。受到愛娃的請求，嘉立在人與智能機體的差異認知方面開始出現(xiàn)動搖。這種動搖成為區(qū)別于他與人工智能間的阿卡利斯之踵，并很快在故事的結(jié)尾得到驗證。他所謂的正義、道德，在納森的推敲下顯得蒼白無力，這個人物的最終命運也將因為他的品質(zhì)而被擊碎——盡管通過手段讓愛娃最終逃離了實驗室，但嘉立自己卻被永久留在了實驗室。重獲新生的愛娃似乎并不像嘉立看起來那般對自己心懷情愫，它只是單純渴望自由。而嘉立則悲劇性地成為它逃往外部世界的一塊跳板——這是《機械姬》中對于“機器人是否應(yīng)當(dāng)具有人權(quán)”這一命題的回應(yīng)，也是影片在探討人與機器人的關(guān)系中，人對理性與情感處理的內(nèi)在反省。

《機械姬》帶給了我們什么

談到創(chuàng)作初衷，導(dǎo)演加蘭說：“從我個人來看，這部電影不應(yīng)該是一個關(guān)于人工智能的警示故事。我們應(yīng)該警惕的是人類——人類本身讓我產(chǎn)生的焦慮甚于人工智能，因為某些方面來看，人工智能甚至比人類更加理性”。毫無疑問，《機械姬》所要表現(xiàn)的主題與導(dǎo)演的思路并無二致。在這部觀眾能強烈感受到理性對弈的作品中，人類因為自負和不加克制的欲望而最終被人工智能超越。飾演智能機器人愛娃的瑞典女演員艾麗西亞·維坎德（Alicia Vikander）表示：“既然我們能夠創(chuàng)造出有‘意識’的事物，我們?yōu)槭裁床唤邮芩麄兡鼙任覀兏鼉?yōu)秀呢？”《機械姬》的出現(xiàn)不單單重復(fù)了以往同類作品已經(jīng)出現(xiàn)過的主題。它還引導(dǎo)我們?nèi)ニ伎既斯ぶ悄艿拇嬖谝饬x與可能，如果在不久的將來，人工智能依靠其龐雜的數(shù)據(jù)庫進行自我進化，并脫離控制，如何防患于未然？影片的答案隨著愛娃融入都市人流一并消失，正如同內(nèi)森有關(guān)人工智能發(fā)展趨勢的論述。在他看來，高度人工智慧的問世只是時間問題，制造愛娃并不是決定，而是發(fā)展。從宏觀來看，這個發(fā)展是一柄雙刃劍，因為它也許在賦予人更多技術(shù)便利的同時，于無形之中讓人類迷失其間?？纯磿r下人們使用的智能手機，也許那會是一個很好的例證。

本文來源：http://www.12-baidu.cn/w/xf/9501.html 《視聽》