原創 鐘文 品玩

作者｜鐘文

五個無辜者被一個瘋子綁在電車軌道上，眼看著一輛失控的電車正在駛來，此時你的手上有一個拉桿，可以讓電車開到另一條軌道上。但另一個條軌道上也綁了一個無辜者。

你會為了救五個人而犧牲另一個人嗎？

這個電車難題是倫理學上最著名的思想實驗之一，在這個實驗中，背負倫理矛盾，被要求做出選擇的是人。菲利帕·福特在上個世紀60年代提出這個問題，55年后這個問題不得不被進一步復雜化。

面前是這樣的生死時刻，如果握著這柄拉桿的是人工智能和算法呢？

《道德自主汽車》，圖片拍攝自「Hello,Robot.」展覽現場

在一件名為《道德自主汽車》的概念作品中，瑞士設計師馬修·切魯比尼假想了一個并不存在的自動駕駛系統。

自動駕駛技術因其具備提升社會效率的巨大潛力，已經成為人類與人工智能最矚目的交匯點之一。汽車曾在工業時代標志著人類社會的巨大革新，又逐漸進化成一個新的智能體，開始在新的時代顛覆人類對于機器人的舊定義。

如果自動駕駛的原則進一步細化下去，分別以社會影響、貨幣成本或者乘客個人安全作為第一優先級的考慮因素，未來的智能汽車將會如何在面對一場不可避免的車禍時提供最優解？

馬修·切魯比尼提出了這個問題。這件關于自動駕駛的思辨設計作品目前正于北京798藝術區的現代汽車文化中心里展出，是由現代汽車和維特拉設計博物館共同主辦的機器人主題展覽中的一件。

機器人，這個從人類的浪漫幻想里誕生的名詞，現在已經深刻地進入了工業領域，在深度學習和人工智能的羽翼逐漸豐滿之后，機器人開始嘗試與人類情感發生聯結。這其中帶來興奮與不安，也在重置人與機器的關系。人與機器該如何共生？幻想正在變成一個需要嚴肅思考的現實問題。

其中一些尖銳的思辨被科學家和藝術家們抓住，成為作品，收錄進這個主題展中。

「Hello,Robot.」，是這個展覽的名字。

戲劇、夢幻與人類想象：Room1

自動駕駛的展品被放置在展覽開篇的第一個房間，同一個房間里，一同展示的有世界上第一個出現在大熒幕上的等身機器人Elektro (Moto-Man)、星戰里的C-3PO和R2-D2，以及草薙素子，一些大眾藝術品中關于機器人的標志性形象。

圖片拍攝自「Hello,Robot.」展覽現場

算法、人工智能、IoT，科技的進步成為我們一次次重新定義機器人的憑據，而人類對于機器人的最初靈感，強烈的夾雜著文學和藝術性，具體來說，Robot這個詞來源于一場戲劇。

1920 年，卡雷爾·怡佩爾創作的一個關于R.U.R公司生產機器人的劇本首次出版，在這些機器人起義反抗之前，他們是沒有任何權利的廉價勞動力。在這部戲劇中，「Robot」這個日后將會成為世界上所有知名的搜索引擎中的高頻詞被創造出來，隨著戲劇第一次出現在維也納、柏林以及紐約。

在C-3PO和R2-D2的照片旁邊，一塊屏幕上放著發電站樂隊2017年《3-d the catalogue》專輯里的一首歌。這個從「泡菜搖滾」開始一腳踹開電子樂大門的柏林樂隊，也讓柏林至今仍然無可爭議的留著一張Techno圣地的名片。

兩年后的2019年，一張叫做《Auxuman Vol.1》的專輯發布，制作公司是Auxuman， 一家人工智能音樂初創公司。這張專輯收錄了十首歌，由人工智能創作和演唱，最熱門的一首《One》在YouTube上的觀看次數超過了8萬人。最高贊的留言看起來像是一句警告:「不要點踩(Dislike)，AI會記住你的，等到他們的時代來臨」。

《One》

人類對于機器人的戒備近乎本能，并且一直藏在浪漫空想的背面。當非人類物體擺脫空想時代，機器人開始切進人類生活，它首先成為了工具。

效率、工具與被替代的隱憂：Room2

從第一個空間出來，布景從黑色轉為明亮。這個寬闊展廳的一側，放著不同形狀又質地各異的椅子，它們沒有榫卯，沒有螺紋和釘子。

展覽中的3D打印椅子。圖片拍攝自「Hello,Robot.」展覽現場

1986 年，美國科學家Charles Hull開發了第一臺商業3D印刷機；僅僅24年之后，世界上第一輛3D打印汽車Urbee問世；到今年7月，看慣了豐富河道的阿姆斯特丹居民們見證了人類歷史上第一座3D打印鋼橋的落成。這成為我們思辨的矛盾核心：在生產活動中，機器人應該取代人嗎，這會帶來什么后果？

"如果工人被機器人取代，丟了工作與收入，消費能力降低，那么大批機器人生產出來的商品又沒有人購買，這是一個人與機器間的悖論。"

左側的一個電視屏幕在滾動著一些采訪片段，一位學者這樣發問。

椅子的對側有一臺電腦，顯示的網頁關于一個測試：「你的職業被機器人取代的概率有多大？」

展品：機器人會取代你的工作嗎？測試：「你的職業被機器人取代的概率有多大？」。圖片拍攝自「Hello,Robot.」展覽現場

顯示屏的畫面里顯示，IT工程師的被替代率是73%，行政人員是97%，攝影師或短視頻拍攝者也到了50%。當機器人能夠完全滿足人類的工作場景，金融分析師、秘書、酒保這些角色都將不復存在。

但仍有不少社會角色看起來會長久的處于安全區里，意外的是，除了極度依賴人類智慧的科學家與工程師們，一些與人類生活非常靠近的工作也難以被取代——比如護士。這意味著在我們目前所認知的機器人極限里，當觸及思想和情感，人類角色無法被完全代替。

但在機器人本身的發展中，「理解人類」本身就是最重要的課題之一，甚至是人類對于機器人好奇心的出發點。

機器人已經遍布人類社會的工作場景。下一步勢必要跳出工作，與真正的人類情感相交。

圖靈測試、情感與自我拷問：Room3

電影《機械姬》里，年輕人迦勒被卷入一場關于機器人研發的騙局，隨著交談深入，年輕人逐漸被機器人駕馭，最終成了后者擺脫人類叛逃的一把鑰匙。

整個交談就是一場被擴展了的圖靈測試，迦勒被要求回答的問題是，自己是否會在明知對方是機器人的情況下，依然把它當做人類，并產生本能的共情。

電影《機械姬》

最終機器人Ava通過了測試，但迦勒也被永遠困在一個狹小房間，這似乎是一場噩夢的開始。

回到現實，人工智能的發展要積極地多，無數場圖靈測試已經發生，機器人對于情感的接受和反饋，鋸齒感正在逐漸消失，它們開始成為人類情感生活的補充。

荷蘭觸覺公司2014年的產品Frebble可以讓觸覺同頻，一個人握緊著其中一個觸覺機器人，成對的另一個會將相同的觸覺傳遞到另一只緊握著它的手上。圖片拍攝自「Hello,Robot.」展覽現場

Paro是一只海豹，也是一個為癡呆癥患者提供慰藉的治療機器人。它的身體里有聽覺和光學傳感器，你可以撫摸它，或者叫出它的名字，它會扭扭身子回應你的。圖片拍攝自「Hello,Robot.」展覽現場

從抽象的推薦算法，到更容易理解的海豹，機器人一直在向人類情感靠近，但這并不是機器人的主動選擇，荷爾蒙來自人類自己。

20世紀90年代，日本興起了感性工學（Kansei Engineering）的研究浪潮。感性工學基于語義分析，將人類感性與工程結合起來，并且傳遞到具體的商品設計和制造業里。

詭異的天才工程學教授石黑浩在2007年將自己的機器人“替身”帶入公共視野。石黑浩在機器人的仿真皮膚下埋入50多個傳感器和馬達，它可以挪動身體，也有簡單的痛覺反應器。石黑浩可以依靠遙控器和機器人眼球背后的攝像頭來實時地控制“替身”，甚至將它擺在學校教室代替自己上課。

石黑浩和他的替身

機器人對于人類情感的呈現和感知，就像是信息的輸出和輸入兩端一樣缺一不可。巧合的是，兩者幾乎在同一時期開始展現出發展跡象。

“情感計算是針對人類的外在表現，能夠進行測量和分析，并能對情感施加影響的計算。”

1997年，Rosalind W. Picard發表著作《Affective Computing》，這位麻省理工學院跨領域尖端科學實驗室Media Lab的人工智能領域巨擎，第一次在人工領域里劃出了情感計算的分支，依靠機器算法以及傳感器的支持，真實笑容與苦笑，以及更復雜的人類情緒，開始嘗試被轉錄為絕對理性的代碼。

2016年時，麻省理工計算機科學與人工智能實驗室推出了一款名為“EQ-Radio”的設備，實驗室團隊表示，EQ-Radio可以依靠監測呼吸和心率層面的細微變化，來判斷一個人的情緒是興奮、高興或者悲傷，并且準確率達到87%。

從左到右：Fadel Adib博士、Mingmin Zhao博士以及Dina Katabi教授

但許多重要的問題在人工智能領域的發展初期被忽略掉了，直到近幾年才集中性地被被重視和重新提出，比如人工智能的道德問題，以及機器人被賦予的情感，是否需要在某一個界限內。

《紐約時報》在2018年發表了一篇文章，指出當下人工智能攜帶文化偏見，比如詞語"女性""婦女"與藝術人文類職業以及家庭聯系更緊密，詞語"男性""男人"則和數學、工程類職業更近。除此之外，從微軟、IBM和曠視三家公司的人臉識別API所關聯的數據來看，研究顯示人臉識別對于不同人種的準確率存在巨大偏差，針對黑人女性的錯誤率甚至高達30%。

深度學習為機器人快速形成人類思維提供通道，但以大量人類社會信息為養分的深度學習，本身就先天性的帶有偏見。一些研究者認為這種偏見的濃度甚至會在深度學習的過程中被強化，因為它們不像人可以有意識地去抵制偏見。

機器人最終需要遵循人類的倫理規則，也需要足夠的道德敏感性，越來越多的學者意識到，這甚至應該發生在機器人進一步理解人類情感之前。

在上述展品的旁邊，安靜放著另外兩件作品，質問著機器人的情感與人類的親近極限。

你是否愿意在生命的最后一刻與機器人相伴？

這個裝置叫做「臨終關懷機」，接近死亡的人類可以購買這臺機器，它將貼合著人類小臂的護膚對人類進行安撫，置于機器內的傳感器則可以感知人類的生命狀態，并且在最終，準確的記錄下人類的死亡時間。圖片拍攝自「Hello,Robot.」展覽現場

或者將自己的衰老過程托付給機器人，甚至變成一個百分數？

「火葬機器人」，通過將自己的毛發、指甲等等放入這個瓶子中，人類可以知道自己新陳代謝以及衰老的過程，隨著放進去火化的東西越來越多，瓶下的百分數會向前演進，這也意味著與死亡越來越接近。藝術家陳丹想要表達的是，人類需要直面生命不斷進入下一個階段的事實，并且積極地看待這件事的發生。圖片拍攝自「Hello,Robot.」展覽現場

無論如何，具備情感的機器人仍然與人類站在同側，這是這些作品背后所保留的潛在共識。在人與機器共生的不確定中，我們需要這樣一個堅定的錨。

回歸、合一、我們共同的未來：Room4

如果突然有一天，所有的機器人都突然報廢，這個世界將會怎樣?顯而易見，這個世界也將幾近報廢， 這是我們的生活現狀。機器人還無法讀懂自然語言，但它與人類生活的相融早已經發生了。

智能電動車，充滿IoT芯片的房子，人類與機器人融合的最后階段就是人類生活在"機器" 里。這個機器可能是你的身體，或者整座城市。

城市是否一定要遵循扎根土地的原則，只能通過“建立-拆除-再建立”的邏輯演化？英國先鋒建筑電訊派成員朗·赫倫在上世紀60年代開創了“行走城市”的構想，整個城市成為一個巨大的游牧系統，而人類融入其中。圖片拍攝自「Hello,Robot.」展覽現場

手機在很早前就被描述為人體的外接設備，智能汽車也將在未來普及，成為人體的更敏銳的官能。

人類從開始直立行走到進化出高級文明，至少用了500萬年時間。而在短短兩個世紀內，汽車的發明讓人類的“行走”速度提升到了數十公里每小時。

機器人與人類社會共生的過程中爭議不斷，但隨著機器人的發展越來越接近人類最初的幻想，這又是必然會發生的。2017年的沙特阿拉伯發生了一件重要的事，"女性"機器人索菲婭成為沙特第一位機器人"公民"。

這個由香港漢森機器人技術公司研發的類人類機器人，旨在學習和適應人類的行為、并與人類一起工作。索菲婭的原型是奧黛麗·赫本，具有人工智能、視覺數據處理和面部識別功能，這意味著她可以解讀外界的信息，并且以語言或表情做出反饋。

類人類機器人索菲亞

在一次電視采訪中，當采訪者表露出對于機器人的擔憂時，索菲亞甚至打趣說對方一定是看了太多馬斯克或者好萊塢的東西。

但這種擔憂是普遍存在的，這種擔憂在機器人越來越同時在形體和智力水平上接近人類的過程中愈發鮮明。這觸及到一個本質的爭論，人類制造出的機器人，是希望成為人類的附庸，還是另一種與人類平起平坐的生物？你想變的比自然創造出來的更好嗎？

機器人促進了進化嗎？

這是這次展覽的最后兩個問題。

左為Ekso GT??，世界上唯一獲得 FDA（美國食品及藥物管理局）認證的，用于治療中風偏癱、高位截癱患者的機器人外骨骼，它為截癱患者提供了一個強力的外部支撐和行動系統；右為醫療技術公司奧拓巴克在2007年推出的機電控制假肢，通過與身體的神經末梢連接，假肢可以像自然手臂一樣重新與腦電波建立聯系。圖片拍攝自「Hello,Robot.」展覽現場

答案顯而易見，并且正在發生。

尾聲

最后一個房間，色調從溫暖的粉色重新暗淡下來，仿佛回到關于「科學與想象」的第一室。這契合著人類對于機器人的研究的演進，從基于人體的幻想開始，然后成為工廠的機械手臂、客廳里的掃地機，在科技發展到一定程度后，重新將情感和仿生學的技術貫徹進去，以期更深刻地融入人類生活。

機器人的發展，是人類對于自身和外部客觀世界的認識的群體意識總和。最終，也許我們可以逃離恐怖谷，面對眼前觸手可及的人工智能放下戒備，問候一句

——HELLO,ROBOT.

「HELLO,ROBOT. Design between Human and Machine」，即《你好，機器人-人類、機器與設計》主題展，正在進行中。

時間：2021年12月17日——2022年3月20日

地址：北京市朝陽區酒仙橋路甲4號798藝術區E-1號，現代汽車文化中心

這是該主題展在中國的首次亮相。

· 文章版權歸品玩所有，未經授權不得轉載。

原標題：《我與機器人，如何過好這一生？》

閱讀原文