·“現在是東西方共同努力的時候。人工智能的發展將改變大國之間的關系。而中國處于一個為人工智能的安全和明智治理做出貢獻的獨特位置。對比中國、歐洲和美國，中國迄今為止在監管人工智能方面做得最多，歐洲第二，美國第三。

麻省理工學院（MIT）人工智能與基礎交互研究中心教授、未來生命研究所創始人邁克斯·泰格馬克（Max Tegmark）。

6月9日，麻省理工學院（MIT）人工智能與基礎交互研究中心教授、未來生命研究所創始人邁克斯·泰格馬克（Max Tegmark）在2023北京智源大會上發表主旨演講，談及為何當下對人工智能的擔憂變得更加必要和緊迫，以及要如何控制人工智能。

泰格馬克表示：“人工智能將改變大國之間的關系。過去，當人們只關注人工智能給予力量這一方面時，每個人都爭相競逐它。但一旦人們開始認識到這可能會終結地球上的所有文明時，想法就會發生變化。與其把它看作一場軍備競賽，不如將其視為一場自殺式競賽。無論誰先獲得不可控制的超級智能，每個人都將在那時滅亡。因此，我認為現在是東西方共同努力的時候，建立合作伙伴關系而不是競爭關系，以確保我們能夠控制人工智能的發展。”

對比中國、歐洲和美國，泰格馬克認為中國迄今為止在監管人工智能方面做得最多，歐洲第二，美國第三。他透露，未來生命研究所與歐洲的政策制定者進行了大量合作，包括現在正在推進的歐盟《人工智能法案》。

未來生命研究所（Future of Life Institute）成立于2014年，致力于研究如何最大限度地減少日益發展的人工智能技術可能帶來的危害。今年3月，該機構官網發布了引起熱議的“暫停AI研究”公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI至少半年，包括特斯拉CEO馬斯克在內的超過1100名科技人士在公開信上簽名。

作為這一倡議的發起人之一，泰格馬克談論如何控制AI的話題并不令人意外。但有趣的是，泰格馬克多次表示，自己并非“深度學習三巨頭”之一楊立昆（Yann LeCun）所說的“doomer”（認為世界正走向毀滅的人），反而他認為，“擁有比我們聰明得多的智能體并非沒有可能。前提是我們可以證明它是安全的。”

人工智能已經接近能愚弄人類的水平

如何控制人工智能，確保它為人類服務而不是對抗人類？泰格馬克認為這需要解決兩個主要問題。

第一是對齊（alignment），即確保人工智能按照其控制者的意愿行事。第二，使全球各組織、公司和個人保持一致，確保他們的動機是將人工智能用于善事而非惡事。“如果我們只解決了第一個問題并廣泛應用非常強大的人工智能，那么我們可能會面臨這樣的情況：恐怖分子或其他希望控制世界并執行我們不希望看到的行動的人，可以利用這項技術。”泰格馬克說。

實際上，人類對于能否控制人工智能的擔憂早已存在，早在艾倫·圖靈時代，就有人表示擔憂。過去9年里，包括泰格馬克在內的許多人，如物理學家史蒂芬·霍金、加州大學伯克利分校人工智能系統中心創始人斯圖爾特·羅素和2004年諾貝爾物理學獎獲得者弗蘭克·威爾切克等，都曾對這個問題表示擔憂。

但泰格馬克強調，現在的擔憂更加緊迫，因為人工智能已經接近能夠愚弄人類的水平，即人工智能通過圖靈測試。換句話說，人工智能可以掌握語言，這在過去被許多研究人員認為標志著其非常接近人類所能做到的一切。

但是，對于未來人類在理解AI系統方面的能力，泰格馬克表示他實際上比楊立昆更加樂觀。“我認為，如果我們全速前進，將更多的控制權從人類手中交給我們不了解的機器，那人類世界將以非常糟糕的方式結束。但我們不必那樣做。如果我們努力研究機械可解釋性（研究人類知識如何儲存在神經網絡的復雜連接關系里，最終解釋大語言模型為什么會產生智能），以及許多其他技術主題，我們實際上可以確保這些更強大的智能為我們服務，并用它來創造一個比科幻作家過去夢想的更加鼓舞人心的未來。”

人工智能發展將改變大國之間的關系

對于此前發出的“暫停AI倡議”，泰格馬克澄清道，其目的并非是暫停人工智能研究，而只是暫停開發比GPT-4更強大的系統，暫停的目的只是讓人工智能像生物技術一樣有一定的安全審查。在生物技術領域，一家公司發明一款新藥后并不可能隔天就讓產品出現在各大藥店，而是首先要說服政府的專家它是一種安全的藥物、好處大于壞處，經歷審查后才可以向大眾售賣。

那么如此會破壞創新嗎？泰格馬克反問道，“當然不是。其實恰恰是對危險品的監管太弱，反而經常破壞創新，比如民用核電，這方面的投資基本上已經崩潰，至少在福島事件之后的西方是這樣。”

泰格馬克認為，人工智能的發展將改變大國之間的關系，而中國處于一個為人工智能的安全和明智治理做出貢獻的獨特位置。

“中國是世界領先的科技大國，所以它可以幫助領導研究。同時不僅是關于如何讓AI變得強大，還有如何讓它變得更加魯棒（robust）和值得信賴。由于中國的國際影響力與其啟發和塑造全球人工智能議程的能力同步增長，中國的聲音真的很重要。就在上周，我非常高興看到中國的全球安全倡議明確談及預防人工智能風險。”

據泰格馬克透露，未來生命研究所與歐洲的政策制定者進行了大量合作，比如歐盟《人工智能法案》。“如果我們能夠幫助歐洲提出真正明智的監管措施，美國很可能會效仿。我們在歐盟GDPR（通用數據保護條例）中看到了這種情況。例如，美國人并不想為了隱私而做任何類似的事情，但在歐盟通過這些法律后，美國人收到的垃圾郵件也開始減少，GDPR所提及的內容也開始在美國越來越流行。”他說。

泰格馬克給人工智能領域研究者的建議是專注于基礎知識，因為經濟和就業市場的變化會越來越快，“我們正在擺脫學習10年或20年然后余生都做同樣事情的模式。更重要的是，在扎實的基礎之上，要有創造性和開放的思維。當然，要關注整個人工智能領域正在發生的事情，而不僅僅是在自己的領域。因為在就業市場上，首先會發生的事情不是人被機器取代，而是不與人工智能打交道的人將被與人工智能打交道的人所取代。”