馬斯克對人工智能的擔憂并非玩笑。

據《財富》8月21日報道，包括特斯拉、SpaceX創(chuàng)始人埃隆·馬斯克（Elon Musk）和谷歌Deepmind聯合創(chuàng)始人穆斯塔法·蘇萊曼（Mustafa Suleyman）在內的166名人工智能（AI）研究人員已經致信聯合國，要求嚴格監(jiān)管自動武器，即“殺手機器人”。 雖然信件本身措辭比較謹慎，但隨同信函發(fā)表的一份新聞稿表示，他們希望機器人武器被“禁止在國際上使用”。

該信的簽署人還包括丹麥通用機器人公司、加拿大元素AI公司以及法國Aldebaran機器人公司的高管和創(chuàng)始人。

這封信嚴格描述了機器人武器的風險，并表示迫切需要采取強有力的行動。此次專家團聯合上書主要是針對聯合國官員考慮在聯合國常規(guī)武器公約中加入機器人武器。早在1981年制定的公約和平行條約中限制了化學武器、眩目激光武器、地雷和其他武器，這些武器被認為 “會對戰(zhàn)斗人員造成不必要的或不正當的痛苦，或者不加區(qū)別地影響平民”。

此前，機器人戰(zhàn)士被認為可以減少人類士兵的傷亡，至少對富有的發(fā)達國家來說是這樣。但馬斯克和蘇萊曼所代表的專家團主要的擔憂來自于機器武器對平民的風險。他們寫道：“這些武器可能會被暴君和恐怖分子用來對付無辜的人民，以及可能被黑客以惡意的方式使用。”

這封信還警告表示，如果不能迅速采取行動，將導致軍備競賽走向“殺人機器人”。事實上這已經在成為一種趨勢，包括雷聲、達索、MiG在內公司已經在開發(fā)或開發(fā)成功自治武器系統或前導技術。

元素AI創(chuàng)始人約書亞·本吉奧（Yoshua Bengio）還警告表示，AI武器化實際上可能會“損害人工智能的在良好應用方面的進一步發(fā)展”。這正是弗蘭克赫伯特的科幻小說《沙丘》中所預見的場景——在一個宇宙中，所有的思考機器都被禁止，因為它們在過去的戰(zhàn)爭中扮演了角色。

據悉，聯合國武器組織原定于8月21日召開會議，目前這次會議被推遲到11月。各國在此次專家會議上將表明對“殺人機器人武器”的觀點，在邁向制定管制框架的討論事實也即將啟動。目前美國被認為正在急速推進開發(fā)“殺人機器人”。 迄今為止，在關于“殺人機器人武器”管制問題的非正式討論中，機器人技術發(fā)達的日美對制定條約實施管制等態(tài)度慎重，而中國則表明了支持管制的立場。