21世紀剛剛來臨時，當時著名的太陽微系統公司的創始人、首席科學家 比爾?喬伊（Bill Joy）發表了一篇《為什么未來不需要我們》 （Why the Future Doesn’t Need Us） 的文章。 他指出，在21世紀，人類擁有的最強大的三種技 術———機器人技術、基因工程技術和納米技術———正在使人類自身成為瀕危 物種。與此同時，雷?庫茲韋爾（Ray Kurzweil）在《靈魂機器的時代》《奇點 臨近》等書中則樂觀地指出，人類將在機器的幫助下獲得永生。

在當前的人工智能熱潮中，機器人和人工智能會不會超過人類智能，是否會取代人的問題 再次備受關注。 樂觀主義者認為，全面超越人類智能的超級人工智能一旦出現，將為人類帶來新的文明躍遷。 悲觀主義者則認為，人工智能對人類智能的超越將打破人類智能在地球的絕對優勢，即便不會出現“機器覺醒”——機器人和人工智能統治人的情形，人工智能的發展也可能使人類自身變成多余的物種或無用的人。

不論這些觀點所描述的未來是烏托邦還是反烏托邦，可以都以它們為參照，立足人工智能發展的現實，系統地展開人文或哲學社會科學的反思，以此深入思考人工智能等未來科技發展的上限和下限，找到人類可以普遍接受的深度科技化的前景。

人類未來究竟會是一幅怎樣的圖景？ 未來圖景一是融合科技與后人類發展。 依照這一圖景，除了人工智能可能發展出超級人工智能之外，納米、生命、認知和信息等融合科技將使人類的認知與智能增強成為可能，甚至與人工智能和機器人融為一體，乃至可以通過意識上傳和身體替代而獲得永生。

例如，可以通過藥物、基因技術等實現認知與智能增強，如服用聰明藥可以使人的智能得到改善。 此外，可以通過讀心術、讀腦術、認知介入技術、人機融合的“賽博格”技術等，走向超人類或后人類。 例如，不僅人的而且動物的記憶都有可能被移植。 但這些技術若能得到開發并付諸應用，必將帶來一些難以回避的問題。

人類不得不思考的是，人之所以為人，一個最重要的因素是具有自主性，認知介入技術的發展會不會使人的自主性受到沖擊？ 人還有沒有認知上的自由？ 把別人的記憶移植到某人的大腦以后，怎么知道認知是移植過來的還是自身的？

未來圖景二是機器掌控世界。 機器智能超越人類智能，機器可以在無人監督的情況下自主學習、自行決策甚至自動升級，人類的命運因此可能在很大程度上為機器所掌握。 如果機器智能在功能上超越人類智能，甚至從其心智中涌現出意識和自我意識，人類是否會被機器消滅，取決于人類賦予機器智能的倫理架構是否能在終極意義上，使智能機器遵循機器人三定律等倫理義務或絕對的道德命令。

如果機器智能在功能上超越人類，但不可能生成意識和自我意識，人類很可能因為對機器的依賴越來越強，而將越來越多和越來越復雜的任務交給機器處理，最終越來越無力掌控維持人類社會運轉的復雜決策和行動，不得不逐漸將命運在事實上完全托付給機器。 在此不可逆的未來情境中，即便人類認識到不應該由機器掌控世界，也會因為對機器的高度依賴而無法通過關閉機器重獲主導權。

未來圖景三是人類依然保持對機器的控制，但出現了難以消弭和日漸擴大的智能化鴻溝。 在此未來情境中，機器和社會為少數掌握權力、資本和創新的精英所控制，人口中的大多數越來越多地放棄工作而成為社會系統中不必要的“累贅”，即所謂“無用階層”的出現。

而“無用階層”無疑會對社會治理帶來巨大的挑戰。 如何對其進行心理疏導和社會管控？ 如何從心理和精神層面對其進行智能化的引導和校正？ 由此也可能會帶來更為復雜的問題，特別是可能出現智能算法的非人格化權力在對不同群體的賦能和授權上的不平等，以及由此形成的漸行漸遠的智能化鴻溝等根本性分歧。

透過這些可能的情景構想，人工智能和智能化的未來發展將呈現諸多不易解決的難題。 首先，人工智能與智能化發展可能會導致社會不平等的激化與極端化。 與以往的自動化及網絡信息技術一樣，人工智能和智能化的發展日益呈現出對就業的沖擊，“機器換人”可謂愈演愈烈，而這一沖擊很可能加劇甚至激化社會群體的不平等。

一般而言，自動化與信息化的發展替代了一些勞動力，其創新紅利也帶來了就業的增加。 從作為智能化先導的自動化與信息化的發展可以看到，的確出現了低報酬的簡單技術職位與高報酬的高新科技職位同時增加的現象。

但問題是，一方面，資本對利潤的追逐使得高收入與低收入之間的差距越來越大。 在巨大的資本投入的影響下，網絡與金融結合下的科技金融進一步放大了這種不平等，使得互聯網和金融等行業的分配體系十分扭曲。 在網紅經濟中，網紅與明星不合理的高收入，也是拜當下網絡媒體或智能化的發展背后的巨大資本投入所賜。 當前的大數據、人工智能熱潮與互聯網的發展一脈相承，在很多人工智能的應用領域，收入的差異與不平等也呈現出類似的兩極化趨勢。

另一方面，智能化的發展將使職業變更日益頻繁，由于低報酬的簡單技術職位的知識與科技含量不高，相關從業者的學習能力有限，轉換新職業的能力較弱。 因此，人工智能等智能化技術的發展對就業適應能力差的低收入從業人員的沖擊尤其值得關注。

其次，人工智能對就業的沖擊難免進一步引發人們對智能化未來帶有一種根本性的憂思：面對人工智能與智能化的發展，人類還剩下哪些不會被機器取代的優勢？ 這也可以說是一種危機意識。 為此，不妨列一個所謂的“人類剩余優勢清單”：智能化時代來臨以后，到目前為止，人類至少在創造性與變通性、社會知覺、談判藝術和論證能力等方面勝機器一籌。

最后，信息化與智能化的發展已經或可能會帶來一系列困擾人類的疾患，如虛擬現實成癮、辨別現實障礙、身份認同焦慮、機械移植排異、超智能精神失常、機器人恐懼癥、自我刺激成癮、壽命延長倦怠等。

在這些問題背后更為根本的一個問題是，近半個多世紀以來，多元主義與反基礎主義等思想的濫觴固然有治療激進主義與獨斷論之功效，人類文明似乎已經在思想層面放棄了對人的發展和演進具有一定之規的統一陳述。 毫不夸張地說，面對深度科技化的沖擊與挑戰，人類的各種利益紛爭和價值糾結愈益盤根錯節，人類在整體上其實已經迷失了發展的目標和方向，而只能一邊在經驗主義、功利主義和實用主義的裹挾下盲目前行，一邊祈禱宙斯和雅典娜繼續賦予人類得以幸存的好運氣。

-----

本文節選自作者刊于《當代美國評論》2019年第1期的論文“面向人工智能時代的倫理策略”。作者段偉文系中國社科院哲學所研究員。“澎湃”經授權選編。