- +1
人工智能時代的政治哲學思考(上)
【編者按】
2017年11月27日,在上海外國語大學虹口校區第277期“上外博士沙龍”活動中,華東師范大學政治學系教授吳冠軍發表了題為“人工智能時代的政治哲學思考”的學術演講。
吳冠軍教授認為,人工智能崛起是我們這個時代的大事件,面對這樣的大事件,政治哲學研究者應當介入。吳教授引用荀子和亞里士多德的看法指出,人類的政治活動源自“人能群”,這使得人類相較于動物自成一個維度。但面對當今人工智能的新進展,人類有些緊張,有些懼怕,因為人類忽然發現,現在搞不定人工智能了。
吳教授指出,人工智能的崛起,可能給人類社會帶來新的維度變化,加劇社會中極少數精英與絕大多數民眾之間已有的社會分化。解決之道在于,邁向“共富國”,就是實現共富,讓社會中的每一個人都有機會能分享到今天科技發展的利好。吳教授提醒我們,當分享不了的時候,這個社會就會出現越來越多的扭曲。
以下為這次學術演講的文字記錄稿,由澎湃新聞記者依據現場錄音整理和編輯,并由吳冠軍教授改定。全文約兩萬字,分三部分刊出,以下為第一部分。
2001年出品的美國電影《人工智能》海報這個時代,我們都身處其中。郭敬明寫過一部小說,叫《小時代》,拍成電影之后票房還不錯,可豆瓣評分很低。但“小時代”這個說法本身是有疑問的。為什么是“小時代”?我們所處的時代,難道不是個大時代嗎,我們難道不是正在經歷一個可能是人類文明史上非常大的變動時代嗎?
在這樣的時代里面,如果你們關心各種各樣的討論,你們會發現,關于人工智能的討論特別熱鬧。各個學科的專家都已經出動了,他們都努力對人工智能發出自己學科領域的聲音。但是我發現,政治哲學研究者的聲音,到目前為止是缺席的。甚至在哲學領域內部,已經有倫理學者的聲音,研究人工智能的行動倫理準則;有認識論研究者的聲音,討論人工智能有沒有智慧,或者說有沒有自己的思想,等等;甚至有法學家提出了關于怎么就人工智能進行立法的意見。但是政治哲學研究者的意見卻很稀少。
我覺得,在這樣的時代里面,我們應該有所介入,從政治哲學的角度介入。
人工智能崛起是我們這個時代的大事件
那么,作為政治哲學研究者,我們該怎樣看待人工智能呢?我覺得,我們可以打開一個很大的畫卷。
首先值得思考的是:在這樣一個大時代里面,人工智能是我們人類很多了不起的震撼性科技發展中的一個呢,還是說,人工智能不只是萬千科技發展中的一個,它同時帶給我們一個大線索,讓我們貫穿性地思考人類文明整個自身,思考我們人是怎么一種存在,我們以怎樣的方式組建了我們的文明?
這個思考就牽涉到這樣一個關鍵點:如果說我們值得存在——不是說,因為我們是人,所以我們不想被取代——如果說不管未來的人工智能怎么樣,我們都值得在這個星球上存在,那么,究竟是什么讓我們“值得”?我覺得有意思正是這一點。人工智能給了我們一個很好的反思點,我們不要錯過。
我們要把握這個大時代里最關鍵的大事件,就是人工智能的崛起。而且這個崛起不單只是一個現象,它本身就是一個指數級的發展。我們可能每天過著我們的節奏,你們是博士生,我是老師,你們每天上課,我每天上課、做研究,但是那一邊,今天有多少個實驗室,有多少家大公司,有多少政府,它們在人工智能的賽道上巨額投入,使得人工智能以指數級速度發展變化。
去年(2016年)我們知道,“阿爾法狗”(AlphaGo)打敗了韓國圍棋手李世石,當時是有勝有負地打敗,而今年(2017年)它很輕松地擊敗了我們認可的“世界圍棋第一人”柯潔。而且現在“零度阿爾法狗”(AlphaGo Zero)又出來了,都不跟人玩了,它自己跟自己玩,自己打敗了當年打敗李世石的阿爾法狗,而且100比0完勝。
“零度阿爾法狗”聲稱,它不需要跟人類有任何關系。原來的阿爾法狗還大量研究棋譜、研究人類的高手怎么出棋。“零度阿爾法狗”根本不睬,根本不認為這是重要的。它從零開始,所以叫Zero,它任何人類棋譜都不看,人類曾經有的任何下法、戰術不看,從一張白紙開始。你給我下棋規則,我重新自己學習,左右互搏,自己跟自己玩。結果三個月內,成就了最一流高手。這是很駭人的。
柯潔這個年輕人不服輸,敗給阿爾法狗以后,他回去后就復盤阿爾法狗與他對戰的每一盤棋譜。之后柯潔說的一句話讓我很緊張。他說的是:我看阿爾法狗下棋,看不懂為什么它這么下。如果能看懂,盡管對方贏了,也說明兩者的水平至少在一個維度內,但柯潔根本看不懂阿爾法狗,覺得它下這步棋莫名其妙,但是它就贏了。這是很恐怖的事情。這意味著,從現在起,圍棋已經不是人類的活動了。現在哲學界有個詞叫“后人類”,圍棋已經成了后人類的活動,人類不需要參與進去,參與進去也只是在很低的水平上胡亂玩玩而已。
在這樣的時代里面,我們認為人有價值,那么就要思考,這個價值在哪里?所以我們先打開這個畫卷,不只是把人工智能看作人類科技進步歷程中的一個小的新臺階,而是看作這樣一個點:在這個點上我們取得一個視角,回過頭去對“人”——人的“文明”、人的價值——做貫穿性的思考,思考我們怎么走來,我們怎么走到了我們現在這個點上。
如果說未來出現我們要被取代或者不被取代的情形。我們要打到最后一兵一卒,但抗爭到底本身需要意義也支撐。就是說,我們如何說服自己相信,人類是一項值得抗爭的事業?
有一個視頻節目叫《曉說》,高曉松主講的,不知你們有沒有看過幾個月前的一期。他講的一段話很有意思。在那一期里他講小說《三體》,講得很開心,結果說漏嘴了。他說《三體》里面有一個情節,就是第一卷里面,在這卷中“三體人”并未到來,地球上卻產生了秘密社團“地球三體組織”,為三體人到來并占領和統治地球積極做準備。他們這當然是背叛人類,是“人奸”,而且這個組織的核心成員都是社會精英,尤其是大科學家、教授、富商,他們呼喚外星人快來,快來統治我們。人類沒救了,我們只希望外來的文明快過來,然后我們對你頂禮膜拜。
然后高曉松同學開心地說:如果現實世界真有這樣的社團,我肯定加入其中。當高曉松這樣的知識分子、社會精英,對人類自身已經不是產生懷疑的問題,而是覺得沒有必要去為人類抗爭,并期待另外一個文明來加以取代,甚至非常奮勇地參加另外一個文明對人類的統治時,我們必須要思考,這是為什么?這是我們要思考的起點。
從政治哲學角度思考人工智能,我會講到什么是政治,什么是哲學,以及怎么跟人工智能這樣一個時代發生關聯。
“人類紀”這個概念告訴我們什么
首先,我拎出一個概念,這個概念叫“人類紀”。
今天,我們大家生活在這個星球上面,覺得很開心,因為這是屬于我們的星球。大家有沒有思考過一個最根本的問題:這個星球為什么是我們的?我們很自然覺得,當然就是我們的,我們的星球遍布人類的足跡,我們很自豪,所以才會有這樣一個詞叫“人類紀”。
我們知道,“某某紀”是一個地質學的概念,比如侏羅紀、白堊紀等等。但是最近,如果你們比較關注前沿學科的發展,那么就會看到,過去至少十年,不只一個學科,有多個學科的非常卓越的思想家,都不約而同開始采用一個詞語,“Anthropocene”,中文翻譯為“人類紀”。
你們搜一下,關于這方面的專著已經很多種。但為什么這個詞本身突然之間變成了一個熱詞,學術界的熱詞?還有一點,盡管各個學科的人很熱衷這個詞,但是地質學家不認可。就是說,最應該認可這個詞的地質學家說不行。他們認為這個提法不科學,不認為它有科學根據。
那么什么是人類紀呢?一個最關鍵的定義是,我們過去,從今天這個點往前整個七萬年,我們人類,或者說是智人(Homo Sapiens)——最近有一本非常賣得好的書叫《人類簡史》(Sapiens: A Brief History of Humankind),就是用“Sapiens”這個詞做書名——成為影響這個星球面貌變化的最大因素。這是一個很大的論題。你們想想看,這意味著過去七萬年里,人類對星球面貌的影響,要大過地殼運動,大過小行星襲擊,大過各種各樣所有的其他因素。
怎么去思考人類對地球這個星球的這樣一種影響力呢?盡管地質學家對這個概念并不買單,但對我來講,我覺得人類紀是一個好的概念。因為哲學說到底就是提出不同的概念。
我們今天說哲學,它是干什么的?哲學不再是給你真理——所謂太陽底下唯一的真理。我也不知道哪個是真理。但是哲學也一個很重要的力量,那就是,創造新概念。沒有人類紀這個概念與有人類紀這個概念是不一樣的,思考問題的方式不一樣。我們可以借助很多過去哲人提出的概念,來思考所面對的當下問題。學習這些概念是為了什么?不是學習真理,不是學習康德說了什么,黑格爾說了什么。而是說,經由他們提出的那些概念,我們發現,我們可以打開全新的視角,看到不一樣的東西,從這些過往哲人提出的概念里面,我們可以重新思考我們當下的生活。
人類紀這個概念亦是這樣的。不管專業學者怎么爭論,至少我們已經認識到,人類在過去七萬年里面扮演了重要的角色,就算不是最重要的角色,但至少也是非常接近了。那么問題就來了:Why us?為什么是我們?
看看我們自己,我們這樣一種動物,我們憑什么力量,成為改變地球面貌的最重要因素,甚至產生出一個“人類紀”?回過去看,這真的是一個很奇怪的謎題,一個很不可思議的東西。如果你穿越回去,不要說回到七萬年前,你回到五萬年前,就算你學會了一種交流的方式,也沒有人會信你的。怎么可能呢?我們這樣一種智人——現在你不要被那種好萊塢英雄電影或者是《戰狼2》欺騙了,在《戰狼2》里,吳京厲害到赤手空拳就把一個坦克車軍團弄到灰飛煙滅了——會有這么大的本事?
你把一個人直接放到自然環境里面,我們都知道,我們就處在食物鏈的中端。我們能欺負一些比我們小的動物,但是我們真的沒用。一個人假如碰到一只老虎,那人就是美食,碰到一只“吃貨”老虎,還不夠它吃一頓。關于人的力量,我們都知道,今天我們可以意淫很多東西,但實際上我們的力量,連一只老虎都沒法比,狹路相逢的話,你就是姚明、泰森也沒用,不要說鹿晗、薛之謙這些小鮮肉了。
然而就是這樣一種力量弱小的存在,經過一個很奇異的變化,在過去七萬年中竟然成為改變地球的最重要力量。所以,既然要思考人工智能是否會取代人類,我們就要思考人類怎么就跑到了食物鏈的頂端?我們做了什么?
政治的起點:人能群,彼不能群
中國戰國末期思想家荀子(約公元前313—238)在思考這個問題的時候,我們發現,我們正一步步接近我稱為“政治”的維度。什么叫政治?關于政治的起點,有一句話是荀子說的。他說,我們人跟禽獸有一點區別。什么區別呢?他講,“人能群,彼不能群”。它們不能夠群處在一起,而我們人可以搞在一起。人能群,這句話非常經典,在這么早的時候,就有人說了這么一句有洞見的話。
剛才我說到人的體魄,人的體魄就那么小,人碰到外在的力量,怎么去對抗?我們單個的人,與任何一個大型的食肉動物都無法對抗。但是如荀子所說,人能群,彼不能群。人靠自己的能群來對抗。很有意思,你去看動物,有兩種動物有能力群居:一種是螞蟻、蜜蜂,它們是群居的。那么荀子說錯了嗎?不是的。螞蟻蜜蜂確實分工嚴謹,但照我說,這個來得太容易了,這種群居不要求這些螞蟻和蜜蜂有任何群居的智慧,它們的群居行為是刻寫在其DNA里面的。在任何一只工蟻、任何一只工蜂那里,它們所有的行動,它們扮演的角色,都沒有任何智慧在里面,而都是DNA驅使的結果。
另一種情況是,一些大型哺乳動物比如黑猩猩、大象也能群居,但是你去數群居的數量,一般來講,一個黑猩猩群體的數量不會超過二三十只,三十是個極點,再往上走,就搞不定了,就只能分成兩個小的猩猩群體,彼此對咬。象群也一樣,它們是群居,但是超不過一個數字,超過一個數字,就會有頭領引導一群象出走。甚至像老虎,成群的數量更加少,沒辦法以一個大型的方式生存。你如果只能在一個數字里面,沒辦法往下一步走,那你這個群體的整體力量就限于這個數字。但是群居的智人,很快就突破了這個數字。
古希臘思想家亞里士多德(公元前384—322)在荀子的時代,世界的另一邊有一個很重要的思想家:亞里士多德。他說,“人天生是政治的動物”。為什么不說別的呢?為什么說人是政治的動物,亞里士多德要干嗎?我們知道,那個時代被稱作“軸心時代”,這么稱呼是有道理的。這兩個人,荀子與亞里士多德,是完全沒有可能交流的,不可能鴻雁往來。但是似乎有一種力量,讓他們都提出了一個很關鍵精彩的洞見。
我們分析一下亞里士多德這句話,對它做一個話語分析。很簡單,首先,人是動物。不要覺得人了不起,在亞里士多德那個時代,沒有《戰狼2》可以看,人和動物一樣要吃、喝、排泄,沒有什么區別,人是動物。然而關鍵的是,人是動物,并具備政治能力。拋開政治能力的話,人跟動物沒什么區別。但就是因為有了這樣一個政治的能力,人最后成為了人,最后從食物鏈的中端爬到了頂端。
為什么這么說?亞里士多德看到了什么?人能組成一個社會,人能組成一個城邦,這個點抓得非常精準。人作為單個動物毫無力量,但是人竟然有這樣的智慧,可以以社會的形態,以共同體的形態生活在一起。
當這個形態,這種政治能力,在我們人類身上得以實踐以后,我們發現一切都改變了。
亞里士多德有另外一句話,可以和前面那句話聯系起來思考。他說,人不能離開城邦(polis)而生活。在當時,一個城邦有幾千個公民,加上所有奴隸在一起,幾萬個人——亞里士多德絕對想不到會有上海那么大的城市。在亞里士多德那里,城邦是什么概念?城邦的邊界是,找一個嗓門最大的人,站在城邦的中心大喊一聲,最遠能夠聽到的邊界就是城邦的邊界。城邦就是人說話彼此能夠聽見的空間,人們發生關系、發生交往、發生連接、發生合作的可能性邊界。
在城邦里面,人是安全的,這是亞里士多德當時的論斷。他的論斷是,人不要輕易離開城邦。人離開城邦后,要么成為神,要么成為野獸。你離開城邦還能活下來?要么就是半人半神,要么你就下降為野獸。一只老虎是不敢跑到城邦里面來的,我們看《水滸傳》里面,老虎是不敢到村莊里去的,但是你如果落單了,你如果單身走山路,那么就有可能會被老虎吃掉,除非像武松這種人出來。想想看,當時真的很震撼,一個人赤手空拳打死一只老虎的話,那真的是英雄,一般人是不可能做到的。
所以人不能隨便離開城邦。為什么不能離開?因為老虎到城邦來是它找死,有那么多人,肯定把老虎打死,這就是合作的力量。就是說,我們單個人沒有老虎那么大的力量,但是我們組成一種合力,比如幾個人去射箭,幾個人去誘惑,幾個人從后面布置陷阱,幾個人扔石頭,搞了一個戰術組合以后,一只老虎跑過來,最后肯定會被干掉。所以老虎這樣的動物再厲害,到今天竟然被人類弄到幾乎滅絕。你們看,從七萬年前開始,人類遷移到哪里,哪里的動物就遷走;人類占駐的村莊、城邦,所有的大型生物,老虎、獅子都得放棄。
政治不是一件簡單的事情,政治就是人類能夠合作,能夠群處。兩個人在一起,不是先撕破臉打一架,而是我們能合作,至少能生活在一起。秩序怎么來的?人類可以編織一套話語,然后形成一個合作,大家都服從這個話語,就可以彼此合作了。甚至話語還有讓人犧牲的力量,比如恐怖主義,就有這個力量讓一些人去死,用話語的力量告訴你死了以后有什么東西在等著你,你奉獻了以后,有別的力量給你獎勵。政治就是這樣一個謎題。
利用話語裝置,人自成一個維度
英國政治哲學家托馬斯·霍布斯(1588—1679)現在讓我們聊一下霍布斯?;舨妓狗浅V匾岢龅囊粋€假設是,最初的時候,在最自然的狀態里面,人與人之間是所有人與所有人的戰爭,每個人都像狼與狼一樣互相撕咬。
霍布斯認為,這就是自然狀態,是前政治的狀態,而政治就是從自然狀態走向一個政治的狀態,人類建立國家,建立秩序?;舨妓固岢鲎寚襾肀WC每個人的安全,這樣人可以放下彼此的對抗。最后,人通過一種方式,讓大家都可以安枕無憂。但動物不行,一定會打破頭,一打破頭就彼此消耗。
人類文明的起源,我們已經很清楚了,來自于政治的能力。與此同時,亞里士多德還有一句話,叫人是說話的動物。這句話其實已經蘊含在“人天生是政治的動物”里面了。換言之,人這個動物,他的政治能力來自說話。人通過話語,編織了很多東西出來。人的政治智慧哪里來,靠說話;如果兩個人一言不合就扔拳頭,這不是政治。政治就是用話語的方式,以免兩敗俱傷。人類用話語,去處理各種各樣的事物。通過話語,人類有了文明,有了各種各樣的不同。從人工智能的角度來看,最關鍵的一點是,通過話語,人慢慢上升,從食物鏈的中端上升到了頂端。
然后人類有了一個話語性的變化,從食物鏈中突破,發生了一個維度的變化,就是人自成一個維度。原來,人和動物是在同一個食物鏈中,再怎么樣都只是我在你最上面,只是我在這里,你在下面,我們是一根線,可以排下去,大魚吃小魚,我們是一個向維度里面的。但是通過一個話語裝置,忽然之間,在七萬年前的某一點上,人開始跟所有的動物相區別,不在一個維度上了。
你們是動物,你們吃來吃去,我們人沖出了這個向維度,到了另外一個等級上。你想想看,人吃動物,動物吃草。人們認為這樣理所當然。柏拉圖有一句話,叫natural right,自然的正確,就是很舒服。人吃動物、動物吃草,所有人都覺得很正常,心安理得。你反過來試試看,沒有人受得了。
我們知道很多人喜歡狗,人跟狗可以很要好。人吃狗,有很多愛狗的人受不了。廣西玉林有一個狗肉節,很多人受不了。我爸爸養狗,絕對不吃狗肉。吃狗肉,一部分人受不了。但反過來,狗吃人,所有人都受不了。幾個月前,我的微信群被一篇文章刷爆了,這篇文章說,如果你死掉了,在你死掉的七天里面,你養的狗會拿你的尸體當飯吃。很多人轉這個,并且說從此看自己家里的狗,眼神都不一樣了,因為它眼睛里看著你,居然會覺得你是可以吃的。這怎么可以……?
我們要追問這個問題,怎么會有這樣一種我們認為自然的感覺,哪里來的。你們去看,獅子吃羚羊,它們是一個維度里面的,雖然你會覺得有點殘忍,但也可以接受;動物吃草,也沒有問題。人吃動物,怎么吃也都沒有問題。
反過來思考,怎么會有這樣的一種力量,使得我們認為,我們做的事是天經地義的?我的分析是,我們人類通過一個話語裝置,產生了一個生命的等級制,這個等級制有實踐性的后果。這個后果是什么?就是形成倫理的和政治的正當性,一旦有了這個正當性,人類做的很多事就變成一個自然的事情、正確的事情。人吃動物、動物吃草,這是一個正當;但反過來,絕對不能接受。舉個例子,有人跑到動物園里去,被老虎咬,站在老虎的立場上,老虎也很冤枉,但是它吃了人就必須死。老虎說,我吃人是因為你到了我旁邊,你到了旁邊我就要吃你。但是不行,吃了人的老虎就必須死。
回到上面提到的文章,。狗吃了自己的主人,法院判這只狗必須處死,就是說,狗只要越過吃人這條界限,必死無疑。
當代意大利有一位思想家叫阿甘本(Giorgio Agamben),他有一個詞,我覺得可以很好地用來形容話語的裝置,叫“人類學機器”。通過這個“人類學機器”的轉變,本來很殘忍、很血腥的事情,可以變得不那么血腥了。你們看,殺動物的時候你會覺得很血腥,可是烹飪完的時候,你們會覺得是美味,你們吃的時候還會拍下來發到朋友圈里去。殺豬的時候,豬會流淚——豬其實是很聰明的動物——但沒有人覺得難受。為什么?我們都沒有同情心嗎?
不是。有一部話語“機器”在那邊保證讓你安心,幫助你安心:吃吧,沒事的,它們沒辦法與你在一個維度里面比較。今天,你們翻翻詞典,翻翻百科全書,還有這樣的語言,說某個動物是“害蟲”。實際上它只是吃你們人吃的東西,就變成害蟲了,必須被消滅掉。最惡心的描述是說,某個動物“渾身都是寶”,皮可制革、鞭可入藥、肉味鮮美等等。想想看,這是辭典,要我們去讀的。我們為什么那么心安理得?當一個動物被我們人類夸贊為渾身都是寶的時候,實際上我們是在對它扒皮抽筋。但一切都變得如此自然。
幾十年前,我們不是還在“除四害”么?麻雀之類動物,一旦你把它歸為“害”,它是必死無疑的。蟑螂是滅不了,但是該滅的都滅光了。但反過來想想看,我們人在動物眼里,會是什么害蟲,或者“害人”呢。
這個時候,哲學家挺了不起的。2004年去世的法國哲學家德里達(Jacques Derrida)在他的回憶錄里面寫了這樣一件事,我覺得非常有意思。
他說了自己生活中的一個小事情,就是家里沒人,他洗完澡,就裸著身體出來了——這跟我們一樣。忽然,他看到家里的一只寵物貓就這樣看著他,在這一刻——哲學家就跟我們不一樣——他忽然感覺到一種不適感,他馬上找了一條浴巾。家里沒別人,但他找了一條浴巾把自己裹起來。他說,在他內心中,當時那一刻,他不知道在那只貓眼里,他自己是一個怎樣的怪物!他受不了貓的注視,所以把自己包裹起來。(待續)
(李寧琪同學、邢英莉女士對本文亦有貢獻)
- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯網新聞信息服務許可證:31120170006
增值電信業務經營許可證:滬B2-2017116
? 2014-2024 上海東方報業有限公司