- +1
李敬澤:語言主權與作者的存亡——關于超級AI,自鳳凰文學之夜開始的演講
自ChatGPT問世以來,“我們會不會被AI替代”的疑問伴隨著一種如影隨形的焦慮感在許多人心里浮現,相關話題也多次在文學創作的領域被提及。于寫作而言,AI技術的迅速發展究竟意味著什么?身為寫作者,我們能做些什么?今年參加鳳凰文學之夜的活動時,評論家李敬澤的演講引發了眾人的思考。今天的推送文章即延伸自這次演講,也是李敬澤對于該主題的再次深入闡釋。本文由作者改定,授權本報發表。
“
?今天晚上,真正的問題不是超級AI會不會砸掉我們的飯碗,而是,我們如何在超級AI在場的情況下,證明作者還活著、還在,證明我們依然是那個作為創造者的作者,證明我們能夠捍衛人類對人的語言的主權。
?我們每個人都是傳統的“道成肉身”,把自己從傳統中轉化出來、發明出來、創造出來,成為那個堅實的、超級AI所消化不了的、最個別和最普遍的“物”。
語言主權與作者的存亡
——關于超級AI,自鳳凰文學之夜開始的演講
文/李敬澤
這是一個屬于寫作者的夜晚。這個夜晚是美好的,但是,烏云蔽白日,飄風起遠山,在座的所有人,我們這些作者、譯者、編者,我們可能都還沒有意識到,這美好的夜晚正被動蕩的不確定性所籠罩。今晚,在這里還有一個不在場的在場者,一個巨大的“他者”,它正在威脅著我們,撼動我們的根基,它是從我們自身分離出去的異類,它的名字叫ChatGPT。
這個超級AI,這種大語言模型,它是個幽靈,它隱藏在科學話語的云霧里,云里霧里,恍兮惚兮。但是當面對我們的時候,它使用的卻是自然語言,是日常生活中一個人對另一個人使用的語言。它吞咽、處理無數自然語言的材料——他們把這叫做“語料”,在座的各位,你們的工作就是為這個不知其形的龐大之物提供飼料,萬里長鯨吞吐,它的胃口真是好啊,理論上,它能夠飛快地把自有人類以來的所有文本、所有話語吞咽下去、消化干凈,它瘋狂地學習,機關算盡太聰明,它要算盡人類話語的所有機關。
我們這些文學人,熟知一個來自古希臘的隱喻,人類的語言是一座迷宮,在迷宮的中心,蹲伏著一頭怪物,我們不知道它是誰,我們沒有見過它,如果見過它,迷宮也就不再是迷宮了。但是現在,我們終于見到了它,它是超級AI,它叫ChatGPT或者隨便什么名字,它掌握著所有的線索,人類思維和話語的邏輯盡在掌握,和我們的想象有所不同的是,它就蹲在迷宮的入口,然后,它像一個人一樣和我們對話:你有什么問題?你想要什么?你想說什么?你想怎么說?
——它是說人話的,它吞咽人話也輸出人話。這很好,但是,它不是人。它也不是自然。它是人的造物,是人映射、分化出去的部分,當它以自然語言與我們對話時,在我們和它之間橫亙著一個根本的、危險的問題:它是誰?它知道它在和我說話嗎?在發出問題等待回答的一秒鐘、兩秒鐘的停頓和空白中它在想什么?在那個空白里僅僅是在運算嗎?還是,它在沉吟。運算所求的是一個邏輯的、概率的答案,而沉吟,則是一個人與另一個人、一個“我”與另一個“我” 之間在不確定性中醞釀著主觀決斷。那么,我們怎么能夠判定我們面對的是一臺“機器”還是另一個“我”呢?
換句話說,超級AI會不會變成一個“超級大我”?它何時擁有真正的智能?或者它已經越過“奇點”,已經擁有了真正的智能?我們是否真的肯定它依然是我們的一部分,還是它已經或將要生成自己的意識、有了自己的主意,成為脫離我們的控制、甚至反過來控制我們的異物?
面對這些問題,人類正在極力安慰自己,搖搖欲墜但努力立正站穩。人類的中心位置至少自啟蒙時代以來就像大地一樣無可置疑,但現在,我們忽然發現自己正走在獨木橋上。我們會不會掉下去?至少現在還不會,今天晚上不會。但我們說服自己的理由其實都很可疑,都經不起推敲。比如,哲學家把說“不”當作一種主體意識誕生的標志,他們認為,至少現在超級AI還沒有說“不”,因此還沒有發展出自我。但是,當我們這么想的時候,其實是深刻地受制于人類自己的故事,我們向自然或上帝說“不”,從此有了人,有了自我意識,有了那個行善或作惡的主體。但問題是,你怎么能夠肯定另外一種智能一定會重復人類的故事?人類受蛇的誘惑,摘下蘋果,被逐出伊甸園,在超級AI這件事上,我們真的知道什么是蘋果什么是蛇嗎?
這讓我想起波蘭科幻作家萊姆的《索拉里斯星》。偉大的萊姆,我真的愛他,在這本小說里,他想象一種與我們對智能、對意識的理解完全不同的意識體——遙遠的索拉里斯星上那片神秘莫測的海洋。也就是說,我們應該暫時放棄我們的人類中心主義信念,我們試著想象一下,人類的智能并非唯一的可能性,即使超級AI產生了意識,也很可能與我們濕乎乎的碳基大腦所分泌的意識判然不同。現在,大幕已經拉開,角色已經登場,但我們拿到的可能是我們從來沒有見過、根本不能理解的劇本。
■ 根據《索拉里斯星》改編的電影《飛向太空》(劇照)
——這曾經是源自遙遠東歐的陰郁的科學幻想,但現在,幻想大規模地侵入現實,已經成為房間里的大象。如何與這頭大象相處事關人類的存亡,這也是那些人工智能的創造者們、那些人類中最聰明的腦袋也為之忐忑不安的問題。在人類的故事里,我們以為樹上的禁果只有一個,但也許,故事現在進入了下一章,我們已經摘下了第二枚禁果。
現在,讓我們把大象放在一邊,我們假裝沒看見它,也許大象還睡著呢,別打擾它,讓我們坐下來討論眼前的生計。這些天來,狼煙四起,超級AI對人類生活的顛覆性影響正在迅速顯現。很多人窮畢生之力,學習、掌握并在不同程度上維護和壟斷某種特殊的知識和技能,這些知識和技能構成堅固的壁壘,提供確定的生活框架,讓我們安居樂業。但是現在,無數人存身的壁壘一夜間夷為平地,那句偉大的預言再度應驗:一切堅固的東西都煙消云散了。
這當然不是第一次了,現代以來,人類反復經歷技術革命對生活和社會的顛覆性重構,我們知道,最終一切都會過去的,就像《漫長的季節》最后叮囑的那樣:“往前看,別回頭”。但是這一次,情況可能有所不同,我們面臨的不只是知識與技能的危機,而是人之為人的存在論級別的危機。超級AI,不管它最終會不會變成具有自我意識的決斷的主體,它也必定會威脅到人之所以為人的根基所在。語言是存在之家,而現在,我們面對的是一個具有超級語言能力的大他者,它代替我們說話、代替我們書寫,進而教我們說話、教我們書寫。不管它以后到底變成什么或想干什么,反正現在我們所能預見的結果就是:我們可能在不知不覺間喪失對語言的主權,我們就在我們的“家”里,被一個強大的他者所控制、所支配。
作為一個文科生,我調用了我的全部理解力,艱苦地想象這個超級AI是怎樣一個怪物。我不知道我說的對不對,似乎事情是這樣的:這個東西非常耗電,非常不綠色,它需要無窮無盡的能量,用來學習和運算。維特根斯坦后期把語言看作封閉的“游戲”,天下一盤大棋,語言也是一盤大棋,超級AI通過復雜的算法學習和訓練,掌握和回應人類日常語言的規則和邏輯——自有人類以來,沒有誰的語言經驗比它更深厚,它是老謀深算的,人心隔肚皮,它沒有肚皮,它就長在你的肚子里,人說出一句話,它就猜出下句話、下句話的下句話……你在棋盤上落下一個子,它就直接替你把這盤棋下完,你滿意嗎?
我不知道我說的對不對,總之,現在我們看到的結果就是,ChatGPT會寫文章。好吧,我知道,今天晚上大家真正關心的是它會不會成為一個小說家或者詩人。對我們來說,好消息是,到目前為止,它的詩是拙劣的,它的小說是簡陋的。但是,我們不能高枕無憂,不能放心啊,這個學習狂魔每天都在消耗足以點亮一個城市的電力,每天都在飛速進步,而我們卻在這兒閑聊吃瓜刷手機,這樣下去誰知道會發生什么呢?
■ 講述人與AI相愛的電影《她》(劇照)
所以,我們所熟知的那個由作者創作的文學此時此刻兵臨城下、危機四起。很多人可能不喜歡文學,他認為在他的生活中根本沒有文學的位置,但是,超級AI,這個龐大的他者,它所帶來的否定性危機,迫使我們不得不重新認識文學對于人類生活的意義。文學并非一種可以出讓、可以替代的技能,它是人類自然語言的最高形態,是人類安放自我與世界的原初的和根本的場所,我們感知自我與世界的語言在很大程度上是由文學塑造的。在這個意義上,人都是文學的人,哪怕你一輩子沒讀幾本文學,你也是一個文學人。所以,在一個超級AI的世界里,人類對文學語言的主權是我們保有主體性的要害陣地,是我們的上甘嶺。這件事遠遠不是作家或詩人的職業被取代那么簡單,沒那么簡單,它如果真的做到了、真的干成了,如果今后只有AI向我們每個人定向投喂小說和詩歌,那么,我們——我指的是人類,也就真的不剩下什么了,我們就只是超級AI在地球上投下的寂寞的影子。
——現在都安靜了。別這樣,不要這么沉重這么凝重,把杯子端起來,把筷子拿起來,讓我們享受這美好的晚餐,我向你們保證,這不會是“最后的晚餐”,不僅僅是因為AI還沒有長大、還沒有畢業,更重要的是,在我看來,這個不能和我們一起用餐的AI有一個根本的弱點,這個弱點就是,它不需要吃飯、不能吃飯。它沒有身體,沒有這個碳基的,有限的、終究會死的身體,在可預見的未來也不會有。這硅基的超級智能,它將永生,不要妄想靠拔掉電源去解決它,正如你不能把制止原子彈發射的希望寄托在拔插銷上。這永生的神仙,它的真正問題是,沒有生之快樂,也沒有生之痛苦。盡管它的語料來自人類,它與人的身體和生命終究是隔絕的,今天的晚餐和我們的身體、我們的生命在它那里僅僅是一個復雜的語言游戲。它就是一個絕對的唯心主義機器,它不需要與世界、與事物、與身體的直接關聯。“我思故我在”,這是人類唯心主義的極端表述,現在我們終于知道這是什么意思了,在超級AI、大語言模型這里,唯心主義獲得了最真實、最完美的實現,它就是一個封閉的超級“我思”。
正是在這個意義上,今天晚上,我想起了羅蘭·巴特。上世紀80年代、90年代,我這樣的文學青年熟讀他的著作,似懂非懂地看到他鐵口直斷:作者死了。說老實話,那時我真的不懂什么叫作者死了,作者死了,那我們又是誰呢?遙遠的塞納河邊的咖啡館里發射的煙花,炫目,很酷,但也僅僅如此罷了,是一個空虛的不知所指的手勢。但是現在,我想我忽然理解了羅蘭·巴特,我忽然知道了他在說什么。羅蘭·巴特把人類的所有書寫想象成一個巨大的、無限膨脹的圖書館,這個圖書館在現代已經膨脹為超現實的存在,超出了任何個人的經驗和能力。在羅蘭·巴特看來,所有的現代寫作者,我們今晚在場的人都在這個圖書館里游蕩,我們其實已經遠離了圖書館外邊的原野、遠離了我們的身體,我們在無數前人的夢境、無數前人的語法和修辭中游蕩,在無數前人的宏大交響中力圖發出微弱的回聲,我們是響應者,不是發出聲音的人,不再是那個作為創造者的作者,而只是在揀拾碎片,拼湊縫補我們的文本。
或者說,現代寫作者是本雅明意義上的“拾垃圾者”,本雅明甚至想象,在機械復制時代最恰當的寫作就是寫一部書,從頭到尾由引文構成。
——從本雅明到羅蘭·巴特,他們其實是科幻作家,在恢宏的現代縱深中想象未來。現在,我想我極為清晰地知道了他們在說什么,他們在上世紀的三十年代、在上世紀的六十年代所看見、所描述的情景正在清晰浮現,他們說的就是超級AI啊,說的就是ChatGPT,這龐大的圖書館取消了作者,它將提供無窮無盡的“引文之書”,街道空曠清潔,連拾垃圾者都不再需要。
還有博爾赫斯,這個眼盲的圖書館長,在他的筆下,無邊無際的圖書館是高處不勝寒的,是荒涼的、非人的。我想他是在說,如果我們真的置身于、囚禁于這樣一個圖書館,那就是真正的虛無。
■ 博爾赫斯在阿根廷國家圖書館
現在,請君入甕,超級AI已經把這個虛無擺在了我們面前。今天晚上,真正的問題不是超級AI會不會砸掉我們的飯碗,而是,我們如何在超級AI在場的情況下,證明作者還活著、還在,證明我們依然是那個作為創造者的作者,證明我們能夠捍衛人類對人的語言的主權。
我記得,在去年的鳳凰文學之夜,我曾經談論過“作者”與“述者”,我宣稱我寧可成為一個“述者”。但正如余華和王安憶在比較人與超級AI時所說,人是會犯錯的,人在急劇變化的語境中發言,不得不隨時踩剎車、轉賽道,自我打臉,Pia Pia響亮。去年當我談論作者和述者時,我的坐標是孔子,孔子述而不作,他把自己理解為變易的世界中的傳統闡釋者,勘定和守護恒常不易的價值,我希望以孔子的態度平衡這個時代“作者”的淺薄和狂妄。沒想到啊,僅僅過了一年,我就得調過頭來強調作者的重要性,我不得不告訴自己,必須全力以赴成為作者。因為,現在的坐標是超級AI,這個大他者不僅是一個超級述者,而且有可能成為最終的、唯一的作者。面對這個巨大的唯心主義機器,成為作者意味著什么?想來想去,我覺得別無選擇,必須成為一個堅定的、徹底的唯物主義者。
這個“物”,既是指外在的世界,也是指人的身體,還有那個作為身體一部分的、而不是從身體割裂出來的大腦。也就是說,相對于永生的、沒有身體的超級AI,人的文學必須守護人的根基,回到我們的身體,作為人的存在基礎的身體,這個大腦、這顆心臟、這雙手、這一具皮囊,由此出發,向著馬克思意義上的那個全面發展的人,那個實踐和創造的人,在這個過程中,那絕對的圖書館被拆開了圍墻,封閉的游戲被打開和敞開,物的身體和物的世界、真實的身體和真實的世界,這是我們對抗和沖破虛無的缺口,在我們與自身、與他人、與世界的真實關系中,文學創生人的語言,彰顯人的存在。
必須回到“作者”的本意:他是創造者,他抵抗虛無,他在空無中確認有,他的信念是“惟陳言之務去”,而超級AI,它的底層邏輯是“無一字無來歷”,在文學藝術的意義上,它注定無可救藥地平庸。我毫不懷疑,在很多情況下與超級AI合作將會成為文本生產的常態,比如在那種需要征用成規、慣例,推演現成的類型和模式的地方。在這些地方,語言不是奔向未知的荒野,而是在一條高速路上奔馳,我們當然知道這條路的起點和終點,那么為什么不把它交給自動駕駛?但是,也正是在這個意義上,超級AI重新界定著創造、重新界定著創造性的寫作,超級AI時代的創作一定是沖出護欄、另辟賽道的寫作。我甚至想象,今后的批評家會把超級AI作為批評基準,以此去衡量和判定作品的價值,掉進AI賽道里的,就不是藝術品而是工業品,就不要再開研討會拼命去吹了。而當AI不知所措、在空白、停頓中焦慮和猶豫的時候,我們知道,人的創造時刻開始了。羅蘭·巴特、本雅明和博爾赫斯預見到人類必將受困于那個無窮無盡的圖書館,但事物的奇妙辯證法在于,當那個圖書館真正出現的時候,無限之事終究暴露了它的限度,我們反而看到了出口。
現在,讓我們幻想一下那最終的可能性:在未來,任何一個人都只閱讀自己的詩或者自己的小說。不是杜甫蘇東坡寫的,不是曹雪芹魯迅寫的,當然,其實也不是你自己寫的,是超級AI為你生成為你寫的,它會告訴你,這就是你的,因為它比你更懂你自己,就像X光和核磁更懂你的身體一樣,它從內部把你照亮、把你投射出去,依照你的經驗和習性、情感和欲望為你寫詩、為你講故事,甚至把你直接設置為故事的主人公。到那時,小說好不好不再重要、詩好不好也不重要,因為不再有普遍性,每個人就是自己的標準,然后,每個人都活在孤島上、活在寂靜無人的星球上。當我們只有自己的故事、自己的詩的時候,當所有的故事所有的詩其實都出自一個無名的大他者的時候,在這個安靜的、每個人都盯著自己的手機和電腦的世界上,也許,會有一個人、兩個人、三個人,他們分別在某一天清晨有了一個念頭,不,我不想再讀這些垃圾,這就好像一個人每天靠著自己的排泄物的循環在維持活著,我要認識另一個人,我要成為另一個人的讀者或聽眾,那個有姓名、有身體的人,我坐在他的對面,聽他的故事,只有在如此個別、具體的他人的故事中,只有在面對面的確信中,我才能感知我的存在,我才真正獲得了世界。
于是,在那一天黃昏,一個陌生人站在我的面前,直視我的眼睛,對我說,求求你,別打開你的AI,現在,說吧,對我說出你的故事,讓我們訴說和傾聽,讓我們相互認識。
——在這幻想中的一天里,人類又有了最后的和最初的讀者,與最后的和最初的作者。人的自然語言、人的文學,從根本上是為了保持和延伸人與人的關系、人與世界的關系。當我們讀杜甫的詩,我們知道他是杜甫,是另一個人,帶著他的悲辛、蒼勁和寬闊站在我們面前,我們在這個人身上感受、勘探我們自身的可能和不可能。我們注視著梵高,我們確信如此眩目的色彩并非數字選擇的結果,而是一個人生命的風暴,這風暴將裹挾我們。正是在這個意義上,我們和傳統的關系、和已有的全部文本的關系不是一個知識問題,不是數據的檢索和生成問題,而是我們作為有限的個體,以有限的生命去閱讀、學習、體認、選擇。我們每個人都是傳統的“道成肉身”,把自己從傳統中轉化出來、發明出來、創造出來,成為那個堅實的、超級AI所消化不了的、最個別和最普遍的“物”。
——我已經說得太多了,但是我相信,我的此時所說,是超級AI不能生成的。它正在注視著我,這個人,在思考什么是創作?什么是文學?什么是機器的限度,什么是人的可能。這個人、在座的所有人,在思考如何成為“作者”,“作”這個字的意思就是創造,創造出只屬于人的事物,屬于我們的事物。然后,我堅信,五年后或者十年后,依然會有鳳凰文學之夜,在那個夜晚能夠站在這里的,都可以說,作者沒有消亡,我們都是作者,我們捍衛了人類創造力的榮譽,捍衛了人對自己語言的主權。
原標題:《獨家 | 李敬澤:語言主權與作者的存亡——關于超級AI,自鳳凰文學之夜開始的演講》
本文為澎湃號作者或機構在澎湃新聞上傳并發布,僅代表該作者或機構觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。
- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯網新聞信息服務許可證:31120170006
增值電信業務經營許可證:滬B2-2017116
? 2014-2024 上海東方報業有限公司