【主持人語：劉永謀（中國人民大學(xué)吳玉章講席教授）】近年來，以大模型為代表的AI技術(shù)發(fā)展迅猛，掀起一波席卷全球的AI發(fā)展熱潮。關(guān)注AI發(fā)展?fàn)顩r的人不限于AI的研發(fā)者、推廣者和AI發(fā)展的評論者、人文社科研究者，更包括深感生活將被AI深刻影響的普通公眾。AI發(fā)展的問題不再是純粹技術(shù)問題，而是成為某種意義上的公共議題。在最近OpenAI發(fā)布Sora、馬斯克開源Grok等一系列相關(guān)事件中，這一點(diǎn)表現(xiàn)得非常清楚。在各種相關(guān)公共討論中，AI發(fā)展現(xiàn)狀尤其受到關(guān)注，其中的基本問題是：當(dāng)前AI發(fā)展的大方向是否有問題，未來應(yīng)該朝什么方向前進(jìn)。為此，組織計(jì)算機(jī)、經(jīng)濟(jì)學(xué)、馬克思主義理論和哲學(xué)等領(lǐng)域的八位學(xué)者，對AI發(fā)展現(xiàn)狀進(jìn)行跨學(xué)科反思以期拋磚引玉，求教于方家。

本系列文章共8篇，轉(zhuǎn)載自《科學(xué)·經(jīng)濟(jì)·社會》2024年第2期，本文《處理好生成式人工智能的意識形態(tài)風(fēng)險(xiǎn)》為第7篇。在文中，蘭立山分析了生成式人工智能的意識形態(tài)屬性，強(qiáng)調(diào)推進(jìn)人工智能發(fā)展中保障意識形態(tài)安全的重要性。

黨的二十大報(bào)告指出，“意識形態(tài)工作是為國家立心、為民族立魂的工作。牢牢掌握黨對意識形態(tài)工作領(lǐng)導(dǎo)權(quán)，全面落實(shí)意識形態(tài)工作責(zé)任制，鞏固壯大奮進(jìn)新時(shí)代的主流思想輿論。”當(dāng)前，生成式人工智能的發(fā)展帶來了諸多意識形態(tài)風(fēng)險(xiǎn)，如意識形態(tài)的滲透風(fēng)險(xiǎn)、撕裂風(fēng)險(xiǎn)、監(jiān)管風(fēng)險(xiǎn)等。因此，需要處理好生成式人工智能的意識形態(tài)問題，以維護(hù)我國的意識形態(tài)安全，推進(jìn)我國意識形態(tài)工作的順利開展。

一、生成式人工智能的意識形態(tài)屬性

關(guān)于科學(xué)技術(shù)與意識形態(tài)問題的研究，并不是由于人工智能的快速發(fā)展才興起的。事實(shí)上，早在20世紀(jì)五六十年代學(xué)界就已開始對科學(xué)技術(shù)與意識形態(tài)問題進(jìn)行研究，馬爾庫塞（Herbert Marcuse）、哈貝馬斯（Jtirgen Habermas）是其中的重要代表。馬爾庫塞認(rèn)為，科學(xué)技術(shù)具有意識形態(tài)的性質(zhì)，或者說已經(jīng)成為一種意識形態(tài)，因?yàn)榭茖W(xué)技術(shù)并不是“中立”的工具，它可以為現(xiàn)代政治統(tǒng)治的合法性及其意識形態(tài)提供辯護(hù)，是現(xiàn)代政治統(tǒng)治的重要基礎(chǔ)，技術(shù)理性事實(shí)上已經(jīng)成為政治理性。哈貝馬斯認(rèn)同馬爾庫塞提出的科學(xué)技術(shù)是意識形態(tài)的觀點(diǎn)，但他不認(rèn)同馬爾庫塞關(guān)于科學(xué)技術(shù)本身就是意識形態(tài)的看法。在哈貝馬斯看來，科學(xué)技術(shù)之所以成為意識形態(tài)，不是因?yàn)榭茖W(xué)技術(shù)本身就是意識形態(tài)，而是因?yàn)榭茖W(xué)技術(shù)作為第一生產(chǎn)力在社會運(yùn)行與發(fā)展中發(fā)揮著重要作用，進(jìn)而使人們將科學(xué)技術(shù)視為偶像，即科學(xué)技術(shù)成為意識形態(tài)。在此之后，科學(xué)技術(shù)具有意識形態(tài)屬性的觀點(diǎn)開始被人們關(guān)注和接受。

作為當(dāng)今社會最為前沿的技術(shù)，生成式人工智能也具有意識形態(tài)屬性，這首先表現(xiàn)為它的算法設(shè)計(jì)和使用的數(shù)據(jù)具有意識形態(tài)的傾向。生成式人工智能從設(shè)計(jì)到運(yùn)用每一環(huán)節(jié)都受到算法工程師的影響，這使得生成式人工智能或多或少都會受到算法工程師價(jià)值偏好、政治取向、宗教信仰等的影響。更為重要的是，生成式人工智能需要大量的數(shù)據(jù)作為學(xué)習(xí)原料，這些數(shù)據(jù)的來源和選擇完全由算法工程師決定，一旦這些數(shù)據(jù)存在意識形態(tài)傾向，那生成式人工智能的輸出結(jié)果顯然就會具有意識形態(tài)性。以ChatGPT為例，它的學(xué)習(xí)數(shù)據(jù)主要為英語材料和表達(dá)西方意識形態(tài)的材料，中國和其他國家的意識形態(tài)內(nèi)容較少。例如，當(dāng)有人問ChatGPT當(dāng)前的輿論趨勢及熱點(diǎn)時(shí)，它的回答是可以查看BBC、CNN、CBS、ABC等媒體的報(bào)道，而這些又屬于英語和表達(dá)西方意識形態(tài)的材料，因此，ChatGPT最終生成的結(jié)果就會有明顯的意識形態(tài)傾向。對此，羅扎多（David Rozado）通過對ChatGPT進(jìn)行的15種政治測試指出，ChatGPT在14種政治測試中有明顯的左傾傾向。北京理工大學(xué)計(jì)算機(jī)學(xué)院的張華平等學(xué)者也得出了與羅扎多類似的結(jié)論，他們指出，“ChatGPT生成內(nèi)容中存在對于中國的大量偏見言論”。

生成式人工智能的意識形態(tài)屬性還表現(xiàn)在它能通過自主學(xué)習(xí)和計(jì)算生成新的內(nèi)容，這些內(nèi)容并不是預(yù)先設(shè)計(jì)好的，而是根據(jù)用戶的提問以及與用戶的不斷互動形成的，可稱為算法意識形態(tài)（algorithmic ideology）。算法意識形態(tài)意指算法的意識形態(tài)，它強(qiáng)調(diào)算法具有自己的意識形態(tài)體系，抑或說算法具有自己的規(guī)則、邏輯和“想法”。盡管算法意識形態(tài)可追溯至以馬爾庫塞、海德格爾（Martin Heidegger）、埃呂爾（Jacques Ellul）等人為代表的技術(shù)實(shí)在論，但它并不是以技術(shù)實(shí)在論為理論基礎(chǔ)，而是以生成式人工智能的具體應(yīng)用為基礎(chǔ)，近期備受關(guān)注的ChatGPT、Sora等生成式人工智能可以根據(jù)用戶的要求生成大量的文本和視頻等就是很好的例子。當(dāng)然，ChatGPT、Sora等不僅可以生成內(nèi)容，還可以根據(jù)用戶的反饋對內(nèi)容進(jìn)行優(yōu)化，生成的很多內(nèi)容所表現(xiàn)出來的水平并不亞于人類的水平，甚至超過了人類的一般水平。

需要指出的是，雖然生成式人工智能可以自主學(xué)習(xí)、決策以及根據(jù)要求生成內(nèi)容等現(xiàn)象與馬爾庫塞、海德格爾、埃呂爾等人的技術(shù)實(shí)在論觀點(diǎn)較為一致，但并不能因此認(rèn)為生成式人工智能證成了技術(shù)實(shí)在論。這與有學(xué)者對算法治理與技術(shù)自主論的關(guān)系的看法類似，這位學(xué)者指出，可以認(rèn)為算法治理（algorithmic governance）具有一定的自主性，但不能因此就認(rèn)為它證成了技術(shù)自主論。

除了以上兩點(diǎn)內(nèi)容之外，算法崇拜也是生成式人工智能具有意識形態(tài)屬性的一種表現(xiàn)。算法崇拜主要指人們對于算法的推崇及信任，默認(rèn)通過算法計(jì)算所得到的結(jié)果的正確性，并按照算法的規(guī)則及指令來運(yùn)行社會。哈貝馬斯是從科技崇拜視角來論述科學(xué)技術(shù)為一種意識形態(tài)的重要代表，他認(rèn)為這種意識形態(tài)的主要表現(xiàn)是技術(shù)統(tǒng)治論或技術(shù)專家制（technoc-racy）。技術(shù)專家制思想一般可追溯至培根（Francis Bacon）、圣西門（Claude-Henri de Rouvroy）等人，主張科技專家按照科學(xué)原理、技術(shù)原則來運(yùn)行與治理社會，追求社會運(yùn)行與治理的科學(xué)技術(shù)化。按照哈貝馬斯的觀點(diǎn)，目前人們對于算法的推崇或崇拜確實(shí)可以算得上是一種意識形態(tài)。當(dāng)然，需要指出，雖然算法崇拜并不是因?yàn)樯墒饺斯ぶ悄艿陌l(fā)展才出現(xiàn)的，但生成式人工智能的發(fā)展確實(shí)進(jìn)一步推動了人們對算法的崇拜。因?yàn)樯墒饺斯ぶ悄鼙葌鹘y(tǒng)人工智能具備更強(qiáng)的能力，例如ChatGPT可以與人持續(xù)互動、表達(dá)與邏輯更加類人化、運(yùn)用領(lǐng)域更加多元（可以生成建筑設(shè)計(jì)圖紙、幫助學(xué)生撰寫學(xué)術(shù)論文、預(yù)測股市波動）等。

二、生成式人工智能的意識形態(tài)風(fēng)險(xiǎn)

由于生成式人工智能所具有的意識形態(tài)屬性，這導(dǎo)致它存在著大量意識形態(tài)風(fēng)險(xiǎn)，主要包括以下四點(diǎn)。

其一，意識形態(tài)滲透風(fēng)險(xiǎn)。生成式人工智能的首要風(fēng)險(xiǎn)是意識形態(tài)滲透風(fēng)險(xiǎn)，主要指國外的意識形態(tài)通過生成式人工智能滲透到國內(nèi)，進(jìn)而影響我國的意識形態(tài)安全。盡管ChatGPT、Sora等生成式人工智能一再強(qiáng)調(diào)自己的非政治化，但它所屬企業(yè)的資本主義背景以及所使用數(shù)據(jù)主要為西方社會的數(shù)據(jù)，都說明它具有一定程度的政治化。也就是說，生成式人工智能所生成的內(nèi)容是基于它使用的數(shù)據(jù)，這些數(shù)據(jù)的資本主義背景決定了它所生成的內(nèi)容具有資本主義意識形態(tài)傾向。“而受資本主義意識形態(tài)浸染的生成式人工智能不僅可針對我國和國際社會受眾心理弱點(diǎn)提供隱形滲透我國意識形態(tài)安全陣地的內(nèi)容產(chǎn)品，助力美西方構(gòu)建高維度、全方位、多視角對華意識形態(tài)滲透和攻擊輿論戰(zhàn)場，剝奪、渙散、沖垮黨和政府在國內(nèi)國際意識形態(tài)領(lǐng)域的主導(dǎo)權(quán)、主動權(quán)”。因此，需要積極應(yīng)對生成式人工智能的意識形態(tài)滲透風(fēng)險(xiǎn)。

其二，意識形態(tài)撕裂風(fēng)險(xiǎn)。生成式人工智能并不局限于外來意識形態(tài)的滲透，它還體現(xiàn)在對主流意識形態(tài)的撕裂上。主流意識形態(tài)主要指一個(gè)國家或社會占主導(dǎo)地位的意識形態(tài)，包括政治法律思想、道德觀念、民族精神等。一般而言，主流意識形態(tài)主要通過官媒進(jìn)行發(fā)布，并以此影響公眾的意識形態(tài)認(rèn)知。隨著信息時(shí)代的來臨，由于公眾獲取信息的途徑變得多樣，主流意識形態(tài)的影響力受到非主流意識形態(tài)的巨大挑戰(zhàn)。生成式意識形態(tài)的快速發(fā)展及其廣泛應(yīng)用，進(jìn)一步削弱了主流意識形態(tài)的影響力，使得意識形態(tài)有撕裂的風(fēng)險(xiǎn)。一方面，生成式人工智能擴(kuò)大了生成和傳播意識形態(tài)的渠道，由于具有交互性、定制性、多元性等特點(diǎn)，相較于官方媒體或主流媒體，生成式人工智能作為一種傳播渠道更受歡迎，這削弱了主流意識形態(tài)的影響力。另一方面，生成式人工智能生成的內(nèi)容存在大量虛假信息和話語偏見，特別是生成如煽動社會非理性情緒、加深社會偏見、錯(cuò)誤的歷史事實(shí)等內(nèi)容，這會降低公眾對主流意識形態(tài)的認(rèn)同，進(jìn)而使意識形態(tài)有撕裂的風(fēng)險(xiǎn)。

其三，意識形態(tài)監(jiān)管風(fēng)險(xiǎn)。對于意識形態(tài)的審查和監(jiān)管一直是意識形態(tài)工作的重要內(nèi)容，特別是對意識形態(tài)內(nèi)容的審查和監(jiān)管。然而，生成式人工智能的出現(xiàn)加大了意識形態(tài)監(jiān)管工作的難度，為意識形態(tài)的監(jiān)管帶來了諸多風(fēng)險(xiǎn)。究其原因，主要與生成式人工智能生成的內(nèi)容“權(quán)屬不清、追責(zé)困難”有關(guān)。例如，用戶在與ChatGPT進(jìn)行交流時(shí)生成了大量與主流意識形態(tài)不符的內(nèi)容，但這些內(nèi)容只是保存在ChatGPT系統(tǒng)中，并不對外傳播，相關(guān)部門并沒有權(quán)限對此進(jìn)行監(jiān)管。當(dāng)然，事實(shí)上，就算這些違反主流意識形態(tài)的生成內(nèi)容被用來對外傳播，相關(guān)部門也很難監(jiān)管，因?yàn)槌藙h除內(nèi)容以外很難對相關(guān)責(zé)任主體進(jìn)行追責(zé)。此外，相關(guān)部門就算發(fā)現(xiàn)并刪除這些違反主流意識形態(tài)的生成內(nèi)容也解決不了根本問題，因?yàn)樯蛇@些內(nèi)容的算法和數(shù)據(jù)仍然保存在系統(tǒng)中，一旦有用戶問了相關(guān)問題，這些違反主流意識形態(tài)的內(nèi)容將再次生成。

其四，意識形態(tài)退化風(fēng)險(xiǎn)。主要指由于對生成式人工智能過于推崇或依賴，導(dǎo)致人類的意識形態(tài)辨識能力退化、思考能力減弱、自主性缺失等。與傳統(tǒng)人工智能不同，生成式人工智能可以快速與用戶進(jìn)行連續(xù)交流，并具有很強(qiáng)的語言理解能力和內(nèi)容生成能力，使得用戶感覺是在與一個(gè)“真人”交流，進(jìn)而獲得很好的交流體驗(yàn)。更為重要的是，生成式人工智能還可以根據(jù)用戶的回答以及歷史記錄來不斷優(yōu)化所生成的內(nèi)容，給用戶提供更多的個(gè)性化和優(yōu)質(zhì)化解答與服務(wù)，特別是給用戶很多正向反饋，這將大大提高用戶對生成式人工智能的信賴和依賴。在此背景下，人逐漸失去了對意識形態(tài)問題的辨識能力，漸漸變成生成式人工智能的附屬或信徒。如達(dá)納赫（John Danaher）所言，我們生活在一個(gè)算法統(tǒng)治（algocracy）的社會或體制中，算法建構(gòu)和限制了人類與這個(gè)體系中其他個(gè)體、相關(guān)數(shù)據(jù)、社區(qū)等的行動與交互方式。

三、占領(lǐng)生成式人工智能的意識形態(tài)高地

面對生成式人工智能的種種意識形態(tài)風(fēng)險(xiǎn)，需要占領(lǐng)生成式人工智能的意識形態(tài)高地，以維護(hù)我國的意識形態(tài)安全和推進(jìn)人工智能的健康發(fā)展。為了占領(lǐng)生成式人工智能的意識形態(tài)高地，可以從以下四條路徑入手。

首先，堅(jiān)持馬克思主義在生成式人工智能意識形態(tài)領(lǐng)域的指導(dǎo)地位。黨的二十大報(bào)告指出，“我們要堅(jiān)持馬克思主義在意識形態(tài)領(lǐng)域指導(dǎo)地位的根本制度，堅(jiān)持為人民服務(wù)、為社會主義服務(wù)。”生成式人工智能的意識形態(tài)問題是我國意識形態(tài)工作的一個(gè)重要內(nèi)容，我們需要堅(jiān)持馬克思主義的指導(dǎo)地位。一方面，堅(jiān)持馬克思主義在人工智能領(lǐng)域的指導(dǎo)地位。生成式人工智能之所以出現(xiàn)意識形態(tài)風(fēng)險(xiǎn)，主要原因在于目前整個(gè)人工智能領(lǐng)域的發(fā)展受到資本主義意識形態(tài)的影響和主導(dǎo)，這使得人工智能的發(fā)展按照資本的邏輯在發(fā)展。因此，需要堅(jiān)持馬克思主義在人工智能領(lǐng)域的指導(dǎo)地位，以糾正當(dāng)前人工智能按照資本邏輯發(fā)展的錯(cuò)誤方向。另一方面，堅(jiān)持馬克思主義在生成式人工智能意識形態(tài)領(lǐng)域的指導(dǎo)地位。面對資本主義國家通過生成式人工智能滲透到我國的錯(cuò)誤意識形態(tài)，我們需要以馬克思主義作為理論武器進(jìn)行反駁，為我們占領(lǐng)生成式人工智能的意識形態(tài)高地提供理論基礎(chǔ)。

其次，提高生成式人工智能的自主研發(fā)水平。盡管馬爾庫塞、哈貝馬斯關(guān)于科學(xué)技術(shù)作為意識形態(tài)的思想有一些區(qū)別，但他們都表達(dá)了科學(xué)技術(shù)可以為意識形態(tài)辯護(hù)的觀點(diǎn)。生成式人工智能也不例外，它也在為資本主義的意識形態(tài)辯護(hù)和服務(wù)，這也是生成式人工智能存在諸多意識形態(tài)風(fēng)險(xiǎn)的一個(gè)重要原因。有學(xué)者指出，“以科技巨頭為代表的資本往往掌握最新智能技術(shù)和數(shù)據(jù)資源，在政府對科技企業(yè)依賴較強(qiáng)的情況下，便會授予科技企業(yè)掌握更多的數(shù)據(jù)權(quán)限，政府的權(quán)威性被削弱，而科技企業(yè)在技術(shù)上的巨大優(yōu)勢可能造成資本對意識形態(tài)話語權(quán)的壟斷。”可見，規(guī)避生成式人工智能意識形態(tài)風(fēng)險(xiǎn)的重要途徑是掌握最新、最強(qiáng)大的生成式人工智能技術(shù)，只有如此，才能真正主導(dǎo)生成式人工智能的發(fā)展方向和占領(lǐng)生成式人工智能的意識形態(tài)高地。因而，提高我國生成式人工智能的自主研發(fā)水平刻不容緩。

再次，推進(jìn)社會主義意識形態(tài)與生成式人工智能的融合發(fā)展。面對錯(cuò)綜復(fù)雜的國際政治環(huán)境，想要占領(lǐng)生成式人工智能的意識形態(tài)高地，“除了提升科技硬實(shí)力和堅(jiān)定主流價(jià)值導(dǎo)向外，還必須進(jìn)一步講好中國故事，以‘中國話語’破解當(dāng)前生成式人工智能領(lǐng)域盤踞的‘西方話語’”，將社會主義意識形態(tài)與生成式人工智能融合發(fā)展。第一，站好中國立場、講好中國故事，為生成式人工智能提供豐富的社會主義意識形態(tài)語料、素材。第二，運(yùn)用好互聯(lián)網(wǎng)、大數(shù)據(jù)、生成式人工智能等智能技術(shù)傳播好社會主義意識形態(tài)，向世界各國發(fā)出中國聲音、展現(xiàn)中國文化，為占領(lǐng)生成式意識形態(tài)高地奠定話語基礎(chǔ)。第三，將社會主義意識形態(tài)內(nèi)容融入到生成式人工智能的設(shè)計(jì)之中，以應(yīng)對西方社會對生成式人工智能的意識形態(tài)操縱，為占領(lǐng)生成式人工智能的意識形態(tài)高地提供技術(shù)支撐。對此，維貝克（Peter-Paul Verbeek）的道德物化思想非常值得借鑒。維貝克認(rèn)為，我們可以通過有目的設(shè)計(jì)來使技術(shù)具有調(diào)節(jié)人的道德選擇和行動的功能，即讓技術(shù)具有道德性。按照維貝克的觀點(diǎn)，我們顯然也可以通過設(shè)計(jì)來使生成式人工智能具有意識形態(tài)性。

最后，強(qiáng)化生成式人工智能意識形態(tài)工作的人才支撐。人才支撐是占領(lǐng)生成式人工智能意識形態(tài)高地的重要基礎(chǔ)，沒有人才的支撐很多相關(guān)工作就無法開展。然而，生成式人工智能的意識形態(tài)工作涉及諸多學(xué)科，如人工智能、政治學(xué)、傳播學(xué)等，就目前的學(xué)科設(shè)置或?qū)I(yè)設(shè)置來看，并沒有與生成式人工智能意識形態(tài)直接相關(guān)的學(xué)科或?qū)I(yè)。因此，為占領(lǐng)生成式人工智能意識形態(tài)高地，政府需要大力培養(yǎng)與生成式人工智能意識形態(tài)相關(guān)的人才。具體而言，政府既可以通過成立專門的研究院所來直接培養(yǎng)與生成式人工智能意識形態(tài)相關(guān)的人才，也可以在高校設(shè)置相關(guān)學(xué)科或?qū)I(yè)來培養(yǎng)與生成式人工智能意識形態(tài)相關(guān)的人才。

綜上所述，生成式人工智能的發(fā)展帶來了諸多意識形態(tài)風(fēng)險(xiǎn)，我們需要采取積極措施，以占領(lǐng)生成式人工智能的意識形態(tài)高地。當(dāng)然，需要指出，生成式人工智能對于意識形態(tài)的影響也有積極的一面，如可以極大提高意識形態(tài)治理的效率，只是本文聚焦于生成式人工智能的意識形態(tài)風(fēng)險(xiǎn)，故而對此內(nèi)容并未涉及。由于生成式人工智能技術(shù)日新月異，它對于意識形態(tài)的影響也在不斷變化，因此，需要加強(qiáng)對生成式人工智能的意識形態(tài)研究，為維護(hù)我國的意識形態(tài)安全和推進(jìn)我國的意識形態(tài)建設(shè)提供理論基礎(chǔ)和政策建議。