【主持人語：劉永謀（中國人民大學吳玉章講席教授）】近年來，以大模型為代表的AI技術發展迅猛，掀起一波席卷全球的AI發展熱潮。關注AI發展狀況的人不限于AI的研發者、推廣者和AI發展的評論者、人文社科研究者，更包括深感生活將被AI深刻影響的普通公眾。AI發展的問題不再是純粹技術問題，而是成為某種意義上的公共議題。在最近OpenAI發布Sora、馬斯克開源Grok等一系列相關事件中，這一點表現得非常清楚。在各種相關公共討論中，AI發展現狀尤其受到關注，其中的基本問題是：當前AI發展的大方向是否有問題，未來應該朝什么方向前進。為此，組織計算機、經濟學、馬克思主義理論和哲學等領域的八位學者，對AI發展現狀進行跨學科反思以期拋磚引玉，求教于方家。

本系列文章共8篇，轉載自《科學·經濟·社會》2024年第8期，本文《智能技術發展中的需求嵌入與欲望脫嵌機制》為第8篇。在文中，樊姍姍從需求和欲望的角度反思AI發展,認為智能技術核心“需要”為數據、算法與算力，在現實中被異化為以消費為導向的“欲望”，應建立“以人為本”的欲望脫嵌機制。

ChatGPT技術方興未艾，OpenAI公司在2024年春節期間又拋出Sora這一重磅炸彈，標志著生成式人工智能技術從強大的文字、圖片生成領域拓展到了更加復雜、精細、生動的視頻領域。隨著ChatGPT、Sora的爆火，生成式人工智能作為新興技術亦成為大眾關注的焦點。生成式智能技術能夠借助已有數據生成全新的答案體現了類人的創造性，這可能會取代大部分重復性腦力勞動，技術逐漸由替代體力勞動逐漸深入到替代腦力勞動，帶來新的“思維革命”。這場“思維革命”背后智能技術發展中的真實“需要”是什么？智能技術發展中看似價值中立的、基本的“需要”又如何異化為了一種“技術欲望”？這是本文希望反思的核心問題。

一、智能技術發展中的“需要”理論

智能技術的“需要”與人的“需要”不同。關于人的“需要”問題，馬克思的需要理論與馬斯洛的需要層次理論都做了經典的論述。馬克思在《德意志意識形態》中指出“他們的需要即他們的本性”，旨在說明個人總是處于自己的需要狀態之中。馬克思認為，需要是聯系生產和消費之間的媒介，因為生產本身就是為了滿足需要而存在的。為了滿足生活需要，人們要獲取食物、飲水、住所、衣物以及其他必需品。當然，馬克思并未把人的需要僅僅理解為“自然的、生物的”需要，在他看來需要還是社會的、歷史的發生、發展和滿足。根據需要的來源，馬克思將需要分為“自然的需要”與“歷史形成的需要”。“自然的需求”可以理解為人類本身必要的再生產需求，“歷史形成的需要”則是超越本能需要的欲望。而根據需要的層次，馬克思將人的需要劃分為自然需要、社會需要與精神需要。自然需要即上述維持生存所需的基本的衣食住行等，社會需要則指社會交往的需求，精神需要則被看作是最高層次的發展與享受的需要。在描述共產主義社會時，他也提出“各盡所能，各取所需”。在馬克思的基礎上，馬爾庫塞、弗洛姆等區分了真實的需要和虛假的需要。在馬爾庫塞看來，現代社會中的多數需要都屬于虛假的需要。因為這種需要不是從自身產生的，而是外部強加在個人身上的。這種“強加”往往是基于“特定的社會利益”。比如人們的消費往往按照廣告宣傳的方式來進行，人們的喜歡與憎惡也往往是根據他人的喜好與憎惡來進行取舍，人們的休閑、娛樂、運動的方式也都是基于媒體或他人的觀念來進行選擇。虛假需求不是個人自主選擇的，而是通過外部力量強加給個人的，個人的滿足和發展受外部力量的支配，個人只能在順從中接受它，人們千篇一律地按照廣告和傳播媒介所宣傳的方式來消費和生活。無論是馬克思的需求理論，還是馬爾庫塞、弗洛姆以及馬斯洛的需求理論，這些理論都說明“需要”是人實踐活動的內在動力。

那么，智能技術發展中的真實“需要”是什么？它與人的需要有什么區別，又有什么特點？簡言之，深度科技化的時代，智能技術的核心“需要”可以被歸納為“數據、算法與算力”。

首先，數據對于人工智能，就如食材對于人的身體。數據可以被理解為以電子化形式對人和世界的記錄。在智能時代，柏拉圖、亞里士多德討論的“理念”“實體”變為了“數據”，笛卡爾的“我思故我在”也被“數據即存在”所替代。幾乎家家都有的移動智能終端設備、隨處可見的監控與傳感技術裝置，小區、醫院等地方的生物信息采集設施以及實驗室里大型的科技數據裝置，它們無時無刻不在采集著數據，對人的行為、狀態進行記錄與整理。當前，各種類別的數據正在以人們意想不到的方式呈指數級增長。每個人、每件事都為智能技術提供著多樣化的數據。智能技術發展依賴于海量的數據，據此，我們可以將數據定義為智能技術的“自然”。

其次，算法對于人工智能就如勞動工具與人的關系。算法是智能技術得以實現的根本方法與途徑。算法如同智能世界中的望遠鏡和顯微鏡，能對收集回來的數據進行高效挖掘。也因為算法這一工具，人類看待整個世界的自然圖景的方式由原來物理的形式更多地轉化為了數字的形式。智能技術的主要算法為機器學習算法，而機器學習算法又可以分為傳統方式與神經網絡算法方式。當前，神經網絡算法中發展最快、最熱門的當屬深度學習。而無論是哪一種模式的算法，其主要的工作機制為從給定的或一類數據中進行分析后發現規律、利用規律，以便對未知的數據進行預測或干預。算法在今天的城市治理、社會治理、環境治理等方面已經嶄露頭角。算法先將個體與群體活動中的數據進行量化透視，在做記錄、分類、標簽、解析的基礎上，進一步引導、預測與控制人們的活動，以便形成對個人或社會的管理與治理。算法不同于數據，它的操作每一步都體現著技術發展的內在目的。

最后，智能技術除了依賴數據滿足自身的“自然需求”和算法提供的“動力需求”，它的發展還需要能處理數據、推動算法運作的強大計算能力，即算力。算力對于人工智能，就如大腦對于人類智能一樣。海量的大數據和復雜的算法能夠順利地不間斷地進行訓練，這依賴于智能技術背后有成熟的、過硬的、牢靠的計算系統。因此，算力體現著智能技術的計算能力。數據與算法的實施，需要算力為其提供計算能力的支撐。換句話說，算力為智能技術的發展提供基礎設施的支撐。沒有強大的算力，智能技術的發展就沒有強有力的后盾。算力不同于數據與算法，它是智能技術進步與否的衡量標志。

如果說數據可以看作技術的“自然需要”，算法與算力在智能技術發展的過程中更體現的是“歷史需要”。智能技術的核心“需要”就其關系而言，大數據為智能技術提供基本食材，也就是智能技術發展中的原料。算力相當于智能技術發展過程中的發動機，算法就相當于智能技術發展中的基本方法，算法和算力也就是產生動力的生產引擎。有了生產原料和生產引擎，就可以在不同的應用場景下生產出智能世界所需要的不同東西。

總之，與人類的“自然的需要”“歷史形成的需要”不同，智能技術的各種需要都蘊藏在大數據、算法與算力之中。如同人類通過實踐不斷獲得各種技能，智能機器通過不斷地、大量地收集數據、訓練技能，在此基礎上通過強大的算法與算力進一步總結規律，去應用到新的場景與樣本上。當然，如果在過去的數據與訓練中，智能技術從未對某些場景進行過學習，那么它得出的結論也基本上處于瞎猜的狀態，正確率也就可想而知了。

二、智能技術發展中“需要”的異化

無論智能技術“自然需要”，還是它的“歷史的需要”，智能技術的“需要”具有獨特性。這種獨特性也是智能技術的“需要”往往被異化為“欲望”的直接原因。該特性表現為智能技術的“需要”依賴于人的“身體”作為其數據、算法、算力來源的載體。智能技術需要將人作為其“代具”“義肢”或“有形的身體”。斯蒂格勒在其著作中指出就技術與人的關系而言，技術是人的“代具”、“義肢”。事實上，在智能時代，技術發展需要將人變為其收集數據、生成數據、算法與算力執行過程中的“代具”“義肢”或“有形的身體”。弗洛里迪在《第四次革命》中指出，與哥白尼革命、達爾文革命、神經科學革命等前三次革命類似，第四次革命（即圖靈革命）消除了人類關于自己獨一無二的錯誤觀念，進而提供了從觀念上修正自我認識的方法。因為，第四次革命讓我們深刻認識到人類既不是上帝的信奉者，也不必是牛頓的追隨者，同時他們既不是獨立存在的智能體，也不是地球孤島上的“魯濱遜”。在弗洛里迪看來，人類在第四次革命的影響下，其本質應該被定義為“信息有機體”或可以簡稱為“信息體”。弗洛里迪將人不再看作獨立的智能體，而將其定義為“信息體”，這一新的稱呼也能側面反映智能時代技術依托人這一現象。

智能技術只有“需要”是不夠的，根據馬克思對于需要的論述，需要往往會被異化為欲望。欲望在馬克思的理論視域中可以被理解為一切與最大化地維持人類自身生命體無關的索求。人類的“自然需要”在智能技術的輔助下，該需求會被不斷地、最大化地得到滿足。同時“自然需要”與“歷史形成的需要”之間也逐漸模糊，比如，借助智能技術來實現更健康的食物與作息、更舒適的居住環境與衣物、更利于個人全面發展的工作種類與運動方式等。同時，不僅是“自然需要”與“歷史形成的需求”之間交叉互動頻繁，而且在追求人的“自然需要”的最大化過程中，需要與欲望的界限會被不斷模糊化。它們交織在一起，彼此區分變得困難，甚至以往我們認為需要滿足之后才會產生、衍生出欲望的情況被顛覆，日趨普遍出現的是人的需要被直接跨越過去并以欲望的形式被展現。類似的生成邏輯，智能技術的需要也與欲望往往交織在一起，并且以更加規模化、數據化、全方位、全時間段的形式被呈現。智能技術發展中，數據、算法與算力發展的基本需要，往往在現實使用中會出現異化現象，會將技術發展的“需要”推向“欲望”。AI娛樂化發展趨勢就是智能技術發展中的“需要異化”的典型代表，其背后的邏輯是“消費”。

智能技術中的“數據需求”往往被異化為了以消費為導向的“數據欲望”。數字資本依托智能技術將人的行為“數據化”，并對其進行私人定制式的消費內容推送，致使數據收集、整理行為變為了數據消費與數據控制。數據的開發、收集本應是滿足技術自身發展需要而開展的一項活動，但在一定的條件下，數據往往被用來引導消費。智能技術的深度學習能力是涵括各種主題和知識領域的信息數據庫或在巨大的文本語料庫基礎上進行預訓練的大型語言模型，這使得智能技術更加迎合個體的需求與喜好，快速提升個人的舒適感，進而使得個體忽視對其反思與審視。在此基礎之上，數字資本依托智能技術可以將人的行為“數據化”，再據此進行數據的分析、預測與控制，最終通過“斷數識人”的方式來操控人的消費行為。

智能技術中的“算法需求”往往被異化為以消費為導向的“算法欲望”。算法指令的批量推送不間斷地侵入人們的日常生活，將其從個性化的、愜意的模式變為統一的、平庸化的消費行為。德勒茲就用“分格”（DividualS）這一概念來說明智能技術將人體消解為一個個精細的信息顆粒。在德勒茲看來，智能時代的這種“分格”無處不在。以往的社會中，人們的行為會在家庭、學校和社會等具體的場所中得到關注與規訓，他們也能找到自己獨有的空間免于管控來放松自己。但是，在智能管控的社會里，人們仿佛是被放在了一個巨大的網格之中，無處藏身。在數據化的超精致社會中，新自由主義所謂的方法論的個人主義已經被指數化所取代，個體僅僅將其自身視為某種超量化的事物。智能算法在精細的信息顆粒度層面對主體的數據標注與畫像已然將其轉化為無限多維的數據集，主體的個體性隨之被消解為算法上可區分的特征數據，以便于推廣針對性的消費信息。

智能技術中的“算力需求”往往被異化為以消費為導向的“算力欲望”。算力作為智能技術背后的助推器，對精神世界進行了新滲透，主體批判性的、創造性的思想被大量連續的智能推送所侵蝕。這將使得主體面臨斯蒂格勒所說的“新”的無產階級化問題。可以說，智能技術強大的算力能力將帶來新的“思維革命”，消解并重構主體的思維能力。弗洛里迪將圖靈革命后的人定義為“信息有機體”，旨在說明信息革命在將人們從費神的工作中解放出來的同時，也讓人在信息圈中失去了其原來唯一智慧智能體的中心地位。斯蒂格勒的無產階級化并不是使人貧窮化，而更像是“廢人”化。斯蒂格勒視“廢人”為那些失去知道怎么做（know-how）的知識的人，因為他們不再擁有可以自給自足的知識。智能技術本是為了將人類從費神的工作中解放出來，去更多地從事創作、進行自由全面的發展。然而事實上，它卻在邏輯推理、信息處理、智能行為等多個領域將人類本來所具有的獨特能力一一代替，同時迫使人類無意識地拋棄自己的智能，最終將原有的個性化的、富有想象力的、豐富創造力的思維模式更多地被馴服為數據化和程序化的消費流程。

三、智能技術發展中的“脫嵌”對策

可以看出，智能時代，技術發展的需要與技術發展的欲望關系被顛倒了，欲望反而成了技術發展過程中普遍化了的一般需要。在馬克思的論述中，需要是在人們實踐的過程中產生的。在需要滿足的最大化過程中衍生出了欲望。需要與欲望的關系，原本應該是前者是后者的來源、基礎。但是智能時代，這種關系的顛倒呈現一種普遍化趨勢。技術發展的欲望已經不是建立在技術發展服務于人的需要的基礎之上了，反而是因為有了欲望才有了發展技術的需要。也正是因為智能技術發展中需要與欲望的顛倒，才進一步導致了人們種種的娛樂化、消費化的異化行為。為此，生成式人工智能的出現，促使我們重新反思人的處境問題。在這場深刻的“思維變革”中，良好的人機關系建立需要進一步錨定“以人為本”的價值取向。

數據收集應注重“以人為本”的價值考量。正如技術哲學家彼得·保羅·維貝克（Peter-Paul Verbeek）指出的，傳統認為技術是被動的、缺乏意向性的、無法成為道德行動者的，但是事實上，技術是負載道德的，并有意無意地塑造著人的行動與思維。在機器如何擔當道德主體這一問題上，科林·艾倫（Colin Allen）和溫德爾·瓦拉赫（Wendell　Wallach）更進一步分析了人工道德智能體（AMAs）的種種可能性。雖然人工智能給人提供了諸多便利，但也形成了“科技拜物教”。尼克·斯爾尼塞克就曾經指出，數據資源既是所有數字價值的來源，又是一種獲得租金的手段。可見，智能時代，數據已經成為該時代重要的生產資料，它如同新經濟體系中的“石油”。社會再生產一般有兩個重要環節:生產與消費，生產往往是再生產的起點，消費則被看作是目的。因此，面對“數據需求”被異化為了以消費為導向的“數據欲望”問題，智能技術的數據收集過程需要嵌入“以人為本”的理性價值，便于主體真正了解自身的真實需要，避免墜入“數據消費”的陷阱。

算法的設計需要有“以人為本”的倫理考量。生成智能時代，算法指令的批量推送不間斷地侵入人們的日常生活，并持續地將智能技術中的“算法需求”異化為以消費為導向的“算法欲望”。不同于斯蒂格勒強調技術是“人”的“代具”“義肢”，事實上，智能技術需求的實現依賴于人成為其“代具”。對于智能技術而言，大量的數據太重要了，而且需要覆蓋各種可能的場景。智能時代，無時無刻不依賴于“身體”產生大數據并在此基礎上進行搭建算法。人手一部的手機、無處不在的攝像頭和傳感器等設備都在產生和積累著數據，這些數據形式多樣化，大部分都是非結構化數據。大數據需要進行大量的預處理過程（特征化、標量化、向量化），處理后的數據才能為人工智能算法與算力所用。而這些數據的收集方式卻極其依賴于人的“身體”，為其獲取各種數據提供條件和數據來源。以智能手表為例，手表要對人進行量化，就一定需要依賴于“身體”佩戴它。也正是依賴于人的身體，智能技術基于“需求”的開發，往往被異化為以引導人消費的技術“欲望”。為此，算法的設計需要嵌入“以人為本”的倫理取向，這樣主體才能避免片面地被分格為“單向度的人”。

算力的發展也應促成“人”的全面發展。毋庸置疑，人的需要是從動物的需要發展而來的，比如與外界進行物質、能量、信息交換和新陳代謝等功能，但人的需要與動物的需要又有質的差別——人的需要滿足主要依賴于能動的生產活動。主體不單單以觀念的方式認識世界，還能在實踐與認識互動的基礎上加深認知與提高改造世界的能力。智能體盡管不如人類聰明，但它們卻可以輕而易舉地超越我們，并且承擔越來越多的任務。盡管當下ChatGPT還沒有形成其自身思維能力的跡象，但隨著ChatGPT的應用場景不斷推廣，人工智能對主體的思維能力所產生的反作用卻越來越大。人們越來越多地將自己的記憶、日常安排、決定與其他活動，以一種不斷融合的方式委派給智能技術去打理。然而，如果將這種認識、改造世界的方法完全讓渡給機器，那么人類將成為孤立于知識世界之外的存在，進而失去傳承、生成文化成果的基礎。德勒茲采用倒置隱喻，指出“資本”是“無器官身體”。它可以借助人類的“欲望機器”進行不斷地再生產。德勒茲的這一隱喻或可貼切地形容以ChatGPT、Sora為代表的智能機器“反客為主”的現象。凡此種種都更加深刻地說明:智能時代，技術的研發應該以能培養人的思維能力、批判能力為導向，來實現人的真正的全面發展。

未來的智能技術發展需要“以人為本”的價值引導，以便搭建起一個人機共存的、“真善美”的智能社會。在這一共生的社會中，人的需要與技術的需要將得到和平、公正地發展與滿足。該氛圍下，智能機與智能人不是非此即彼，機器人與自然人也不是劍拔弩張。人機共存的智能社會中，期待技術與人的需要能恰如其分地得到滿足，期待人機攜手走向至善。