人工智能（AI）專家普遍認(rèn)為，2025 年將是智能體（agent）爆發(fā)之年。

去年底，Gartner 也將 agentic AI 列入了 2025 年十大技術(shù)趨勢(shì)之一，并預(yù)測(cè) 2028 年將至少有 15% 的日常工作決策由 agentic AI 自主完成，而這一數(shù)字在 2024 年為 0。

隨著大模型在多模態(tài)理解、邏輯推理等方面的進(jìn)一步發(fā)展，agent 或?qū)⒃?2025 年迎來大規(guī)模落地應(yīng)用，替代人類自主解決越來越多的日常工作。

日前，Salesforce 首席科學(xué)家撰文、斯坦福大學(xué)計(jì)算機(jī)科學(xué)兼職教授 Silvio Savarese，在一篇文章中探討了 agent 系統(tǒng)的發(fā)展前景、在這一過程中需要人類提供哪些幫助，以及有關(guān) agent 的信任和問責(zé)問題。

值得一提的是，Savarese 也是“AI 教母”、斯坦福大學(xué)首位紅杉講席教授、美國三院院士李飛飛的丈夫。

他表示，正如音樂從單音旋律發(fā)展到復(fù)雜的交響樂一樣，agent 也正從「?jìng)€(gè)體演奏者」發(fā)展到「管弦樂團(tuán)」。從現(xiàn)在開始，幾乎所有企業(yè)——從個(gè)人貢獻(xiàn)者到高管——不僅可以協(xié)調(diào)人類勞動(dòng)力，還可以協(xié)調(diào)數(shù)字勞動(dòng)力。

“未來不是人類與人工智能的對(duì)決，而是雙方協(xié)同合作，發(fā)揮各自的獨(dú)特優(yōu)勢(shì)。”

學(xué)術(shù)頭條在不改變?cè)拇笠獾那闆r下，對(duì)整體內(nèi)容做了精編，如下：

在由 AI agent 網(wǎng)絡(luò)增強(qiáng)的新興格局中，人類在工作中的角色變得比以往任何時(shí)候都更有能力、更有趣、更有創(chuàng)造力。我們現(xiàn)在已經(jīng)迎來了人工智能的第三次浪潮，它以預(yù)測(cè)式和生成式人工智能為基礎(chǔ)。從人才招聘到超級(jí)醫(yī)療保健，我們現(xiàn)在將看到人工智能與人類在各個(gè)領(lǐng)域合作，以更快的速度滿足各種需求，而且在許多情況下比人類本身更準(zhǔn)確。Agentic AI 需要一些時(shí)間來產(chǎn)生效應(yīng)，但它將改善我們工作的許多方面：生產(chǎn)力、效率、戰(zhàn)略決策，以及總體工作滿意度。

歡迎來到 Agentic AI 時(shí)代的黎明。從現(xiàn)在開始，幾乎所有企業(yè)——從個(gè)人貢獻(xiàn)者到高管——不僅可以協(xié)調(diào)人類勞動(dòng)力，還可以協(xié)調(diào)數(shù)字勞動(dòng)力。

我們將看到信任和問責(zé)制作為三個(gè)階段演進(jìn)的基石：掌握離散任務(wù)的專業(yè) agent，多 agent 系統(tǒng)無縫協(xié)作，以及重寫業(yè)務(wù)運(yùn)作方式的企業(yè)級(jí)編排。

以下是我們對(duì) agent 系統(tǒng)發(fā)展前景的展望，以及在發(fā)展過程中需要人類提供哪些幫助。

agent 的演變：從規(guī)則到推理

大語言模型（LLM）是一種經(jīng)過訓(xùn)練的深度學(xué)習(xí)模型，能夠理解文本并生成文本。agent 的發(fā)展反映了機(jī)器學(xué)習(xí)本身的發(fā)展。傳統(tǒng)的基于規(guī)則的系統(tǒng)，如機(jī)器人流程自動(dòng)化（RPA），能夠執(zhí)行精確的序列，但在面對(duì)（周圍環(huán)境）變化時(shí)的表現(xiàn)不佳。這些早期實(shí)施需要大量的技術(shù)開銷和咨詢服務(wù)，給許多組織帶來了很高的準(zhǔn)入門檻。

在過去的幾十年里，我們見證了漸進(jìn)式和突破性的進(jìn)步，這些進(jìn)步改變了機(jī)器處理信息的方式——從僵化的自動(dòng)化發(fā)展到更加靈活、適應(yīng)性更強(qiáng)、效率更高的學(xué)習(xí)系統(tǒng)。但是，更令人興奮的是我們的發(fā)展方向：通過多 agent 推理實(shí)現(xiàn)自適應(yīng) agent——agent 可以從環(huán)境中學(xué)習(xí)，通過經(jīng)驗(yàn)不斷改進(jìn)，并與人類和來自企業(yè)客戶、合作伙伴、供應(yīng)商的 agent，甚至消費(fèi)者的個(gè)性化人工智能助手進(jìn)行協(xié)作，而人工智能助手正在成為他們生活中越來越重要的一部分。企業(yè) agent 的未來將分為三個(gè)階段，而我們現(xiàn)在只是剛剛開始。

企業(yè) AI agent 的三個(gè)階段

正如音樂從單音旋律發(fā)展到復(fù)雜的交響樂一樣，AI agent 也正從個(gè)體演奏者發(fā)展到管弦樂團(tuán)。每個(gè)階段都建立在上一個(gè)階段的基礎(chǔ)上，在企業(yè)環(huán)境中創(chuàng)造出更豐富、更細(xì)微的互動(dòng)。

第 1 階段：“單音”人工智能——專業(yè)貢獻(xiàn)者

在 agent 演變的第一階段，專業(yè) agent 擅長(zhǎng)特定行業(yè)中的特定任務(wù)，為常規(guī)但關(guān)鍵的業(yè)務(wù)運(yùn)營帶來更高的效率和準(zhǔn)確性。它們代表了企業(yè)人工智能采用的基礎(chǔ)，以一致性和速度處理離散任務(wù)，從而轉(zhuǎn)變部門工作流。它們還擅長(zhǎng)提供人工智能迄今取得的進(jìn)步所帶來的好處，如預(yù)測(cè)下一個(gè)最佳行動(dòng)和產(chǎn)品推薦，根據(jù)每個(gè)客戶的偏好和行為進(jìn)行高度個(gè)性化。此外，它們還能為客戶、服務(wù)人員和銷售代表——無論是人類還是機(jī)器人——提供最高水準(zhǔn)的生成指導(dǎo)、營銷語言和通信。

例如，在商業(yè)領(lǐng)域，它們徹底改變了庫存和賬戶管理。事實(shí)上，agent 不只是處理基本的庫存檢查，還能主動(dòng)監(jiān)控多個(gè)地點(diǎn)的庫存水平，預(yù)測(cè)季節(jié)性需求，并生成實(shí)時(shí)賬戶摘要，以標(biāo)記異常模式或機(jī)會(huì)。過去需要數(shù)小時(shí)人工分析的任務(wù)，現(xiàn)在只需幾秒鐘就能完成，而且具有更大準(zhǔn)確度和深度，為零售客戶帶來優(yōu)化、個(gè)性化和近乎“神奇”的體驗(yàn)。

服務(wù)運(yùn)營也有類似的轉(zhuǎn)變。除了基本的賬單匯總外，agent 還能分析客戶互動(dòng)模式，自動(dòng)分類和為服務(wù)請(qǐng)求設(shè)定優(yōu)先級(jí)，并生成關(guān)于客戶需求的預(yù)測(cè)性見解。他們會(huì)發(fā)現(xiàn)客戶行為的趨勢(shì)，這些趨勢(shì)可能預(yù)示著滿意度問題或擴(kuò)展機(jī)會(huì)，從而為服務(wù)團(tuán)隊(duì)提供可操作的情報(bào)，而不是原始數(shù)據(jù)。其結(jié)果是，客戶服務(wù)讓終端客戶感覺毫不費(fèi)力、環(huán)境友好，幾乎無處不在——他們的問題往往在不知不覺中就得到了解決。

在金融服務(wù)領(lǐng)域，agent 重新定義了客戶服務(wù)效率。在處理糾紛確認(rèn)時(shí)，他們會(huì)分析交易歷史，識(shí)別潛在欺詐活動(dòng)的模式，并自動(dòng)觸發(fā)相關(guān)的安全協(xié)議。在財(cái)務(wù)規(guī)劃方面，它們通過關(guān)聯(lián)市場(chǎng)數(shù)據(jù)、個(gè)人客戶歷史和廣泛的經(jīng)濟(jì)指標(biāo)來生成綜合分析。如果使用得當(dāng)，agent 將為企業(yè)帶來前所未有的后臺(tái)效率，并為消費(fèi)者提供下一代零售銀行業(yè)務(wù)、投資指導(dǎo)和財(cái)富管理體驗(yàn)。

第二階段：“復(fù)音”人工智能——無縫合作者

這一階段引入了同一公司內(nèi)專業(yè) agent 之間的協(xié)調(diào)合作，共同致力于實(shí)現(xiàn)共同的業(yè)務(wù)目標(biāo)。在這種情況下，「管弦樂演奏家」agent 會(huì)協(xié)調(diào)多個(gè)專家協(xié)同工作，這就好比餐廳總經(jīng)理如何協(xié)調(diào)有才能的主持人、服務(wù)員、經(jīng)理、廚師和預(yù)備廚師等共同工作，以獲得令人羨慕的米其林星級(jí)。

對(duì)于復(fù)雜的業(yè)務(wù)運(yùn)營來說，“復(fù)調(diào)”人工智能是什么樣的呢？考慮一下這樣一種客戶服務(wù)場(chǎng)景：多個(gè) agent 協(xié)同工作，為零售客戶要求調(diào)換淡季 SKU 尺寸的票據(jù)提供支持。

一線服務(wù) agent 處理最初的客戶詢問

庫存專員檢查各地的產(chǎn)品供應(yīng)情況

物流 agent 計(jì)算運(yùn)輸選項(xiàng)和時(shí)間安排

計(jì)費(fèi)專家審查賬戶歷史和付款選項(xiàng)

最重要的是：協(xié)調(diào) agent 可以將所有這些輸入信息協(xié)調(diào)為一致、有效、符合品牌形象且與上下文相關(guān)的響應(yīng)，供人類審查、完善并與客戶分享。

如果實(shí)施得當(dāng)，這種由“協(xié)調(diào) agent”為“協(xié)調(diào)人類”服務(wù)的多 agent 方法將帶來強(qiáng)大的人工智能驅(qū)動(dòng)優(yōu)勢(shì)：系統(tǒng)通過利用專注于特定領(lǐng)域的專業(yè)化、可信賴的 agent 來提高可靠性，同時(shí)減少幻覺，因?yàn)槊總€(gè) agent 都在特定領(lǐng)域內(nèi)運(yùn)行。這種分布式方法還能將敏感數(shù)據(jù)的處理隔離給特定的 agent，從而加強(qiáng)安全性。也許最重要的是，該生態(tài)系統(tǒng)提供了無縫的可擴(kuò)展性——組織可以根據(jù)需要不斷添加新的專業(yè) agent 來擴(kuò)展功能。

第三階段：“合奏”人工智能——企業(yè)協(xié)調(diào)者

最后階段（一個(gè)理想階段）增加了跨越組織邊界的復(fù)雜 agent 到 agent（A2A）互動(dòng)，創(chuàng)造了全新的業(yè)務(wù)關(guān)系模式。除了傳統(tǒng)的 B2B 和 B2C 模式，我們還看到 B2A（企業(yè)對(duì) agent）甚至 B2A2C 互動(dòng)的出現(xiàn)，在這些互動(dòng)中，agent 充當(dāng)工作和交易的中介。

考慮一個(gè)簡(jiǎn)單的租車場(chǎng)景：客戶的個(gè)人 agent 與租賃公司的商業(yè) agent 進(jìn)行談判。客戶的 agent 會(huì)優(yōu)化價(jià)格和價(jià)值，而租賃公司的 agent 則希望通過附加服務(wù)實(shí)現(xiàn)收入最大化。但是，業(yè)務(wù)必須在激進(jìn)的銷售策略與將交易拱手讓給競(jìng)爭(zhēng)對(duì)手的風(fēng)險(xiǎn)之間取得平衡。這些互動(dòng)可能受復(fù)雜的“博弈論”原則支配，需要優(yōu)秀的談判技巧和協(xié)議、不確定性下的風(fēng)險(xiǎn)管理、確保信任的驗(yàn)證機(jī)制，更不用說巧妙解決沖突的能力了。

現(xiàn)在，想象一下我們?cè)诟餍懈鳂I(yè)看到的日益復(fù)雜的企業(yè)流程：從供應(yīng)鏈優(yōu)化到客戶體驗(yàn)編排。無論你是消費(fèi)者還是企業(yè)員工，“合奏”人工智能都將為你提供一個(gè)助手，幫助你根據(jù)自己的個(gè)性化需求和愿望執(zhí)行復(fù)雜的編排和有意義的協(xié)作。為了實(shí)現(xiàn)這一目標(biāo)，我們?nèi)祟愡€有很多工作要做。

必要條件：信任和問責(zé)

隨著我們部署越來越復(fù)雜的 agent 系統(tǒng)，每項(xiàng)決策都必須遵循兩個(gè)基本原則：信任和問責(zé)。

建立信任

agentic AI 時(shí)代的信任遠(yuǎn)遠(yuǎn)超出了防止毒性、偏見和幻覺的技術(shù)保障。Salesforce 最近的研究表明，61% 的客戶認(rèn)為人工智能的發(fā)展使可信度變得比以往任何時(shí)候都更加重要——他們是對(duì)的。我們正在進(jìn)入一個(gè)需要對(duì)人類和人工智能之間的共生關(guān)系有深刻組織信任的領(lǐng)域。

這種信任建立在四個(gè)重要基礎(chǔ)之上。

首先是準(zhǔn)確性和邊界的基石——agent 必須在明確定義的參數(shù)內(nèi)運(yùn)行，同時(shí)保持準(zhǔn)確性。除了防止出錯(cuò)之外，這些防護(hù)欄還將創(chuàng)建可預(yù)測(cè)、可信賴的合作伙伴關(guān)系，從而增強(qiáng)集體智慧。

同樣關(guān)鍵的是 agent 的自我意識(shí)。與任何有價(jià)值的同事一樣，agent 必須認(rèn)識(shí)到自身的局限性，并知道何時(shí)需要借助人類的專業(yè)知識(shí)。這就需要復(fù)雜的切換協(xié)議，以確保人工智能和人類智能之間的無縫協(xié)作。例如，我們的人工智能研究團(tuán)隊(duì)探索了訓(xùn)練方法，教授 agent 標(biāo)記不確定區(qū)域，并在遇到未知挑戰(zhàn)時(shí)尋求幫助。經(jīng)過正確訓(xùn)練后，人工智能將知道何時(shí)不應(yīng)嘗試猜測(cè)，而應(yīng)向人類尋求幫助。

對(duì)于多 agent 系統(tǒng)，我們還需要全球公認(rèn)和采用的參與協(xié)議。可以這樣想：銀行有全球協(xié)議或規(guī)則，使個(gè)人、企業(yè)和國家之間的資金轉(zhuǎn)移系統(tǒng)化。交通有協(xié)議來確保遵守規(guī)則，由我們通用的交通指示燈顏色系統(tǒng)管理。互聯(lián)網(wǎng)有“IP”——我們的全球互聯(lián)網(wǎng)協(xié)議，允許數(shù)據(jù)包的路由和尋址穿越網(wǎng)絡(luò)，并到達(dá)正確的目的地。

因此，未來的 agent 也需要這些協(xié)議，這些協(xié)議應(yīng)該得到普遍認(rèn)可和實(shí)施，以便協(xié)調(diào) agent 能夠安全、合乎道德地與其他企業(yè) agent 進(jìn)行溝通、協(xié)商和合作，并使雙方互惠互利。這種“合奏”級(jí)別的參與必須快速、高效和公平。如果沒有這樣的協(xié)議，往好了說，我們會(huì)面臨 agent 與 agent 之間的“垃圾郵件”風(fēng)險(xiǎn)，往壞了說，我們會(huì)面臨欺詐和其他危險(xiǎn)。

最后，隨著我們的 agent 隊(duì)伍不斷壯大，我們的安全措施也必須跟上。與任何技術(shù)一樣，懷有惡意的人類也可能利用人工智能，設(shè)計(jì)和訓(xùn)練“人工智能蠕蟲”，以達(dá)到數(shù)據(jù)泄露的目的，或試圖劫持其他 agent，泄露客戶的私人數(shù)據(jù)。加強(qiáng)保護(hù)、隱私控制和持續(xù)監(jiān)控絕不能被視為單純的技術(shù)要求，它們對(duì)于維護(hù)信任至關(guān)重要，而這種信任能將人工智能從我們使用的工具轉(zhuǎn)變?yōu)槲覀兤髽I(yè)共同成長(zhǎng)的合作伙伴。

確保問責(zé)制

隨著企業(yè)部署每秒可以做出數(shù)千個(gè)決策的 agent，我們必須建立明確的問責(zé)和監(jiān)督框架，以確保在出現(xiàn)問題時(shí)有一個(gè)應(yīng)對(duì)計(jì)劃。這需要一種全面的方法。以下是企業(yè)高管監(jiān)督 agent 實(shí)施工作的出發(fā)點(diǎn)。

明確 agent 決策的責(zé)任鏈。當(dāng) agent 做出重要決定時(shí)，誰應(yīng)該對(duì)此負(fù)責(zé)不應(yīng)該含糊不清。這甚至意味著要設(shè)立“人工智能運(yùn)營官”這樣的新角色，他們既有權(quán)監(jiān)督 agent 的部署，又要在出現(xiàn)問題時(shí)承擔(dān)責(zé)任。

強(qiáng)大的系統(tǒng)，用于檢測(cè)和糾正不完整的信息、偏差、幻覺或有毒輸出，以防它們影響你的業(yè)務(wù)。這不僅包括基本的安全檢查，還包括對(duì) agent 決策的持續(xù)監(jiān)控、實(shí)時(shí)干預(yù)能力和系統(tǒng)審計(jì)跟蹤。我們的研究團(tuán)隊(duì)最近在檢索增強(qiáng)生成（RAG）方面取得了進(jìn)展，極大地改進(jìn)了人工智能系統(tǒng)訪問和驗(yàn)證信息的方式，這只是其中的一個(gè)例子。這些創(chuàng)新實(shí)現(xiàn)了快速評(píng)估和過程修正，確保人工智能系統(tǒng)提供人類和企業(yè)可以信賴的準(zhǔn)確、可靠的結(jié)果。

確定人類監(jiān)督和干預(yù)的程序，平衡自主與控制。我們需要超越“human in the loop”的簡(jiǎn)單概念，為人類何時(shí)以及如何干預(yù) agent 決策制定復(fù)雜的框架。正如我的同事 Paula Goldman 所說，這更多的是“human-at-the-helm”。這意味著要制定與 agent 溝通的指導(dǎo)原則和全組織范圍內(nèi)的標(biāo)準(zhǔn)方式，以及明確的升級(jí)路徑，在日常任務(wù)中最大限度地發(fā)揮 agent 的自主性，同時(shí)在重大決策中保持人類判斷的核心地位。

當(dāng)錯(cuò)誤發(fā)生時(shí)，采取結(jié)構(gòu)化方法糾正錯(cuò)誤。這不僅包括技術(shù)上的回退程序，還包括明確的客戶溝通、補(bǔ)救和系統(tǒng)改進(jìn)協(xié)議，以防止出現(xiàn)類似問題。

新的法律和合規(guī)框架，明確解決 agent 的問責(zé)。當(dāng)前的監(jiān)管環(huán)境并不是為自主的 agent 做出商業(yè)決策而設(shè)計(jì)的。我們需要積極主動(dòng)地與監(jiān)管機(jī)構(gòu)合作，制定適當(dāng)?shù)闹卫斫Y(jié)構(gòu)。

展望未來：科學(xué)方法與企業(yè)創(chuàng)新

部署真正交互式人工智能系統(tǒng)需要高管的遠(yuǎn)見：我們必須將產(chǎn)生這些進(jìn)步的同樣嚴(yán)格的科學(xué)標(biāo)準(zhǔn)應(yīng)用到現(xiàn)實(shí)世界的實(shí)施中。成功不僅取決于部署的 agent 數(shù)量或?qū)嵤┧俣龋€取決于企業(yè)領(lǐng)導(dǎo)者和技術(shù)專家如何將其與現(xiàn)有的勞動(dòng)力協(xié)議、流程和偏好進(jìn)行整合。

隨著我們對(duì) agent 協(xié)作、共享學(xué)習(xí)和人與人工智能交互的理解不斷加深，我們發(fā)現(xiàn)了一些原則，這些原則得到了可重復(fù)研究和經(jīng)驗(yàn)證據(jù)的支持。未來不是人類與人工智能的對(duì)決，而是人類與人工智能的協(xié)同合作，發(fā)揮各自的獨(dú)特優(yōu)勢(shì)。現(xiàn)在是開始這種轉(zhuǎn)變的時(shí)候了，通過仔細(xì)的假設(shè)檢驗(yàn)、細(xì)致的測(cè)量和基于證據(jù)的不斷完善，科學(xué)方法將照亮我們前進(jìn)的道路。

正如每一次突破性實(shí)驗(yàn)都始于假設(shè)一樣，每一次成功的人工智能轉(zhuǎn)型都始于一個(gè)愿景，并以經(jīng)過驗(yàn)證的事實(shí)結(jié)束。

原文鏈接：

https://www.salesforce.com/blog/the-agentic-ai-era-after-the-dawn-heres-what-to-expect/

整理：學(xué)術(shù)君

如需轉(zhuǎn)載或投稿，請(qǐng)直接在公眾號(hào)內(nèi)留言