- +1
智譜AI張鵬:大模型最終階段是全面超越人類,擔心尺度定律放緩影響行業有些過早
“Scaling Law(尺度定律)確實遇到了一些挑戰,從語言能力上來看,大模型確實已經達到天花板:所有的能力已經接近人類的極限、人類專家可以評價的極限。”
曾經被視為大模型“金科玉律”的Scaling Law似正逐漸放緩,影響了下一代大模型推出的節奏,這已成為AI圈內熱議的話題。11月29日,在接受澎湃新聞等媒體采訪時,人工智能獨角獸企業、智譜AI CEO張鵬直言自己的觀點。
當天,在智譜的Agent OpenDay(智能體開放日)上,他宣布智能體AutoGLM再次升級,支持自主執行超過54步的長步驟操作,也可以跨App執行任務,借助智譜產品化的Agent,AI首次給人類派發了微信紅包。
此前10月28日,智譜曾推出自主智能體AutoGLM,可以實現代替人類控制電子設備,不用動手就能完成點外賣、朋友圈點贊、高鐵購票等常見的手機操作。
“大家因為Scaling Law撞墻,就擔心整個行業會突然進入低谷期,這個擔心可能有點多余。就像我們擔心人工智能會統治人類一樣,還有點太早,不妨讓子彈飛一會兒。”張鵬表示。
大模型最終階段是全面超越人類
張鵬認為,大模型的發展可以分為L1-L5共五個階段:L1階段,有語言能力,AI學會使用語言,在大多數自然語言任務上突破圖靈測試;L2階段,有人類水平的問題求解能力,AI學會求解問題,涌現世界知識和類人的復雜邏輯推理能力,在求解問題方面突破圖靈測試。
L3階段,能使用工具,系統可以執行動作,在使用工具方面突破圖靈測試;L4階段,能自己發明創新,Al通過自我學習,實現GPT到GPT-zero的升級,具備自我批判,自我改進以及自我反思能力;L5階段,AI能力全面超越人類,具備探究科學規律、世界起源等終極問題的能力。
大模型何時能落地應用,曾經是AI行業的熱點話題。百度CEO李彥宏曾表示,不要卷模型,要去卷應用,還要避免掉入“超級應用陷阱”,“超級能干”的應用比只看DAU的“超級應用”更重要。
李彥宏還提到,應用并不遙遠,最簡單的是智能體,這也是百度最看好的AI應用的發展方向。
不過,對于AI應用的競爭,殺入紅海的不僅有智譜這樣的獨角獸創業公司,更有字節跳動、騰訊等互聯網巨頭,面對和大廠的競爭,智譜AI CEO張鵬回應稱,“我們對這件事情的理解在于底層技術,不是簡單的單項文本技術能力的提升,最終目標是幫助大家切切實實解決生產力問題,不是簡單的快速盈利。我們和很多合作伙伴探索、構建屬于自己的應用和商業模式,這是我們與大廠不一樣的地方。”
業內人士熱議Scaling Law
大模型行業奉行的是大力出奇跡,而Scaling Law放緩已成為行業共識。
在最近的烏鎮互聯網大會上,360創始人周鴻祎在接受媒體采訪時表示,OpenAI試圖打造一個全知全能超級通用大模型的可行性存在疑問,一方面人類訓練數據幾近枯竭,Scaling law遭遇了巨大瓶頸;另一方面,想要開發一個放諸四海皆準的大模型在邏輯上也很難自恰。
而月之暗面CEO楊植麟也同意,如今Scaling Law已經進入了瓶頸期。在他看來,AI的發展就像在蕩秋千,在兩種狀態之間來回切換,“一種是算法、數據準備好了,但算力不夠。”他認為,到了今天,規模已經到達了一定的程度,會發現再加更多的算力,也不一定能解決問題,其中核心問題是沒有高質量的數據。這時要做的事便是改變算法,突破瓶頸。現在這是他所在的公司乃至整個行業都面臨的共同問題,“好的算法能夠釋放Scaling的潛力,讓模型持續變得更好。”他認為,強化學習是接下來很重要的一個趨勢。
OpenAI原首席科學家伊利亞·蘇茨克維(Ilya Sutskever)更是公開表示,擴大預訓練的結果已經達到了平臺期,“2010年代是規模擴大的時代,現在人們又回到了奇跡和發現的時代。每個人都在尋找下一個東西。”
“Scaling Law確實不像我們之前預測的一樣,指數級的往上漲。我們團隊比較樂觀,覺得有大把的空間和機會使用Scaling突破技術上的鴻溝。”張鵬告訴澎湃新聞記者,智譜瞄向的是AGI(通用人工智能),Scaling只是現象,更重要的是計算量的sacling,擴散模型、Dit、強化學習等不同路徑都是在增加計算量。
值得注意的是,智能體在調用數據的安全性也受到外界關注。
對此,張鵬回應稱,“這是一個重要話題,我們在考慮如何采用更安全的方法解決,相信把問題擺在桌面上大家正面對待,總有辦法。”值得注意的是,AutoGLM目前仍處在內測的狀態,對于其他行業可能產生的影響,他坦言,“我們沒有必要把自己圈在一個圈子或天花板下內卷,應該努力尋找新的可能性。”
公開資料顯示,成立于2019年的智譜是清華大學計算機系技術成果轉化公司。智譜于今年9月5日完成了新一輪融資,融資金額達數十億元人民幣。本輪融資金額是在投前200億元的估值基礎上完成的,這使得智譜AI成為國內第一家突破200億估值的大模型企業。
- 報料熱線: 021-962866
- 報料郵箱: news@thepaper.cn
互聯網新聞信息服務許可證:31120170006
增值電信業務經營許可證:滬B2-2017116
? 2014-2024 上海東方報業有限公司