- +1
智譜AI張鵬:大模型最終階段是全面超越人類(lèi),擔(dān)心尺度定律放緩影響行業(yè)有些過(guò)早
“Scaling Law(尺度定律)確實(shí)遇到了一些挑戰(zhàn),從語(yǔ)言能力上來(lái)看,大模型確實(shí)已經(jīng)達(dá)到天花板:所有的能力已經(jīng)接近人類(lèi)的極限、人類(lèi)專(zhuān)家可以評(píng)價(jià)的極限。”
曾經(jīng)被視為大模型“金科玉律”的Scaling Law似正逐漸放緩,影響了下一代大模型推出的節(jié)奏,這已成為AI圈內(nèi)熱議的話(huà)題。11月29日,在接受澎湃新聞等媒體采訪時(shí),人工智能獨(dú)角獸企業(yè)、智譜AI CEO張鵬直言自己的觀點(diǎn)。
當(dāng)天,在智譜的Agent OpenDay(智能體開(kāi)放日)上,他宣布智能體AutoGLM再次升級(jí),支持自主執(zhí)行超過(guò)54步的長(zhǎng)步驟操作,也可以跨App執(zhí)行任務(wù),借助智譜產(chǎn)品化的Agent,AI首次給人類(lèi)派發(fā)了微信紅包。
此前10月28日,智譜曾推出自主智能體AutoGLM,可以實(shí)現(xiàn)代替人類(lèi)控制電子設(shè)備,不用動(dòng)手就能完成點(diǎn)外賣(mài)、朋友圈點(diǎn)贊、高鐵購(gòu)票等常見(jiàn)的手機(jī)操作。
“大家因?yàn)镾caling Law撞墻,就擔(dān)心整個(gè)行業(yè)會(huì)突然進(jìn)入低谷期,這個(gè)擔(dān)心可能有點(diǎn)多余。就像我們擔(dān)心人工智能會(huì)統(tǒng)治人類(lèi)一樣,還有點(diǎn)太早,不妨讓子彈飛一會(huì)兒。”張鵬表示。
大模型最終階段是全面超越人類(lèi)
張鵬認(rèn)為,大模型的發(fā)展可以分為L(zhǎng)1-L5共五個(gè)階段:L1階段,有語(yǔ)言能力,AI學(xué)會(huì)使用語(yǔ)言,在大多數(shù)自然語(yǔ)言任務(wù)上突破圖靈測(cè)試;L2階段,有人類(lèi)水平的問(wèn)題求解能力,AI學(xué)會(huì)求解問(wèn)題,涌現(xiàn)世界知識(shí)和類(lèi)人的復(fù)雜邏輯推理能力,在求解問(wèn)題方面突破圖靈測(cè)試。
L3階段,能使用工具,系統(tǒng)可以執(zhí)行動(dòng)作,在使用工具方面突破圖靈測(cè)試;L4階段,能自己發(fā)明創(chuàng)新,Al通過(guò)自我學(xué)習(xí),實(shí)現(xiàn)GPT到GPT-zero的升級(jí),具備自我批判,自我改進(jìn)以及自我反思能力;L5階段,AI能力全面超越人類(lèi),具備探究科學(xué)規(guī)律、世界起源等終極問(wèn)題的能力。
大模型何時(shí)能落地應(yīng)用,曾經(jīng)是AI行業(yè)的熱點(diǎn)話(huà)題。百度CEO李彥宏曾表示,不要卷模型,要去卷應(yīng)用,還要避免掉入“超級(jí)應(yīng)用陷阱”,“超級(jí)能干”的應(yīng)用比只看DAU的“超級(jí)應(yīng)用”更重要。
李彥宏還提到,應(yīng)用并不遙遠(yuǎn),最簡(jiǎn)單的是智能體,這也是百度最看好的AI應(yīng)用的發(fā)展方向。
不過(guò),對(duì)于AI應(yīng)用的競(jìng)爭(zhēng),殺入紅海的不僅有智譜這樣的獨(dú)角獸創(chuàng)業(yè)公司,更有字節(jié)跳動(dòng)、騰訊等互聯(lián)網(wǎng)巨頭,面對(duì)和大廠的競(jìng)爭(zhēng),智譜AI CEO張鵬回應(yīng)稱(chēng),“我們對(duì)這件事情的理解在于底層技術(shù),不是簡(jiǎn)單的單項(xiàng)文本技術(shù)能力的提升,最終目標(biāo)是幫助大家切切實(shí)實(shí)解決生產(chǎn)力問(wèn)題,不是簡(jiǎn)單的快速盈利。我們和很多合作伙伴探索、構(gòu)建屬于自己的應(yīng)用和商業(yè)模式,這是我們與大廠不一樣的地方。”
業(yè)內(nèi)人士熱議Scaling Law
大模型行業(yè)奉行的是大力出奇跡,而Scaling Law放緩已成為行業(yè)共識(shí)。
在最近的烏鎮(zhèn)互聯(lián)網(wǎng)大會(huì)上,360創(chuàng)始人周鴻祎在接受媒體采訪時(shí)表示,OpenAI試圖打造一個(gè)全知全能超級(jí)通用大模型的可行性存在疑問(wèn),一方面人類(lèi)訓(xùn)練數(shù)據(jù)幾近枯竭,Scaling law遭遇了巨大瓶頸;另一方面,想要開(kāi)發(fā)一個(gè)放諸四海皆準(zhǔn)的大模型在邏輯上也很難自恰。
而月之暗面CEO楊植麟也同意,如今Scaling Law已經(jīng)進(jìn)入了瓶頸期。在他看來(lái),AI的發(fā)展就像在蕩秋千,在兩種狀態(tài)之間來(lái)回切換,“一種是算法、數(shù)據(jù)準(zhǔn)備好了,但算力不夠。”他認(rèn)為,到了今天,規(guī)模已經(jīng)到達(dá)了一定的程度,會(huì)發(fā)現(xiàn)再加更多的算力,也不一定能解決問(wèn)題,其中核心問(wèn)題是沒(méi)有高質(zhì)量的數(shù)據(jù)。這時(shí)要做的事便是改變算法,突破瓶頸。現(xiàn)在這是他所在的公司乃至整個(gè)行業(yè)都面臨的共同問(wèn)題,“好的算法能夠釋放Scaling的潛力,讓模型持續(xù)變得更好。”他認(rèn)為,強(qiáng)化學(xué)習(xí)是接下來(lái)很重要的一個(gè)趨勢(shì)。
OpenAI原首席科學(xué)家伊利亞·蘇茨克維(Ilya Sutskever)更是公開(kāi)表示,擴(kuò)大預(yù)訓(xùn)練的結(jié)果已經(jīng)達(dá)到了平臺(tái)期,“2010年代是規(guī)模擴(kuò)大的時(shí)代,現(xiàn)在人們又回到了奇跡和發(fā)現(xiàn)的時(shí)代。每個(gè)人都在尋找下一個(gè)東西。”
“Scaling Law確實(shí)不像我們之前預(yù)測(cè)的一樣,指數(shù)級(jí)的往上漲。我們團(tuán)隊(duì)比較樂(lè)觀,覺(jué)得有大把的空間和機(jī)會(huì)使用Scaling突破技術(shù)上的鴻溝。”張鵬告訴澎湃新聞?dòng)浾撸亲V瞄向的是AGI(通用人工智能),Scaling只是現(xiàn)象,更重要的是計(jì)算量的sacling,擴(kuò)散模型、Dit、強(qiáng)化學(xué)習(xí)等不同路徑都是在增加計(jì)算量。
值得注意的是,智能體在調(diào)用數(shù)據(jù)的安全性也受到外界關(guān)注。
對(duì)此,張鵬回應(yīng)稱(chēng),“這是一個(gè)重要話(huà)題,我們?cè)诳紤]如何采用更安全的方法解決,相信把問(wèn)題擺在桌面上大家正面對(duì)待,總有辦法。”值得注意的是,AutoGLM目前仍處在內(nèi)測(cè)的狀態(tài),對(duì)于其他行業(yè)可能產(chǎn)生的影響,他坦言,“我們沒(méi)有必要把自己圈在一個(gè)圈子或天花板下內(nèi)卷,應(yīng)該努力尋找新的可能性。”
公開(kāi)資料顯示,成立于2019年的智譜是清華大學(xué)計(jì)算機(jī)系技術(shù)成果轉(zhuǎn)化公司。智譜于今年9月5日完成了新一輪融資,融資金額達(dá)數(shù)十億元人民幣。本輪融資金額是在投前200億元的估值基礎(chǔ)上完成的,這使得智譜AI成為國(guó)內(nèi)第一家突破200億估值的大模型企業(yè)。
- 澎湃新聞微博
- 澎湃新聞公眾號(hào)
- 澎湃新聞抖音號(hào)
- IP SHANGHAI
- SIXTH TONE
- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2024 上海東方報(bào)業(yè)有限公司