- +1
10萬(wàn)塊英偉達(dá)GPU!馬斯克計(jì)劃年底訓(xùn)練出“世界最強(qiáng)AI”
馬斯克稱將在今年年底訓(xùn)練出全球最強(qiáng)AI。
當(dāng)?shù)貢r(shí)間7月22日,特斯拉CEO埃隆·馬斯克在旗下社交平臺(tái)X上表示,xAI團(tuán)隊(duì)、X團(tuán)隊(duì)、英偉達(dá)及其他支持公司已經(jīng)于當(dāng)?shù)貢r(shí)間凌晨4時(shí)20分開(kāi)始在“孟菲斯超級(jí)集群(Memphis Supercluster)”上進(jìn)行訓(xùn)練。
他介紹,“孟菲斯超級(jí)集群”由10萬(wàn)個(gè)液冷H100 GPU組成,在單個(gè)RDMA結(jié)構(gòu)(即遠(yuǎn)程直接數(shù)據(jù)存儲(chǔ)結(jié)構(gòu),可解決網(wǎng)絡(luò)傳輸中服務(wù)器端數(shù)據(jù)處理的延遲)上運(yùn)行,是“世界上最強(qiáng)大的人工智能訓(xùn)練集群”。
馬斯克還補(bǔ)充說(shuō),目標(biāo)是在今年12月前訓(xùn)練出“按每項(xiàng)指標(biāo)衡量都是世界上最強(qiáng)大的人工智能”。
此前,馬斯克就曾透露,將用該集群訓(xùn)練xAI旗下第三代大語(yǔ)言模型Grok-3。
今年5月份,馬斯克透露,旗下人工智能企業(yè)xAI計(jì)劃打造一臺(tái)超級(jí)計(jì)算機(jī),名為“算力的超級(jí)工廠”,預(yù)計(jì)規(guī)模是市場(chǎng)上最強(qiáng)大競(jìng)爭(zhēng)對(duì)手的四倍。該計(jì)算機(jī)將采用英偉達(dá)H100 GPU。
一年前,xAI宣布正式成立,并表示公司的宗旨是“了解宇宙的真實(shí)本質(zhì)”。xAI在官網(wǎng)表示,“我們是一家獨(dú)立于X Corp的公司,但將與X、特斯拉和其他公司密切合作,以實(shí)現(xiàn)使命。”
2023年11月,xAI發(fā)布第一款大模型Grok-1。
本月,馬斯克宣布Grok-2將于8月推出,將帶來(lái)更先進(jìn)的AI功能。同時(shí)他還透露,Grok-3將使用10萬(wàn)塊英偉達(dá)H100芯片進(jìn)行訓(xùn)練,預(yù)計(jì)將于年底發(fā)布,相信它會(huì)“非常特別”。
今年5月份,xAI宣布獲得60億美元B輪融資,主要投資者包括安德森·霍洛維茨基金(Andreessen Horowitz)、紅杉資本(Sequoia Capital)等。xAI的投前估值為180億美元,本輪融資后的投后估值將達(dá)到240億美元。
在AI潮流下,算力已經(jīng)成為科技巨頭們的必爭(zhēng)之地。Meta公司在今年1月透露,公司計(jì)劃到今年年底部署35萬(wàn)塊英偉達(dá)H100 GPU,將Meta的算力擴(kuò)展到相當(dāng)于60萬(wàn)塊英偉達(dá)H100 GPU的水平;微軟和OpenAI在計(jì)劃構(gòu)建一臺(tái)名為“星際之門”的新超級(jí)計(jì)算機(jī),其成本可能高達(dá)1000億美元,并計(jì)劃在2030年完全開(kāi)發(fā)完成。
- 澎湃新聞微博
- 澎湃新聞公眾號(hào)
- 澎湃新聞抖音號(hào)
- IP SHANGHAI
- SIXTH TONE
- 報(bào)料熱線: 021-962866
- 報(bào)料郵箱: news@thepaper.cn
滬公網(wǎng)安備31010602000299號(hào)
互聯(lián)網(wǎng)新聞信息服務(wù)許可證:31120170006
增值電信業(yè)務(wù)經(jīng)營(yíng)許可證:滬B2-2017116
? 2014-2024 上海東方報(bào)業(yè)有限公司