每日短訊:11分鐘訓(xùn)完GPT-3!英偉達(dá)H100成功創(chuàng)下8項測試紀(jì)錄

6月29日 消息:最近,機(jī)器學(xué)習(xí)及人工智能領(lǐng)域開放產(chǎn)業(yè)聯(lián)盟MLCommons公布了兩項MLPerf基準(zhǔn)測試的最新數(shù)據(jù):在人工智能算力表現(xiàn)測試中,英偉達(dá)的H100芯片組刷新了所有組別的紀(jì)錄,也是唯一一個能夠執(zhí)行完所有基準(zhǔn)測試的硬件平臺。
在最新的MLPerf基準(zhǔn)測試中,H100成功創(chuàng)下8項測試紀(jì)錄。外媒還透露,下一代消費(fèi)級顯卡可能會在2025年發(fā)布。
3584個H100GPU集群花費(fèi)短短的11分鐘就完成了基于GPT-3的大規(guī)模基準(zhǔn)測試。LLM基準(zhǔn)測試是基于OpenAI的GPT-3模型進(jìn)行的,這個模型包含著1,750億個參數(shù),據(jù)Lambda Labs估計,要訓(xùn)練這樣一個大模型,需要大約3.14e23FLOPS的計算量。該系統(tǒng)結(jié)合了3584個NVIDIA H100加速器和896個Intel Xeon Platinum8462Y+處理器。
在最近的新聞發(fā)布會上,英偉達(dá)分享了一份新的路線圖,詳細(xì)介紹了下一代產(chǎn)品,包括GeForce RTX40系列Ada Lovelace GPU的繼任者。當(dāng)前的GeForce RTX40系列是消費(fèi)級市場中最優(yōu)秀的游戲顯卡。根據(jù)路線圖,英偉達(dá)計劃在2025年推出"Ada Lovelace-Next"顯卡。如果按照當(dāng)前的命名方式,下一代GeForce產(chǎn)品應(yīng)該會成為GeForce RTX50系列的一員。


營業(yè)執(zhí)照公示信息