1月22日?qǐng)?bào)道,日前,AMD正式啟動(dòng)第三代人工智能及高性能計(jì)算(HPC)加速器Instinct MI300X的批量生產(chǎn),并首先向核心合作伙伴L(zhǎng)aminaAI提供。借助MI300X的強(qiáng)大運(yùn)算能力,LaminaAI將以滿足企業(yè)用戶的高端需求為目標(biāo),實(shí)現(xiàn)大語(yǔ)言模型(LLM)的高效運(yùn)轉(zhuǎn)。
LaminaAI作為AMD的長(zhǎng)期合作伙伴,能夠搶先體驗(yàn)到全新MI300X加速器的強(qiáng)大優(yōu)勢(shì),實(shí)屬正常。該公司首席執(zhí)行官Sharon Zhou在社交媒體進(jìn)行了公告,同時(shí)透露,已經(jīng)接收到配置8個(gè)Instinct MI300X加速器的設(shè)備,其中包括首批正在生產(chǎn)的AMD MI300X,以及即將推出的LaminaAI下一代LLM集群。
據(jù)悉,MI300X是AMD Instinct MI300系列中的旗艦型號(hào),專為AI和HPC設(shè)計(jì),相比前代產(chǎn)品,它采用了更少的x86 CPU內(nèi)核,轉(zhuǎn)而搭載數(shù)量超過(guò)MI300A的304個(gè)CDNA 3計(jì)算單元,內(nèi)存容量方面亦有顯著提升, 達(dá)到了驚人的192GB HBM3。在峰值帶寬方面,更可達(dá)到頂級(jí)的5.3 TB/s,性能遠(yuǎn)超同行。
據(jù)AMD官方測(cè)試數(shù)據(jù)顯示,MI300X綜合表現(xiàn)出眾,超越 NVIDIA H100 80GB,且有望對(duì)H200 141GB構(gòu)成競(jìng)爭(zhēng)壓力。包括Meta和Microsoft在內(nèi)的領(lǐng)先企業(yè)均大規(guī)模采購(gòu)了AMD Instinct MI300系列新品,而LaminaAI則成為公開(kāi)使用 MI300X的首家公司。
-
amd
+關(guān)注
關(guān)注
25文章
5499瀏覽量
134640 -
加速器
+關(guān)注
關(guān)注
2文章
807瀏覽量
38088 -
語(yǔ)言模型
+關(guān)注
關(guān)注
0文章
538瀏覽量
10341
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
AMD將DeepSeek-V3模型集成至Instinct MI300X GPU
消息稱AMD Instinct MI400 AI加速器將配備8個(gè)計(jì)算芯片
AMD集成DeepSeek-V3模型至Instinct MI300X GPU
AMD MI300X AI芯片面臨挑戰(zhàn)
IBM與AMD攜手部署MI300X加速器,強(qiáng)化AI與HPC能力
IBM將在云平臺(tái)部署AMD加速器
IBM與AMD攜手將在IBM云上部署AMD Instinct MI300X加速器
AMD發(fā)布新版Instinct MI325X
AMD發(fā)布新一代AI芯片MI325X
三星首度引入AMD MI300X,緩解AI GPU短缺
AMD發(fā)布全新AI芯片Instinct MI325X
AMD發(fā)布AI芯片MI325X 預(yù)計(jì)2024年第四季度上市
人工智能市場(chǎng)風(fēng)向轉(zhuǎn)變,AMD Instinct MI300X GPU更受歡迎
AMD Instinct MI300新版將采用HBM3e內(nèi)存,競(jìng)爭(zhēng)英偉達(dá)B100
英偉達(dá)繁榮背后的挑戰(zhàn) 仍面臨著各種內(nèi)憂外患

評(píng)論