焦點(diǎn)滾動(dòng):英偉達AI芯片勁敵來(lái)了！AMD推出MI300X，可運行多達800億參數模型

MI300X提供的HBM密度是英偉達AI芯片H100的2.4倍，HBM帶寬是H100的1.6倍，可以運行的模型比H100的更大。

來(lái)源：華爾街見(jiàn)聞

憑借發(fā)布的新品，AMD正式向英偉達的AI芯片王者地位發(fā)起挑戰。

(資料圖片)

美東時(shí)間6月13日周二，AMD舉行了新品發(fā)布會(huì )，其中最重磅的新品當屬性用于訓練大模型的Instinct MI300。

AMD CEO蘇姿豐介紹，生成式AI和大語(yǔ)言模型（LLM）需要電腦的算力和內存大幅提高。AMD的Instinct MI300A號稱(chēng)全球首款針對AI和高性能計算（HPC）的加速處理器（APU）加速器。在13個(gè)小芯片中遍布1460億個(gè)晶體管。

它采用CDNA 3 GPU架構和24個(gè)Zen 4 CPU內核，配置128GB HBM3。相比前代MI250，MI300的性能提高八倍，效率提高五倍。AMD在發(fā)布會(huì )稍早介紹，新的Zen 4c內核比標準的Zen 4內核密度更高，比標準Zen 4的內核小35%，同時(shí)保持100%的軟件兼容性。

AMD推出一款GPU專(zhuān)用的MI300，即MI300X，該芯片是針對LLM的優(yōu)化版，擁有192GB的HBM3、5.2TB/秒的帶寬和 896GB/秒的Infinity Fabric 帶寬。AMD將1530億個(gè)晶體管集成在共12個(gè)5納米的小芯片中。

AMD稱(chēng)，MI300X提供的HBM密度是英偉達AI芯片H100的2.4倍，其HBM帶寬是H100的1.6倍。這意味著(zhù)，AMD的芯片可以運行比英偉達芯片更大的模型。

Lisa Su介紹，MI300X可以支持400億個(gè)參數的Hugging Face AI 模型運行，并讓這個(gè)LLM寫(xiě)了一首關(guān)于舊金山的詩(shī)。這是全球首次在單個(gè)GPU上運行這么大的模型。單個(gè)MI300X可以運行一個(gè)參數多達800億的模型。

LLM需要的GPU更少，帶來(lái)的直接好處就是，可以節約成本。

AMD還發(fā)布了AMD Instinct 平臺，它擁有八個(gè)MI300X，采用行業(yè)標準OCP設計，提供總計1.5TB 的HBM3 內存。

蘇姿豐稱(chēng)，適用于CPU和GPU的版本MI300A現在就已出樣，MI300X和八個(gè)GPU的Instinct 平臺將在今年第三季度出樣，第四季度正式推出。

關(guān)鍵詞：