10月7日,據viva100報道,三星電子最近購買了價值 2000 萬美元的 AMD Instinct MI300X GPU,以滿足其 AI數據中心的需求。
報道稱,目前三星新購買的這批 AMD Instinct MI300X GPU,已被送往 DX 部門的領先機構 Samsung Research 進行測試。不過,三星尚未在其極限狀態下對MI300X進行測試。據在三星工作的內部人士稱,AI 開發進入全面測試狀態還需要更多時間。
資料顯示,AMD MI300X內部集成了12個5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個晶體管。在內核設計上,采用了相比MI250X更多計算核心的 CDNA 3 GPU,其每個基于CDNA 3 GPU架構的XCD總共有八個計算芯片(XCD),每個計算芯片有40個計算單元,總共有320個計算單元,即20480個核心單元。不過量產版實際總共有304個計算單元(每個GPU小芯片38個CU),19456個流處理器。MI300X還配備了更大的 192GB HBM3內存(8個HBM3封裝,每個堆棧為12 Hi)相比MI250X提高了50%,帶來高達5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。
根據AMD的說法,MI300X與英偉達的H100加速器相比,內存容量提高 2.4 倍,內存帶寬提高 1.6 倍,FP16/FP8 TFLOPS算力是其1.3 倍。在 1v1 比較中,速度比 H100 (Llama 2 70B) 快達 20%;在 1v1 比較中,速度比 H100 (FlashAttention 2) 快達 20%。
從價格來看,公開資料顯示,MI300X 的售價約15000美元,而英偉達H100售價高達30000美元。而報道稱,三星此次大規模采購的MI300X的價格僅為10000美元,只有英偉達H100的1/3,確實非常實惠。
雖然此前的一些公開測試顯示,MI300X在部分AI工作負載性能方面落后于英偉達H100,但三星電子最近在對于MI300X的一些測試顯示,MI300X性能與英偉達H100相當,更何況MI300X價格也更為實惠。
值得注意的是,三星電子最近也向AMD提供了其新的HBM3E內存進行測試,希望AMD將其用于其 Instinct GPU 系列。而在此之前,三星電子的HBM3E 內存已經通過了英偉達GPU的認證。預計三星未來將繼續從 AMD 購買 GPU,同時推動AMD采用三星的HBM3E內存。據一位三星電子的高管稱,預計兩家公司之間的聯系將進一步加強。