11月5日消息，在SK AI Summit 2024上，SK 海力士領(lǐng)先三星和美光，發(fā)布了業(yè)界首款16層堆疊（16Hi）的 HBM3E內(nèi)存，并確保“技術(shù)穩(wěn)定性”，計劃最早在明年年初提供樣品。

在幾周之前，SK 海力士才推出了12層堆疊的 HBM3E內(nèi)存，獲得了AMD MI325X和英偉達(dá)Blackwell Ultra的合同。而最新的16層堆疊的 HBM3E內(nèi)存的容量為 48GB（每個芯片 3GB）。這種密度的增加，可以使得 AI 加速器能夠在8個HBM堆棧配置中擁有高達(dá) 384GB 的HBM3E容量。

SK 海力士聲稱，16層堆疊的 HBM3E 的AI訓(xùn)練性能提高了 18%，推理性能提高了 32%。與 12層對的的HMB3E一樣，新的16層堆疊的HBM3E采用了 MR-MUF 等封裝技術(shù)，該技術(shù)通過熔化芯片之間的焊料來連接芯片。

SK 海力士預(yù)計16層堆疊HBM3E 樣品將于2025 年初準(zhǔn)備好。然而，這種內(nèi)存可能只是短暫的過渡產(chǎn)品，因為SK海力士計劃2025下半年推出首批12層堆疊的HBM4產(chǎn)品，16層堆疊的HBM4將會在2026年推出。

同時，SK海力士還透露，英偉達(dá)CEO黃仁勛要求其提前6個月供應(yīng)HBM4，SK海力士也愿意嘗試，將加強(qiáng)與英偉達(dá)合作。這也意味著HM4有可能提前量產(chǎn)。

有報道稱，SK 海力士早在今年10月就已經(jīng)實現(xiàn)了HBM4的流片。遵循傳統(tǒng)的芯片開發(fā)生命周期，預(yù)計英偉達(dá)和AMD將在2025年第一季度/第二季度收到認(rèn)證樣品。

資料顯示，HBM4 將通道寬度從 1024 位增加到 2048 位，同時支持超過 16 個垂直堆疊的 DRAM 芯片，每個芯片的內(nèi)存高達(dá) 4GB。這將帶來巨大的升級，應(yīng)該足以滿足即將推出的 AI GPU 的需求。

此外，SK海力士還在積極開發(fā) PCIe 6.0 SSD、針對 AI 服務(wù)器的大容量 QLC（四層單元）eSSD 和用于移動設(shè)備的 UFS 5.0。SK海力士還在開發(fā)一種LPCAMM2模塊，并使用其1c nm制程節(jié)點開發(fā)焊接的LPDDR5/6存儲器。

為了克服“內(nèi)存墻”，SK海力士還正在開發(fā)近內(nèi)存處理 （PNM）、存內(nèi)處理 （PIM） 和計算存儲等解決方案。三星此前已經(jīng)演示了其 PIM 版本——其中數(shù)據(jù)在內(nèi)存中處理，因此數(shù)據(jù)不必移動到外部處理器。