4月1日消息,為了滿足更高頻寬、更大容量、更高效率的需求,定制化高帶寬內存(HBM)正逐步成為市場焦點,預計至2026年,隨著HBM4的推出,定制化HBM市場將迎來顯著增長。目前英偉達(NVIDIA)、亞馬遜、微軟、博通及Marvell等主要IT業者正積極推動HBM的定制化發展。
根據Marvell的預測,定制化計算市場占數據中心的比重將從2023年的16%提升至2028年的25%,而部分內存業者預計,定制化HBM將在2030年占據整體HBM市場的30%至40%。
市場調研機構Counterpoint也指出,定制化HBM主要有兩種技術路線備受矚目。首先是HBM直接封裝至SoC,這個方案可省略基底芯片(Base Die)與中介層(Interposer),有效降低成本并擴展I/O數量。然而,此方法在擴展HBM容量方面存在挑戰,并可能加劇散熱問題;或者選擇在基底晶片中新增邏輯功能,通過優化基底芯片內部空間,提升內存性能并改善穩定性。
除了構架選擇,定制化HBM的創新主要圍繞數據傳輸效率的提升,通過通信IP、光子技術與數據完整性強化等創新,提高數據傳輸效率,進一步提升HBM性能。舉例來說,通過處理器與內存通信IP,包括控制器、Physical Layer(實體層)及界面技術,確保GPU與內存之間的高效傳輸;再來是光子技術,利用光信號替代電子信號,提高傳輸速率并降低延遲,雖仍面臨技術與成本挑戰,但具備長遠發展潛質;最后是透過緩存內存降低DRAM錯誤,提高系統可靠性與傳輸性能。
Counterpoint 指出,全球內存大廠與云計算企業正加速投入客制化HBM市場,雖然客制化HBM市場持續成長,但標準化趨勢與成本壓力可能影響其長期發展。目前企業偏好標準化解決方案以降低成本,預計隨著2028年軟硬件標準化進一步成熟,市場對客制化HBM的接受度可能受限。此外,內存業者需在創新與成本競爭之間尋求平衡,類似于1990年代Rambus的授權模式,未來HBM標準的演進仍存在變數。
Counterpoint Research 研究總監MS Hwang表示,面對生成式AI帶來的變革,內存產業正站在關鍵轉折點。雖然客制化HBM具備突破性潛質,但市場仍須在性能提升與實際應用之間找到最佳平衡點。隨著技術持續進步,未來內存市場的發展,將取決于創新能否與產業現實需求相結合。