半導體行業專題報告：HBM高帶寬內存，新一代DRAM解決方案.pdf

半導體行業專題報告：HBM高帶寬內存，新一代DRAM解決方案。JEDEC定義了三類DRAM標準，以滿足各種應用的設計要求，HBM與GDDR屬于圖形DDR，面向需要極高吞吐量的數據密 集型應用程序，例如圖形相關應用程序、數據中心加速和AI。

HBM演進必要性：解決存儲墻瓶頸刺激內存高帶寬需求。HBM（High Bandwidth Memory，高帶寬內存）：一款新型的 CPU/GPU內存芯片，將很多個DDR芯片堆疊在一起后和GPU封裝在一起，實現大容量，高位寬的DDR組合陣列。通過增加帶 寬，擴展內存容量，讓更大的模型，更多的參數留在離核心計算更近的地方，從而減少內存和存儲解決方案帶來的延遲。

HBM提高有效帶寬途徑：Pseudo Channel Mode偽通道。HBM2的主要增強功能之一是其偽通道模式，該模式將通道分為 兩個單獨的子通道，每個子通道分別具有64位I/O，從而為每個存儲器的讀寫訪問提供128位預取。

HBM結構：通過TSV將數個DRAM die垂直堆疊。HBM主要是通過硅通孔（Through Silicon Via, 簡稱“TSV”）技術進行 芯片堆疊，以增加吞吐量并克服單一封裝內帶寬的限制，將數個DRAM裸片像樓層一樣垂直堆疊。較傳統封裝方式，TSV技術 能夠縮減30%體積，并降低50%能耗。

從技術角度看，HBM促使DRAM從傳統2D加速走向立體3D，充分利用空間、縮小面積，契合半導體行業小型化、集成化的 發展趨勢。HBM突破了內存容量與帶寬瓶頸，被視為新一代DRAM解決方案。

HBM技術演進：目前SK海力士為唯一量產新世代HBM3供應商。2022年1月，JEDEC組織正式發布了新一代高帶寬內存 HBM3的標準規范，繼續在存儲密度、帶寬、通道、可靠性、能效等各個層面進行擴充升級。

HBM的不足：系統搭配缺乏靈活性（出廠后無法容量擴展），內存容量受限，訪問延遲較高。

HBM與其他DDR的替代關系比較分析：HBM+DDR協同發展， HBM負責高帶寬小容量，DDR負責稍低帶寬大容量。

HBM競爭格局與應用市場：三巨頭壟斷，受益于AI服務器市場增長。據TrendForce集邦咨詢研究顯示，2022年三大原廠 HBM市占率分別為SK 海力士（SK hynix）50%、三星（Samsung）約40%、美光（Micron）約10%。新思界預測2025E中 國HBM需求量將超過100萬顆。