HBM專題報(bào)告：高帶寬特性釋放AI硬件性能，AI高景氣持續(xù)驅(qū)動(dòng)需求高增.pdf

HBM專題報(bào)告：高帶寬特性釋放AI硬件性能，AI高景氣持續(xù)驅(qū)動(dòng)需求高增。高帶寬特性釋放AI硬件性能，HBM成為AI時(shí)代首選內(nèi)存技術(shù)。當(dāng)前諸如GPT-3等AI大模型所要求的算力日益提升，伴隨著的是參數(shù)數(shù)量呈現(xiàn)指數(shù)級(jí)增長(zhǎng)，傳統(tǒng) 的內(nèi)存帶寬及傳輸速率限制了AI硬件以及系統(tǒng)的最大性能，相較于傳統(tǒng)DDR內(nèi)存，HBM具有高帶寬、低功耗、低延時(shí)等優(yōu)勢(shì)，已成為當(dāng)前高性能計(jì)算、人工 智能等領(lǐng)域的首選內(nèi)存技術(shù)。當(dāng)前HBM產(chǎn)品已經(jīng)發(fā)展至第五代HBM3e，內(nèi)存帶寬相較上一代提升47%至1.2TB/s，堆疊層數(shù)最高可達(dá)12層，對(duì)應(yīng)最高容量達(dá) 36GB，當(dāng)前三大原廠均已入局并在24H1陸續(xù)出貨，考慮到HBM需求的火爆程度，SK海力士還計(jì)劃提前一年在2025年發(fā)布HBM4。

三大原廠持續(xù)擴(kuò)充HBM產(chǎn)能，SK海力士位居全球市場(chǎng)份額首位。當(dāng)前AI高景氣不斷驅(qū)動(dòng)HBM需求高增，持續(xù)推動(dòng)HBM位元出貨量和產(chǎn)值同步增長(zhǎng)，根據(jù)Yole 預(yù)測(cè)數(shù)據(jù)，預(yù)計(jì)2025年全球HBM位元出貨量和行業(yè)產(chǎn)值將分別達(dá)到17億GB和199億美元。競(jìng)爭(zhēng)格局方面，根據(jù)TrendForce數(shù)據(jù)，以位元出貨量作為統(tǒng)計(jì)口徑， 2023年全球HBM市場(chǎng)中，SK海力士和三星的市場(chǎng)份額各占47.5%左右，而美光份額約為5%。隨著HBM3e的率先推出及放量，預(yù)計(jì)2024年SK海力士的市場(chǎng)份額 將增加至52.5%，而三星的市場(chǎng)份額將下降至42.4%。為了滿足持續(xù)增長(zhǎng)的HBM需求，三大原廠紛紛加大資本開支擴(kuò)建HBM產(chǎn)能，其中，三星和SK海力士的產(chǎn) 能擴(kuò)充最為積極，預(yù)計(jì)到2024年底，三星HBM總產(chǎn)能將達(dá)約13萬(wàn)片/月，SK海力士約12萬(wàn)片/月，而美光僅為2萬(wàn)片/月

TSV為HBM核心制備工藝，混合鍵合將成未來(lái)主流堆疊技術(shù)。HBM主要采用TSV技術(shù)將多個(gè)DRAM芯片進(jìn)行垂直堆疊，并與GPU一同進(jìn)行封裝，形成大容量、 高位寬的DDR組合陣列，從而克服單一封裝內(nèi)的帶寬限制。在加工制造過程中，TSV是HBM實(shí)現(xiàn)芯片垂直堆疊的核心制備工藝，占封裝成本達(dá)30%。而從當(dāng)前 原廠采用的封裝技術(shù)來(lái)看，三星主要采用TC-NCF技術(shù)，而SK海力士則通過Advanced MR-MUF技術(shù)并結(jié)合改良EMC材料來(lái)進(jìn)行HBM的封裝生產(chǎn)，在改善散熱方 面具有明顯優(yōu)勢(shì)。考慮到未來(lái)因帶寬、容量增長(zhǎng)所帶來(lái)的堆疊層數(shù)及密度提升，SK海力士將利用混合鍵合技術(shù)來(lái)加工生產(chǎn)HBM4。混合鍵合摒棄了無(wú)凸塊設(shè) 計(jì)并采用直接銅對(duì)銅的連接方式，相較微凸塊技術(shù)，能夠在進(jìn)一步提升互聯(lián)密度的同時(shí)實(shí)現(xiàn)功耗降低，有望成為未來(lái)HBM主流堆疊技術(shù)。