作者|啟新 來源|錦緞(ID：jinduan006)

2022年6月，我們率市場之先，提出“”的觀點。時至今日，這個論點已經(jīng)沒有太多的爭議。

隨著英偉達在最新的財報會議中明示，不同的國家都在嘗試建立屬于自己的AI算力，這一暗流下的激烈角逐已經(jīng)完全走向臺前。

在這一場國家級、企業(yè)巨頭之間的競爭中，站在最前排的就是大模型和大模型的算力發(fā)動機GPU。

但在更為隱秘的戰(zhàn)場，HBM（高帶寬內(nèi)存）顯然是基本被忽視的關(guān)鍵一環(huán)。

01

大模型和GPU是明戰(zhàn)，HBM則是暗戰(zhàn)

如果因循最基本的原則，從AI算力出發(fā)，我們知道制約單芯片能力的最大瓶頸有三個，分別是：GPU、先進制程（含CoWoS先進封裝），以及HBM。

其中GPU和先進制程是一體兩面的關(guān)系，優(yōu)秀GPU企業(yè)如英偉達設(shè)計出來GPU之后，還需要利用臺積電的先進制程進行制造，再利用臺積電、日月光的先進封裝技術(shù)CoWoS進行最后的合封，這一點在2023年CoWoS產(chǎn)能奇缺的時候，已被市場刨根問底。

而在同一顆AI芯片上的顯存顆粒模組HBM，作為與先進制程同等重要的存在，但到的關(guān)注顯然不夠。這一產(chǎn)品基本完全被韓國的海力士和三星壟斷，合計占市場份額的90%以上，絲毫不比GPU和CoWoS競爭格局差，而高度壟斷，在這逆全球化的背景下，隱含的就是高供應鏈風險。

HBM也是AI芯片中占比最高的部分，根據(jù)外媒的拆解，H100的成本接近3000美元，而其中占比最高的是來自海力士的HBM，總計達到2000美元左右，超過制造和封裝，成為成本中最大的單一占比項。

雖然HBM非常昂貴，但隨著AI基礎(chǔ)算力需求的大爆發(fā)，草根調(diào)研顯示當前HBM仍是一芯難求，海力士和三星2024年所有的產(chǎn)能都已經(jīng)完全被預定，行業(yè)的供需失衡可能在2025年也仍無法得到有效的緩解。可能強如英偉達，也需要思考自己的HBM供應鏈是否足夠安全。

這一重大的產(chǎn)業(yè)趨勢，自然也被存儲芯片大國韓國了如指掌。

經(jīng)過一段時間的醞釀，2024年初，韓國企劃財政部正式公布了《2023年稅法修正案后續(xù)執(zhí)行規(guī)則修正案草案》，將HBM等技術(shù)指定為國家戰(zhàn)略技術(shù)，進一步擴大稅收支持，在這一法案的支持下，三星電子、SK海力士等中大型企業(yè)可享受高達30%至40%的減免。

考慮到韓國的大企業(yè)所得稅一般在25%，這么大力度的減免，相當于給了韓國的HBM產(chǎn)品直接額外賦予了接近10%的價格優(yōu)勢。當前韓國的存儲芯片企業(yè)海力士和三星，在HBM產(chǎn)品的產(chǎn)能和技術(shù)上，本來就處于斷檔式領(lǐng)先，即使其他追趕者能夠做出來產(chǎn)品，考慮到海力士和三星天然的價格屠夫的歷史形象，這將使得追趕者大概率始終陷入技術(shù)落后、價格高企的惡性循環(huán)中。

當然，韓國目前仍然是小大小鬧，還暫時沒有將HBM出口進行管制，或者進行相關(guān)的技術(shù)限制。但是翻看最近的歷史，我們不得不對此事提起十二分的關(guān)注。

如果未來對HBM的限制變嚴格，那么就意味著我國在AI算力的三要素—先進制程、GPU和HBM—中，將陷入全方位的被動局面。

所以我們才說，上一輪最值得關(guān)注HBM的時間是十年前它被發(fā)明的時候，其次就是現(xiàn)在。

02

HBM的昨天、今天和明天

1.一種特殊類型的存儲芯片，可以理解為DRAM的3D版本

存儲芯片是最大的芯片品種。為了滿足不同場景的存儲要求，又被進一步的分為SRAM、DRAM、NAND、NOR等等，其中市場空間最大最為重要的是DRAM和NAND，也就是業(yè)內(nèi)人士常說的大宗品存儲，全球的市場空間都是接近1000億美元。

DRAM對智能設(shè)備的運行速度起到與主控芯片一樣的決定性作用，對于普通消費者都能接觸到的手機為例，主控芯片和內(nèi)存（即移動端LPDDR DRAM）就是最重要的兩顆芯片。HBM，正是DRAM中的一個分支品種，主打高性能。

根據(jù)行業(yè)協(xié)會的定義，DRAM可以分為三種：1）主要用在電腦、服務器中的標準DDR，也就是常說的內(nèi)存條；2）手機和汽車等移動終端領(lǐng)域的LPDDR系列；3）用在數(shù)據(jù)密集型場景的圖形類DDR，HBM正是在這一分類下。

所以，HBM是脫胎于普通的DRAM的升級產(chǎn)品，基于3D堆棧工藝（使用TSV技術(shù)將多個DRAM芯片堆疊起來，在增加帶寬的同時，實現(xiàn)芯片間的高速通信和低功耗），可以實現(xiàn)更高的內(nèi)存帶寬和更低的能耗，。

2023年之前，雖然上述三種DRAM產(chǎn)品中，HBM在傳輸速度、容量和功耗方面都具備明顯的優(yōu)勢，但高于普通DRAM數(shù)倍的價格，使得對HBM需求一直都是名氣沒輸過、銷售沒贏過的尷尬存在。

圖：存儲芯片DRAM進一步分類，方正證券

但AI大模型的出現(xiàn)，使得HBM找到完美的應用場景。

眾所周知，大模型的智力涌現(xiàn)，依托于Scaling laws指導下的大力出奇跡，大模型對數(shù)據(jù)量和算力有著近乎無上限的需求，而算力的發(fā)動機GPU和存儲池HBM，意外成為最大的受益者。

傳統(tǒng)帶寬的標準類DDR DRAM和移動類LPDDR DRAM顯然已經(jīng)完全無法滿足AI芯片的需求，而立體堆疊的HBM，它相對普通的內(nèi)存帶寬可以提升數(shù)倍，而功耗反而更低，卻完美契合大模型的要求。

所以我們可以看到，在AI場景中，英偉達的GPU芯片不再是單獨售賣：從流程上，英偉達首先設(shè)計完GPU，然后采購海力士的HBM，最后交由臺積電利用CoWoS封裝技術(shù)將GPU和HBM封裝到一張片子上，最終交付給AI服務器廠商。最終產(chǎn)品結(jié)構(gòu)正如海力士的宣傳材料展示的一樣。

可以說，英偉達、臺積電、海力士，這三家公司共同構(gòu)成了全球AI算力基座的鐵三角。

2.AI爆發(fā)帶來巨大的增長空間

從配角到主角的HBM，也隨著AI的爆發(fā)也迎來屬于自己的廣闊舞臺。

在AI沒有爆發(fā)之前，市場預測全球HBM將平穩(wěn)增長至一個100億美元的市場。但是隨著2023年大模型的橫空出世，HBM的市場中樞預測被快速拔高。

根據(jù)市場機構(gòu)測算，2023年HBM市場規(guī)模為40億美元，預計2024年增長至150億美元，到2026年增長至接近250億美元，年復合增速高達80%以上。這一測算也與海力士的估算匹配上，2023年11月，海力士CEO表示，預計到2030年，海力士每年HBM出貨量將達到1億顆，隱含產(chǎn)值規(guī)模將接近300億美元，假設(shè)屆時海力士市場份額為50%，則整個市場空間將在500億美元左右。

屆時，HBM將從配角，正式成為存儲芯片中最搶眼的主角。

圖：全球HBM市場規(guī)模預測（AI浪潮之前），方正證券

3.科技巨頭的縮圈游戲

與AI算力中的其他要素一樣，HBM是一個科技難度極高的產(chǎn)品，典型特征是重資本投入和高技術(shù)含量。

做HBM，首先就要求芯片企業(yè)能做出一流的DRAM，然后在這個DRAM芯粒的基數(shù)上做3D的堆疊。經(jīng)過幾十年的發(fā)展競爭，DRAM已經(jīng)有極高的技術(shù)門檻，其制程已經(jīng)微縮到極限，雖然叫法上略有不同，但整體與邏輯芯片差別不大，最先進的DRAM都離不開EUV光刻機的加持；同時還非常燒錢，投資金額極高，海力士每年資本開支超百億美元。所以，當前DRAM已經(jīng)基本被韓國三星、海力士以及美國美光所壟斷。

而從DRAM到HBM，拋開更高的資本開支不談，還新增三大工藝難點：分別是TSV、MR-MUF、混合鍵合Hybrid Bonding。比如TSV技術(shù)，在維持較低的單I/O數(shù)據(jù)速率的情況下大幅提升了位寬進而獲得了遠優(yōu)于GDDR的總帶寬表現(xiàn)。本文不就技術(shù)細節(jié)進行展開，這一難度就相當從2D電影進階到3D電影，完全是另一個維度的競爭。

直接衡量大家技術(shù)水平的，簡單可以看堆疊層數(shù)。根據(jù)了解到的最新行業(yè)動態(tài)：為配套英偉達最新的H200，2024年下半年三大存儲廠將推出36GB版本的HBM3e或為12層堆疊。

對于追趕者而言，靶子已經(jīng)固定在那兒，只是難度著實不小。

03

HBM背后的國力之爭

我們判斷，從2024年起，HBM將繼GPU之后成為各個國家在算力競爭的關(guān)鍵。

毫無疑問，目前韓國海力士和三星遙遙領(lǐng)先。哪怕美國在這個領(lǐng)域也是落后的，他們本土的代表性公司美光科技已奮起直追。而中國國內(nèi)的大宗存儲尚處在追趕狀態(tài)，所以HBM的落后自然也就更多，也更為急迫。

1.韓國雙子星閃耀：海力士的不放棄功不可沒

前文提到，HBM是基于DRAM的3D形態(tài)，而DRAM的全球霸主三星卻在HBM這一細分品類上處于落后狀態(tài)，而海力士卻是壟斷者的存在，這得益于公司對HBM技術(shù)的不離不棄。

早在10年前的2013年，海力士就首次制造出HBM，并被行業(yè)協(xié)會采納為標準。2015年，AMD成為第一個使用HBM的客戶。但在此之后，HBM由于價格高昂，下游根本不買單，甚至一度被認為是點錯了科技樹。

但海力士死磕這個方向，并沒有放棄。在2015-2022年，雖然并沒有什么突出客戶，海力士仍然對HBM產(chǎn)品進行了多達3次技術(shù)升級，絲毫不像對待一個邊緣產(chǎn)品的待遇。

圖：海力士HBM產(chǎn)品roadmap，公司路演資料

最終，憑借著2023年至今的AI浪潮，海力士的HBM一芯難求，從無人問津到一飛沖天，10年的堅守終于換了回報。在低迷的韓國股市中，海力士股價也一騎絕塵，實現(xiàn)翻倍，成為跟上全球AI浪潮的唯一一家韓國公司。

另一方面，內(nèi)存領(lǐng)域的霸主三星，得益于在DRAM上的深厚積累，以及并不落后的技術(shù)儲備，迅速崛起成為HBM排名第二的玩家。

2016年三星開始大規(guī)模量產(chǎn)HBM。落后于海力士3年；而根據(jù)公司最新進展，三星已經(jīng)于2023年實現(xiàn)了HBM3的量產(chǎn)出貨，而將在今年上半年推出HBM3E，而且規(guī)劃2025年實現(xiàn)HBM4的量產(chǎn)。根據(jù)這一規(guī)劃，三星與海力士的差距已經(jīng)縮小到半年左右，而差距有望于2025年被完全消弭。

三星除了有DRAM的底氣之外，由于HBM當中包含部分邏輯芯片的電路，因此三星電子依托于自有的邏輯晶圓廠，確實具備彎道超車的比較優(yōu)勢。而且同為韓國公司，直接挖相關(guān)人才也更為容易。

毫無疑問，在HBM領(lǐng)域起了個大早的韓國，也絲毫沒有放松，還在朝前一路狂奔。

2.美國獨苗苦苦支撐，但猶可追

美國公司在HBM的競賽中落后似乎是命中注定的。由于存儲芯片行業(yè)周期性極強，資本開支又是無底洞，已經(jīng)逐漸被美國企業(yè)放棄，比如當年的存儲芯片龍頭英特爾早已完全退出存儲芯片市場，轉(zhuǎn)而增加了對韓國的依賴。

好在美國還剩最后的獨苗美光科技。在存儲這個刺刀見紅的嗜血賽道上，它的生存之道是“茍住”。為了避免出現(xiàn)重大損失，美光一直在研發(fā)策略上堅持不做首發(fā)者，而更傾向于采取跟隨戰(zhàn)術(shù)，這樣能夠避免高昂的研發(fā)投入和可能打水漂的資本開支。

美光開始研發(fā)HBM的時間相對較晚，現(xiàn)在主流的HBM3上，美光的進度較海力士和三星落后半年以上。半年差距看似不大，但在AI硬件軍備競賽中，時間就是生命，大家為了保證大模型的領(lǐng)先，都爭相上最先進的算力產(chǎn)品，用最新的卡、最大帶寬的光模塊和最優(yōu)質(zhì)的HBM，因此晚半年推出，就代表著整個市場的錯失，所以美光在HBM的份額低到只有個位數(shù)。

為了實現(xiàn)彎道超車，美光已經(jīng)開始挖海力士和三星的核心人才，同時開啟多代產(chǎn)品的并行研發(fā)。公司放衛(wèi)星的表示，將在2024年年底實現(xiàn)HBM3E的量產(chǎn)，如果屆時完成，將使得其與韓國巨頭的技術(shù)差距明顯縮小。此外，公司規(guī)劃在2028年量產(chǎn)HBM4E ，將每個堆棧的容量提升到 48GB 至 64GB。

3.中國突圍路在何方？

美國尚存獨苗，中國的HBM行業(yè)尚處0到1的階段，要補的課更多。

目前，中國企業(yè)在HBM產(chǎn)業(yè)鏈上的存在感甚至還要落后于先進制程與GPU。如果說GPU只是人優(yōu)我差的問題，HBM則是人有我無的問題。

雖然A股已經(jīng)對HBM進行了一輪又一輪的炒作，但不得不承認的客觀現(xiàn)實是，國內(nèi)到現(xiàn)在無法量產(chǎn)HBM，這成為國內(nèi)自研AI芯片的重大隱憂，因為GPU需要和HBM利用CoWoS工藝封裝在一起，國產(chǎn)的GPU和CoWoS工藝都已經(jīng)解決了有沒有的問題，已經(jīng)進入量產(chǎn)爆發(fā)階段，而HBM還遙遙無期。

不同于境外市場要么押注龍頭海力士，要么押注能追趕上的美光，這種簡單的選擇題。A股對HBM的投資邏輯演化成兩條：

國產(chǎn)HBM正處于0到1的突破期；考慮到海外的貿(mào)易保護主義抬頭，可能靠自己是一條不得不走的路只能靠我們自己。

時間就是生命，但由于在DRAM領(lǐng)域的落后，一家企業(yè)去主導HBM的突破顯得更加困難。從產(chǎn)業(yè)鏈合力的角度，更有望突破，HBM顯然需要存儲廠、晶圓代工廠、封測廠的通力合作。根據(jù)最新的產(chǎn)業(yè)信息，到2026年我國將具備量產(chǎn)HBM的能力，但這一速度顯然還是有點跟不上日新月異的大模型需求。

也就是說，現(xiàn)在，留給HBM中國隊的時間唯“緊迫”二字。

編者按：本文轉(zhuǎn)載自微信公眾號：錦緞(ID：jinduan006)，作者：啟新