存儲芯片的寒冬還在持續。根據Trend Force數據，DRAM內存市場已經連續三個季度走低，跌幅達15%~20%。

　　降價成為廠商保量為數不多的手段。以DRAM 上一季度指標性產品DDR4 8GB為例，批發價為每個1.48美元左右，環比下跌1%;4GB產品價格為每個1.1美元左右，環比下跌8%。然而，在DRAM整體低迷時，DRAM大軍當中的一員HBM(High BandwidthMemory，高帶寬存儲器)卻冒出了頭。2023年后，三星和SK海力士的HBM訂單快速增加，HBM3規格的DRAM價格上漲5倍。HBM正在掀起存儲廠商的新一輪角力。

　　HBM浮出水面

　　HBM能在DRAM中逆勢而上，很大程度也是乘了生成式人工智能的東風。眾所周知，與生成式AI緊密掛鉤的指標是算力。英偉達、AMD等廠商的GPU為AI模型訓練和推理提供強大算力支撐。但在算力之外，帶寬也成為提升數據計算效率的重要保障。帶寬直接影響數據吞吐量，數據吞吐量越大，模型在單位時間內能夠處理的數據便越多，響應越快。對于AI加速器而言，如果僅提升算力而在帶寬上沒有相應提升，就容易造成數據堆積，無法達到理想的數據處理速度。存儲與計算之間緊密配合，才能夠實現AI計算的效率提升。

　　IEEE電子器件與集成電路深圳分會首任主席、安徽工程大學副教授林信南向《中國電子報》記者表示：“作為DRAM家族中的一員，HBM具有高帶寬，并同GPU一起封裝，從而在實現更高傳輸速率的同時，具有更好的能耗比。”

多層堆疊的HBM

　　雖然DRAM的帶寬可滿足用戶在消費級顯卡當中的基礎存儲需求，但是并不能滿足企業對于商業級存儲和計算的期待。當前市面上的AI加速器幾乎都配置了不同型號的HBM。英偉達的A100及H100，各搭載80GB的HBM2E及HBM3，在其Grace Hopper芯片中，單顆芯片HBM搭載容量達96GB。AMD的MI300搭載HBM3，谷歌也傳出其TPU會搭載HBM。

　　如果說HBM是DRAM寒冬中的逆行者，那么HBM3便是HBM當中的“尖子生”。在技術不斷升級的過程中，從HBM2至HBM3的性能也得到了更大幅度的提升。JEDEC在于2022年發布的HBM3高帶寬內存標準中提到，HBM3可提高應用程序中數據的處理速率。在圖形處理、服務器以及高性能計算(HPC)等應用程序中，更高的帶寬和更低的功耗對于提升解決方案的市場接受度至關重要。英偉達技術市場總監Barry Wagner表示：“HBM3憑借其更強和更可靠的性能，能夠更好地支持需要巨大內存帶寬和容量的應用程序。”

　　在與DRAM家族DDR、GDDR等品類的橫向競爭當中，HBM憑借超高帶寬更能適應HPC的計算需求，同時，HBM也是配合高算力GPU提升計算效率必不可少的一環。

　　新一輪存儲競賽拉開序幕

　　在摩爾定律腳步放緩的今天，算力提升的成本和難度持續攀升，各大廠商瞄準了還有更大提升空間的HBM，特別是HBM3，以此開展新一輪的存儲競賽。根據Trend Force預測，2023年HBM需求量將年增58%，2024年將持續增長30%以上。到2025年，HBM整體市場有望達到20億美元以上，2026年預期達到57億美元。

　　當前，英偉達的H100和AMD的Instinct MI300均使用SK海力士的HBM3，并且未來兩家廠商各自發布的H200和Instinct MI300X也都會考慮使用性能更好的HBM3E。

　　由于HBM3需求暴增，SK海力士已決定在2024年進行擴產。海力士于4月20日宣布率先開發出12層HBM3產品，單顆內存高達24GB，在內存比16GB產品提高50%的同時，還能保持堆疊厚度與后者相同。5月30日，海力士已經完成第五代10nm制程技術(1bnm制程)的開發。SK海力士DRAM研發主管Jonghwan Kim表示：“1bnm工藝會被應用于更廣泛的產品中，例如在2024年上半年將推出的LPDDR5T和HBM3E當中。”根據公開信息，HBM3E的數據處理速度為8Gbps，相比HBM3提升了25%。

SK海力士的24GB HBM3 (圖片來源：SK海力士)

　　在DRAM上選擇減產斷供的三星也將重點關注HBM。“我們充分認識到人工智能、圖形處理和機器學習的快速增長正在推動HBM3這些關鍵產品，HBM3不僅在性能方面表現出色，而且還提供了前所未有的能效。”三星集團副總裁Kyung-SooHa說。4月26日，三星向KIPO韓國知識產權局提交了一款名為“Snowbolt”的商標，其申請書寫道：“一款用于高性能計算、人工智能和超級計算機計算的動態和高帶寬存儲器。”從命名風格來看，它將是三星HBM3產品Icebolt的下一代存儲器。除此之外，三星也提出了“內存內處理技術”，即將存算一體化(PIM)集成到HBM中，以更好地滿足人工智能需求。HBM-PIM的組合模式也可能成為三星在存儲市場競爭中的另一個殺手锏。

三星的內存內處理技術HBM-PIM (圖片來源：三星)

　　目前，HBM市場基本是SK海力士、三星和美光“三分天下”。數據顯示，至去年年底，三家各自占有50%、40%和10%。面對占比之和近90%的兩家企業，美光在HBM上的行動起步較晚。2020年美光正式推出HBM2用于高性能計算，并于近期在財報中表示：“HBM3將在2024 財年貢獻有意義的收入。”

　　成本和工藝仍是痛點

　　HBM3看似火爆，但也不得不考慮成本和工藝問題。“由于HBM采用復雜的TSV封裝工藝，其生產良率較低，產品開發周期較長，生產成本也較高。復雜的封裝工藝和較高的成本限制了HBM的滲透和快速增長。”半導體行業專家張先揚告訴《中國電子報》記者。

　　同時，HBM的發展也遵守從“高帶寬”向“更高帶寬”的迭代邏輯。霍夫曼公關內容營銷經理張亞表示：“HBM原本就屬于高帶寬，如果要在此基礎上更進一步，那么可能需要使用另外的技術路徑，比如WoW(晶圓對晶圓封裝)。”

　　HBM的應用場景也有待拓展。HBM的高帶寬小體積是優點，但是其堆疊工藝導致它缺乏靈活性，難以擴容且訪問延遲高。長短板都十分明顯的HBM應用場景變得十分聚焦。“HBM的市場定位主要應用于大存儲容量、低功耗和高傳輸速率的領域，目前主要應用于AI和高密度計算數據中心領域，但是未來像自動駕駛和移動式AR設備也有類似的需求。”張先揚說。

　　在自動駕駛方面，智能汽車和車路協同場景都涉及大量的數據傳輸，HBM的帶寬優勢能夠發揮作用。但是由于成本問題，HBM3距離“上車”還有些時日。在頭顯設備方面，VR和AR系統需要高分辨率的顯示器，這些顯示器需要更大的帶寬來實現處理器和內存之間的數據傳輸。蘋果最新推出的頭顯設備Vision Pro也傳出內置了SK海力士專門設計的高帶寬DRAM來提升圖像數據的處理效率。

高帶寬DRAM和RI芯片是頭顯的重要部件 (圖片來源：蘋果官網)

　　“目前來說，CPU+DRAM技術較為成熟，成本相對較低，在多數‘對性能沒有極端需求’的場合具有更好的性價比。而GPU+HBM的組合則更多用于對算力要求特別高的應用領域。從2D走向3D，集成度更高、能耗效率更高的HBM是未來趨勢，隨著TSV工藝和HBM設計的不斷成熟，HBM自身的性價比也會有所提升，并將逐漸占據更多的市場。”林信南說。

　　作者：張心怡 王信豪　　來源：中國電子報、電子信息產業網