存儲芯片的寒冬還在持續(xù)。根據(jù)Trend Force數(shù)據(jù)，DRAM內(nèi)存市場已經(jīng)連續(xù)三個季度走低，跌幅達15%~20%。

　　降價成為廠商保量為數(shù)不多的手段。以DRAM 上一季度指標(biāo)性產(chǎn)品DDR4 8GB為例，批發(fā)價為每個1.48美元左右，環(huán)比下跌1%;4GB產(chǎn)品價格為每個1.1美元左右，環(huán)比下跌8%。然而，在DRAM整體低迷時，DRAM大軍當(dāng)中的一員HBM(High BandwidthMemory，高帶寬存儲器)卻冒出了頭。2023年后，三星和SK海力士的HBM訂單快速增加，HBM3規(guī)格的DRAM價格上漲5倍。HBM正在掀起存儲廠商的新一輪角力。

　　HBM浮出水面

　　HBM能在DRAM中逆勢而上，很大程度也是乘了生成式人工智能的東風(fēng)。眾所周知，與生成式AI緊密掛鉤的指標(biāo)是算力。英偉達、AMD等廠商的GPU為AI模型訓(xùn)練和推理提供強大算力支撐。但在算力之外，帶寬也成為提升數(shù)據(jù)計算效率的重要保障。帶寬直接影響數(shù)據(jù)吞吐量，數(shù)據(jù)吞吐量越大，模型在單位時間內(nèi)能夠處理的數(shù)據(jù)便越多，響應(yīng)越快。對于AI加速器而言，如果僅提升算力而在帶寬上沒有相應(yīng)提升，就容易造成數(shù)據(jù)堆積，無法達到理想的數(shù)據(jù)處理速度。存儲與計算之間緊密配合，才能夠?qū)崿F(xiàn)AI計算的效率提升。

　　IEEE電子器件與集成電路深圳分會首任主席、安徽工程大學(xué)副教授林信南向《中國電子報》記者表示：“作為DRAM家族中的一員，HBM具有高帶寬，并同GPU一起封裝，從而在實現(xiàn)更高傳輸速率的同時，具有更好的能耗比?！?/p>

多層堆疊的HBM

　　雖然DRAM的帶寬可滿足用戶在消費級顯卡當(dāng)中的基礎(chǔ)存儲需求，但是并不能滿足企業(yè)對于商業(yè)級存儲和計算的期待。當(dāng)前市面上的AI加速器幾乎都配置了不同型號的HBM。英偉達的A100及H100，各搭載80GB的HBM2E及HBM3，在其Grace Hopper芯片中，單顆芯片HBM搭載容量達96GB。AMD的MI300搭載HBM3，谷歌也傳出其TPU會搭載HBM。

　　如果說HBM是DRAM寒冬中的逆行者，那么HBM3便是HBM當(dāng)中的“尖子生”。在技術(shù)不斷升級的過程中，從HBM2至HBM3的性能也得到了更大幅度的提升。JEDEC在于2022年發(fā)布的HBM3高帶寬內(nèi)存標(biāo)準(zhǔn)中提到，HBM3可提高應(yīng)用程序中數(shù)據(jù)的處理速率。在圖形處理、服務(wù)器以及高性能計算(HPC)等應(yīng)用程序中，更高的帶寬和更低的功耗對于提升解決方案的市場接受度至關(guān)重要。英偉達技術(shù)市場總監(jiān)Barry Wagner表示：“HBM3憑借其更強和更可靠的性能，能夠更好地支持需要巨大內(nèi)存帶寬和容量的應(yīng)用程序?！?/p>

　　在與DRAM家族DDR、GDDR等品類的橫向競爭當(dāng)中，HBM憑借超高帶寬更能適應(yīng)HPC的計算需求，同時，HBM也是配合高算力GPU提升計算效率必不可少的一環(huán)。

　　新一輪存儲競賽拉開序幕

　　在摩爾定律腳步放緩的今天，算力提升的成本和難度持續(xù)攀升，各大廠商瞄準(zhǔn)了還有更大提升空間的HBM，特別是HBM3，以此開展新一輪的存儲競賽。根據(jù)Trend Force預(yù)測，2023年HBM需求量將年增58%，2024年將持續(xù)增長30%以上。到2025年，HBM整體市場有望達到20億美元以上，2026年預(yù)期達到57億美元。

　　當(dāng)前，英偉達的H100和AMD的Instinct MI300均使用SK海力士的HBM3，并且未來兩家廠商各自發(fā)布的H200和Instinct MI300X也都會考慮使用性能更好的HBM3E。

　　由于HBM3需求暴增，SK海力士已決定在2024年進行擴產(chǎn)。海力士于4月20日宣布率先開發(fā)出12層HBM3產(chǎn)品，單顆內(nèi)存高達24GB，在內(nèi)存比16GB產(chǎn)品提高50%的同時，還能保持堆疊厚度與后者相同。5月30日，海力士已經(jīng)完成第五代10nm制程技術(shù)(1bnm制程)的開發(fā)。SK海力士DRAM研發(fā)主管Jonghwan Kim表示：“1bnm工藝會被應(yīng)用于更廣泛的產(chǎn)品中，例如在2024年上半年將推出的LPDDR5T和HBM3E當(dāng)中?！备鶕?jù)公開信息，HBM3E的數(shù)據(jù)處理速度為8Gbps，相比HBM3提升了25%。

SK海力士的24GB HBM3 (圖片來源：SK海力士)

　　在DRAM上選擇減產(chǎn)斷供的三星也將重點關(guān)注HBM?！拔覀兂浞终J識到人工智能、圖形處理和機器學(xué)習(xí)的快速增長正在推動HBM3這些關(guān)鍵產(chǎn)品，HBM3不僅在性能方面表現(xiàn)出色，而且還提供了前所未有的能效?！比羌瘓F副總裁Kyung-SooHa說。4月26日，三星向KIPO韓國知識產(chǎn)權(quán)局提交了一款名為“Snowbolt”的商標(biāo)，其申請書寫道：“一款用于高性能計算、人工智能和超級計算機計算的動態(tài)和高帶寬存儲器。”從命名風(fēng)格來看，它將是三星HBM3產(chǎn)品Icebolt的下一代存儲器。除此之外，三星也提出了“內(nèi)存內(nèi)處理技術(shù)”，即將存算一體化(PIM)集成到HBM中，以更好地滿足人工智能需求。HBM-PIM的組合模式也可能成為三星在存儲市場競爭中的另一個殺手锏。

三星的內(nèi)存內(nèi)處理技術(shù)HBM-PIM (圖片來源：三星)

　　目前，HBM市場基本是SK海力士、三星和美光“三分天下”。數(shù)據(jù)顯示，至去年年底，三家各自占有50%、40%和10%。面對占比之和近90%的兩家企業(yè)，美光在HBM上的行動起步較晚。2020年美光正式推出HBM2用于高性能計算，并于近期在財報中表示：“HBM3將在2024 財年貢獻有意義的收入?！?/p>

　　成本和工藝仍是痛點

　　HBM3看似火爆，但也不得不考慮成本和工藝問題?！坝捎贖BM采用復(fù)雜的TSV封裝工藝，其生產(chǎn)良率較低，產(chǎn)品開發(fā)周期較長，生產(chǎn)成本也較高。復(fù)雜的封裝工藝和較高的成本限制了HBM的滲透和快速增長?！卑雽?dǎo)體行業(yè)專家張先揚告訴《中國電子報》記者。

　　同時，HBM的發(fā)展也遵守從“高帶寬”向“更高帶寬”的迭代邏輯。霍夫曼公關(guān)內(nèi)容營銷經(jīng)理張亞表示：“HBM原本就屬于高帶寬，如果要在此基礎(chǔ)上更進一步，那么可能需要使用另外的技術(shù)路徑，比如WoW(晶圓對晶圓封裝)?！?/p>

　　HBM的應(yīng)用場景也有待拓展。HBM的高帶寬小體積是優(yōu)點，但是其堆疊工藝導(dǎo)致它缺乏靈活性，難以擴容且訪問延遲高。長短板都十分明顯的HBM應(yīng)用場景變得十分聚焦。“HBM的市場定位主要應(yīng)用于大存儲容量、低功耗和高傳輸速率的領(lǐng)域，目前主要應(yīng)用于AI和高密度計算數(shù)據(jù)中心領(lǐng)域，但是未來像自動駕駛和移動式AR設(shè)備也有類似的需求?！睆埾葥P說。

　　在自動駕駛方面，智能汽車和車路協(xié)同場景都涉及大量的數(shù)據(jù)傳輸，HBM的帶寬優(yōu)勢能夠發(fā)揮作用。但是由于成本問題，HBM3距離“上車”還有些時日。在頭顯設(shè)備方面，VR和AR系統(tǒng)需要高分辨率的顯示器，這些顯示器需要更大的帶寬來實現(xiàn)處理器和內(nèi)存之間的數(shù)據(jù)傳輸。蘋果最新推出的頭顯設(shè)備Vision Pro也傳出內(nèi)置了SK海力士專門設(shè)計的高帶寬DRAM來提升圖像數(shù)據(jù)的處理效率。

高帶寬DRAM和RI芯片是頭顯的重要部件 (圖片來源：蘋果官網(wǎng))

　　“目前來說，CPU+DRAM技術(shù)較為成熟，成本相對較低，在多數(shù)‘對性能沒有極端需求’的場合具有更好的性價比。而GPU+HBM的組合則更多用于對算力要求特別高的應(yīng)用領(lǐng)域。從2D走向3D，集成度更高、能耗效率更高的HBM是未來趨勢，隨著TSV工藝和HBM設(shè)計的不斷成熟，HBM自身的性價比也會有所提升，并將逐漸占據(jù)更多的市場?！绷中拍险f。

　　作者：張心怡 王信豪　　來源：中國電子報、電子信息產(chǎn)業(yè)網(wǎng)