人工智能熱潮下,高端存儲芯片(HBM)庫存告急。SK海力士和美光已經向客戶發出警告稱,2024年的HBM芯片已售罄,庫存緊張的狀況預計將持續至2025年,2025年的HBM芯片訂單也已爆滿。
目前,韓國的SK海力士主導了HBM市場,其他兩家存儲芯片巨頭美光與三星正在迎頭趕上。值得關注的是,中國存儲芯片公司也開始投入HBM芯片的研發。
對于像OpenAI的ChatGPT這樣的大語言模型來說,HBM芯片在其模型訓練中發揮著至關重要的作用。在各大科技巨頭爭先公布更高性能的AI大模型的背景下,用于AI訓練的HBM芯片也出現了嚴重緊缺,并成為芯片公司激烈競逐的新領域。
英偉達承包了大部分
HBM是一種DRAM標準存儲芯片,于2013年首次推出,它的核心技術是依靠芯片垂直堆疊以節省空間并降低功耗,非常適合處理復雜人工智能應用程序產生的大量數據。
晨星股票研究總監Kazunori Ito在上周的一份報告中表示:"我們預計整個2024年HBM內存供應將持續緊張。"
Gartner分析師盛陵海對第一財經記者表示,HBM供應緊張主要是來自英偉達、AMD這些芯片巨頭的需求,它們幾乎承包了所有的產能。"他還稱,英偉達將HBM用于其GPU,推動了業內對HBM的需求。"AI訓練和推理需要高帶寬的存儲芯片。"
但這些芯片的制造更加復雜,提高產量也很困難。根據市場情報公司TrendForce今年3月的一份報告,與個人電腦和服務器中常見的DDR5內存芯片相比,HBM的生產周期要慢1.5至2個月。
截至今年3月,SK海力士仍是英偉達AI芯片的唯一HBM供應商,盡管英偉達也在考慮使用三星等其他廠商的HBM芯片。在英偉達最新發布的Blackwell架構的AI芯片中,整個GPU芯片封裝了192GB的高速HBM3e芯片,大大增強了數據吞吐能力。
盡管SK海力士是最先擁有HBM3標準芯片量產能力的存儲芯片公司,不過三星、美光今年也有相關量產計劃,且都有望使用HBM3標準。第一財經記者向美光方面求證,對方稱目前尚未有公開量產消息供發布。
黃仁勛此前稱HBM制造難度極大,"堪稱奇跡"。他在今年3月的英偉達GTC大會上透露,除SK海力士外,英偉達正在測試三星的HBM芯片,并有望在未來使用。
為了滿足不斷增長的需求,SK海力士已經計劃通過投資美國印第安納州的先進封裝設施以及位于韓國的半導體產業集群來擴大產能。
SK海力士在本月初的新聞發布會上表示,將在第三季度開始量產最新一代HBM芯片——12層HBM3e,而三星也在這一技術方面努力趕超SK海力士,三星計劃在第二季度內開始量產,從而有望成為業界率先交付12層HBM3e芯片樣品的企業。
"目前三星在12層HBM3e樣片工藝上處于領先地位,如果三星能夠比同行更早實現量產交付,我認為它可以在2024年底和2025年獲得更多市場份額。"大和證券執行董事兼分析師SK Kim在一份投資報告中表示。
三星在上個月的第一季度財報電話會議上表示,2024年的HBM供應的存儲容量較去年增加了三倍多。
"我們已經與客戶就承諾的供應完成了談判。到2025年,我們將繼續將供應量同比至少擴大兩倍。"三星表示。
中國企業也在研發
目前已有中國公司啟動了HBM芯片的開發工作。盡管我國在該領域的起步較晚,但最近兩三年來發展迅速。
盛陵海對第一財經記者表示,目前中國擁有HBM芯片的封裝技術,但HBM芯片制造能力尚不成熟,仍處于發展早期階段。此外,與國際存儲芯片巨頭相比,中國公司還在努力開發基于上一代技術的HBM2芯片產品。
國內NAND內存芯片巨頭長江存儲此前表示,該公司不具備量產HBM的能力,不過據公開信息,該公司旗下正在計劃IPO的武漢新芯公司可能正涉足HBM芯片的研發和生產。
根據企查查公開信息,武漢新芯正在建設一家工廠,每月可生產3000片12英寸HBM晶圓,于今年2月開始建設。長江存儲和武漢新芯均未對此發表評論。
對此,盛陵海對第一財經記者表示:"12英寸產線的標準是每月生產20000片,武漢新芯可能涉及購買一些HBM設備,但還不具備量產能力。"
長鑫存儲作為中國目前存儲芯片的巨頭,在HBM芯片制造方面具有國內領先優勢。
另據Anaqua的AcclaimIP數據庫,長鑫存儲已在美國、中國及中國臺灣地區申請了近130項專利,涉及HBM芯片制造和功能相關的不同技術問題,其中超過一半的專利于今年申請,也涉及開發HBM3所需的技術。
金融機構White Oak Capital投資總監Nori Chiou預估,中國芯片制造商在HBM方面仍落后于全球先進水平,這一差距大約在10年左右。但他表示,中國正在努力提升其在HBM市場內存和先進封裝技術方面的能力。