8月10日消息（岳明）華為將于8月12日在2025金融AI推理應(yīng)用落地與發(fā)展論壇上，發(fā)布AI推理領(lǐng)域的突破性技術(shù)成果。據(jù)透露，這項(xiàng)成果或能降低中國(guó)AI推理對(duì)HBM（高帶寬內(nèi)存）技術(shù)的依賴(lài)，提升國(guó)內(nèi)AI大模型推理性能，完善中國(guó)AI推理生態(tài)的關(guān)鍵部分。

進(jìn)入到2024以來(lái)，AI推理算力需求悄然興起，成為市場(chǎng)關(guān)注的焦點(diǎn)。據(jù) Wind 轉(zhuǎn)引英偉達(dá)FY24Q4 業(yè)績(jī)會(huì)紀(jì)要，公司2024財(cái)年數(shù)據(jù)中心有40%的收入來(lái)自推理業(yè)務(wù)。IDC 數(shù)據(jù)顯示，隨著訓(xùn)練模型的完善與成熟，模型和應(yīng)用產(chǎn)品逐步投入生產(chǎn)，推理端的人工智能服務(wù)器占比將隨之攀升，預(yù)計(jì)到 2027 年，用于推理的工作負(fù)載將達(dá)到 72.6%。

其實(shí)，無(wú)論是訓(xùn)練還是推理，算力和存儲(chǔ)是兩個(gè)率先受益的領(lǐng)域，特別是在當(dāng)前國(guó)產(chǎn)化大趨勢(shì)下，算力和存儲(chǔ)將決定未來(lái)十年AI勝負(fù)的關(guān)鍵。但從技術(shù)與產(chǎn)品成熟度角度來(lái)看，國(guó)產(chǎn)HBM較海外產(chǎn)品存在較大技術(shù)差距。在這種情況下，“彎道超車(chē)”是更好的選擇。

正如華為CEO任正非所言，“華為單芯片還是落后美國(guó)一代”，“但我們用數(shù)學(xué)補(bǔ)物理、非摩爾補(bǔ)摩爾，用群計(jì)算補(bǔ)單芯片，在結(jié)果上也能達(dá)到實(shí)用狀況。 ”CloudMatrix 384已經(jīng)在AI算力上實(shí)現(xiàn)了“彎道超車(chē)”，在HBM上，我們也同樣期待。

什么是HBM

高帶寬內(nèi)存（HBM） 是下一代 DRAM（動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器）技術(shù)，可實(shí)現(xiàn)超高速和寬數(shù)據(jù)傳輸，主要用于解決大模型訓(xùn)練與推理的內(nèi)存帶寬瓶頸問(wèn)題。

HBM的核心創(chuàng)新在于其獨(dú)特的3D堆疊結(jié)構(gòu)，其中多個(gè)DRAM芯片（4層、8層甚至12層）使用先進(jìn)的封裝技術(shù)垂直堆疊。3D結(jié)構(gòu)使 HBM 能夠以比 GDDR 等傳統(tǒng)內(nèi)存解決方案高得多的帶寬（數(shù)據(jù)傳輸速率）運(yùn)行。

HBM憑借高帶寬和低延遲特性，成為AI大模型訓(xùn)練與推理的關(guān)鍵組件。在AI芯片 中，HBM作為“ L4緩存 ”，可提升數(shù)據(jù)讀寫(xiě)效率，緩解內(nèi)存帶寬瓶頸，從而增強(qiáng)AI模型的運(yùn)算能力。

HBM市場(chǎng)格局

與GPGPU產(chǎn)品一樣，HBM特別是HBM3規(guī)格以上的產(chǎn)品，需求量非常大，且一直被國(guó)外廠商所壟斷。

2025年初，HBM3芯片現(xiàn)貨價(jià)較2024年初暴漲300%，單臺(tái)AI服務(wù)器的DRAM用量是傳統(tǒng)服務(wù)器的8倍。

從市場(chǎng)格局來(lái)看，還是以海外廠商為主：SK海力士的市場(chǎng)份額53%，率先量產(chǎn)HBM3E；三星電子的市場(chǎng)份額占比38%，計(jì)劃2025年將HBM供應(yīng)量擴(kuò)大至去年兩倍；美光科技的市場(chǎng)份額10%，目標(biāo)2025年市占率提升至20%以上。國(guó)內(nèi)廠商以長(zhǎng)鑫存儲(chǔ)為主，推出國(guó)產(chǎn)DDR5內(nèi)存，打破三星、SK海力士與美光壟斷，HBM業(yè)務(wù)同步發(fā)展。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。