“HBM之父”:“內(nèi)存中心計(jì)算”時(shí)代來臨,GPU或成配角
關(guān)鍵詞: 內(nèi)存中心計(jì)算 AI架構(gòu) 內(nèi)存瓶頸 HBM HBF
在人工智能(AI)領(lǐng)域,一場(chǎng)深刻的架構(gòu)革命正在醞釀。長(zhǎng)期以來,以英偉達(dá)(NVIDIA)圖形處理器(GPU)為核心的計(jì)算體系被視為AI發(fā)展的引擎。
近日,被譽(yù)為“HBM(高帶寬內(nèi)存)之父”的韓國(guó)科學(xué)技術(shù)院(KAIST)教授金正浩預(yù)言,這一格局即將發(fā)生根本性轉(zhuǎn)變,未來十年,半導(dǎo)體產(chǎn)業(yè)的核心將從計(jì)算單元徹底轉(zhuǎn)向內(nèi)存,一個(gè)“內(nèi)存中心計(jì)算”(Memory-Centric Computing, MCC)的新時(shí)代正在到來。
金正浩指出,當(dāng)前我們正處于GPU主導(dǎo)一切的時(shí)代,但這一局面正面臨根本性挑戰(zhàn)。隨著AI技術(shù)從執(zhí)行單一指令的“生成式AI”向能夠自主判斷、規(guī)劃并生成完整報(bào)告的“AI智能體”演進(jìn),數(shù)據(jù)處理的需求模式發(fā)生了質(zhì)變。
“AI已經(jīng)從只執(zhí)行指令,發(fā)展到能夠自主判斷并生成完整報(bào)告。伴隨而來的,是一次性處理海量文檔和視頻的‘上下文工程’。”金正浩解釋道。這種演進(jìn)要求系統(tǒng)具備前所未有的數(shù)據(jù)處理能力,內(nèi)存的帶寬和容量需要提升到現(xiàn)有水平的千倍,才能滿足AI智能體對(duì)海量信息的實(shí)時(shí)存取和分析需求。
更關(guān)鍵的是,金正浩認(rèn)為當(dāng)前AI模型備受詬病的“幻覺問題”,其根源也在于內(nèi)存限制。當(dāng)內(nèi)存不足以支撐模型調(diào)用足夠多的相關(guān)信息時(shí),系統(tǒng)只能基于有限的已有信息進(jìn)行拼湊,從而產(chǎn)生錯(cuò)誤答案。因此,要實(shí)現(xiàn)真正可靠、具備強(qiáng)大記憶能力的智能體,突破內(nèi)存瓶頸是關(guān)鍵。
為應(yīng)對(duì)這一挑戰(zhàn),金正浩提出了一個(gè)由HBM和HBF(高帶寬閃存)共同構(gòu)成的層級(jí)化內(nèi)存架構(gòu)。在他看來,當(dāng)前主導(dǎo)AI加速器市場(chǎng)的HBM,通過堆疊DRAM(動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器)實(shí)現(xiàn)高速數(shù)據(jù)傳輸,扮演著“短期記憶”的角色。“HBM就像手邊的參考書,用于快速響應(yīng)?!?/span>
然而,僅有“短期記憶”遠(yuǎn)遠(yuǎn)不夠。金正浩將HBF比作一個(gè)龐大的“圖書館”,它由NAND閃存堆疊而成,代表著“長(zhǎng)期記憶”。只有引入類似HBF的層級(jí)結(jié)構(gòu),AI才能在全球數(shù)據(jù)中進(jìn)行檢索,并給出完整、準(zhǔn)確的答案。HBF的出現(xiàn),將有效彌補(bǔ)HBM在容量上的不足,為AI智能體提供近乎無限的“知識(shí)庫(kù)”。
這一技術(shù)路線的演進(jìn),預(yù)示著半導(dǎo)體產(chǎn)業(yè)權(quán)力結(jié)構(gòu)的深刻變革。過去,GPU和CPU是計(jì)算架構(gòu)的絕對(duì)核心,而內(nèi)存則是為其服務(wù)的配套組件。但在“內(nèi)存中心計(jì)算”時(shí)代,HBM和HBF將成為核心,GPU和CPU反而可能成為其中的組成部分,扮演“配角”。
圍繞這一未來方向,全球存儲(chǔ)巨頭已經(jīng)展開激烈競(jìng)爭(zhēng)。SK海力士已與閃迪(SanDisk)聯(lián)手推動(dòng)HBF的標(biāo)準(zhǔn)化,試圖搶占生態(tài)主導(dǎo)權(quán)。三星電子則在推進(jìn)下一代HBM4E的同時(shí),也加大了對(duì)NAND架構(gòu)的投入。金正浩認(rèn)為,這場(chǎng)競(jìng)爭(zhēng)與HBM早期發(fā)展階段高度相似,提前投入并掌握核心技術(shù)的企業(yè)將贏得未來。他特別強(qiáng)調(diào),未來十年的勝負(fù)將由HBM和HBF共同決定,而真正決定最終格局的,將是HBF。
金正浩預(yù)計(jì),HBF的工程樣品將在2027年前后出現(xiàn),最早到2028年,谷歌、英偉達(dá)或AMD中的一家將率先導(dǎo)入這一技術(shù)。屆時(shí),計(jì)算架構(gòu)的根本性轉(zhuǎn)移將拉開序幕。誰(shuí)能率先構(gòu)建起以HBM和HBF為核心的“內(nèi)存中心計(jì)算”體系,誰(shuí)就將主導(dǎo)AI時(shí)代的下一階段。而馬斯克計(jì)劃建設(shè)涵蓋封裝、內(nèi)存和晶圓制造的大型工廠,也被金正浩視為對(duì)這一趨勢(shì)的精準(zhǔn)判斷。
- 足產(chǎn)業(yè)核心,擘畫未來新篇:華強(qiáng)電子網(wǎng)喬遷新址03-02
- 硅谷機(jī)器人明星公司K-Scale Labs猝死,融資600多萬(wàn)美元一年燒光!11-14
- 荷蘭高級(jí)代表團(tuán)下周訪華,共商安世半導(dǎo)體問題解決方案11-14
- 因過熱和起火風(fēng)險(xiǎn),特斯拉大規(guī)模召回10500套Powerwall 211-14
- 立中集團(tuán)又獲3客戶項(xiàng)目定點(diǎn),合計(jì)金額約2.7億元11-14
- 蘇州固锝:含銀量10%的銀包銅產(chǎn)品已進(jìn)入量產(chǎn)階段11-14