HBF 與 HBC：挑戰 HBM 主導地位的新世代 AI 記憶體技術
July 20, 202614 min read
前言：AI 記憶體革命
隨著人工智慧以驚人的速度持續發展，支撐 AI 系統的記憶體技術正經歷著劇烈的轉變。高頻寬記憶體（HBM）長期以來一直是 AI 加速器和資料中心 GPU 的黃金標準，但兩項新興技術——高頻寬快閃記憶體（HBF）和高頻寬運算（HBC）——正準備重塑整個產業格局。高通、NVIDIA 和 Western Digital（SanDisk）等業界領導者正推動這些創新，以克服 HBM 在功耗、成本和擴展性方面的限制。
HBF 和 HBC 為何興起
HBF 和 HBC 的出現源於 HBM 技術面臨的幾個關鍵挑戰：
功耗問題
HBM 的高功耗需求在資料中心造成顯著的散熱挑戰，並使其無法應用於智慧型手機和物聯網設備等邊緣裝置。HBF 透過大幅降低功耗，為邊緣裝置提供 AI 能力的解決方案。
成本與供應限制
HBM 複雜的製造流程導致供應短缺，三星和 SK 海力士警告這種短缺可能持續到 2027 年甚至更久。這種稀缺性推高了成本並限制了 AI 的部署。
AI 推論瓶頸
在推論解碼階段，記憶體頻寬成為關鍵瓶頸。HBC 透過將運算更靠近資料來解決這個問題，減少資料移動延遲。
三種技術解析
HBM（高頻寬記憶體）
- 架構： 透過矽穿孔（TSV）連接的垂直堆疊 DRAM 晶片
- 優勢： 卓越的頻寬（HBM3E 可達 1TB/s）、低延遲
- 劣勢： 高功耗、製造成本昂貴、僅限於資料中心應用
- 應用場景： 資料中心 GPU、高效能 AI 訓練
HBF（高頻寬快閃記憶體）
- 架構： 針對高頻寬操作優化的快閃記憶體技術
- 優勢： 較低功耗、更高容量潛力、成本效益高
- 創新： 實現邊緣 AI 處理（智慧型手機、物聯網設備）
- 預測： 預計到 2038 年在記憶體需求上超越 HBM
- 應用場景： 邊緣 AI 設備、AI 智慧型手機、嵌入式系統
HBC（高頻寬運算）
- 架構： 具備近記憶體運算能力的堆疊式低功耗 DRAM（LPDDR）
- 優勢： 有效記憶體頻寬的世代躍進、減少資料移動
- 創新： 將運算帶到資料處，而非將資料移動到運算處
- 開發者： 高通針對 AI 推論加速器的突破性技術
- 應用場景： AI 推論工作負載、資料中心加速器、令牌生成
關鍵差異比較
| 特性 | HBM | HBF | HBC |
|---|---|---|---|
| 記憶體類型 | DRAM | 快閃記憶體 | LPDDR |
| 能源效率 | 低 | 高 | 中高 |
| 成本 | 高 | 較低 | 中等 |
| 容量 | 有限 | 高 | 中等 |
| 頻寬 | 極高 | 高 | 極高 |
| 延遲 | 極低 | 中等 | 低 |
| 主要用途 | 訓練 / 推論 | 邊緣 AI | 推論 |
| 散熱特性 | 高 | 低 | 中等 |
產業影響與未來展望
記憶體產業正處於關鍵時刻。雖然 HBM 持續主導高效能 AI 訓練應用，但 HBF 和 HBC 正開拓新領域：
- HBF 透過使邊緣裝置實現 AI 功能來普及化 AI，可能為 AI 智慧型手機和物聯網設備創造龐大市場
- HBC 正在解決限制資料中心 AI 部署的推論瓶頸，高通將其定位為 Dragonfly AI 加速器的核心技術
- HBM 將繼續在訓練大型語言模型和高效能運算中扮演關鍵角色，但隨著替代方案成熟，其市場份額可能下降
結論
HBF 和 HBC 的出現代表了回應 AI 多樣化需求的自然演進。這些技術並非完全取代 HBM，而是創造了一個分層的記憶體生態系統，每種解決方案服務於特定的使用場景。隨著我們邁向 2027 年及以後，預期將看到 HBF 主導邊緣 AI 應用、HBC 革新推論工作負載，而 HBM 則維持其在高效能訓練環境中的地位。AI 記憶體的未來不是某一種技術獲勝，而是為正確的應用選擇正確的記憶體。
