核心區別

AI 加速器周圍的記憶體層次

加速器封裝

GPU 晶片

計算核心 + SRAM 快取

HBM · DRAM

GPU 附近的工作資料

伺服器記憶體 · DRAM

例如 CPU 使用的 DDR5 記憶體模組

長期儲存 · NAND / SSD

斷電後儲存檔案和資料集

採用 HBM 的加速器概念示意,不代表資料流、容量或速度比例。具體架構與資料路徑各異,並非所有 GPU 都使用 HBM。伺服器記憶體與儲存通過系統連線,不一定直接相連。 架構示例:NVIDIA Hopper ↗

比較優勢與侷限

頻寬是每秒傳多少資料,延遲是訪問要等多久,容量是能裝多少。頻寬高,不代表每次訪問的等待時間最短。

SRAM、DRAM、HBM 與 NAND 對照
技術用途優勢侷限
SRAM常用於處理器附近小型快取的高速工作記憶體。訪問延遲低,無需週期性刷新。儲存單元較大,單位面積容量較低、每位元成本較高。
DRAM電腦執行時暫時存放資料的工作記憶體。相比 SRAM,同樣晶片面積可容納更多資料。需要刷新;訪問延遲通常高於 SRAM。
HBMDRAM 的一種將 DRAM 堆疊起來,向加速晶片高速輸送大量資料。靠近加速晶片,在緊湊封裝內提供高頻寬。堆疊、封裝與散熱增加工程複雜度。
NAND斷電後仍能儲存資料的儲存晶片。斷電保留資料,適合大容量儲存。速度低於工作記憶體,寫入壽命有限。

SRAM 不需週期性刷新,但仍會在斷電後丟失資料。DRAM(包括 HBM)需要供電與刷新。本表中只有 NAND 屬於非易失儲存。

哪些公司供應什麼?

以下為美股公司示例,不是完整供應商名單或排名。產品用於 AI,並不意味著已經確定這家公司有多少 AI 收入。

SRAM

GSI Technology(GSIT):銷售獨立 SRAM,也開發 APU 產品。獨立 SRAM 不等於所有 AI 晶片內部的快取。

供應商產品依據 ↗

輝達設計的加速器包含快取,也使用外部記憶體。這不代表輝達向市場銷售獨立 SRAM;GPU 快取增加也不自動轉化為 GSI Technology 的訂單。

美光業務與財務 →閃迪業務與財務 →

投資研究框架

以下是研究問題,不是收益預測。對具體公司下結論前,應檢視有日期的最新披露。

  1. 宣佈擴產 HBM? 核查客戶認證、合格產出與出貨時間,再比較利潤率與資本支出;宣佈產能不等於已確認收入。
  2. DRAM 或 NAND 漲價? 區分售價上漲和出貨增長,對照庫存與新增供給,不把單個強勁季度當作永久獲利水平。
  3. AI 晶片用了更多 SRAM? 先區分片上快取與獨立採購的元件;確認供應關係後,再判斷哪家上市公司受益。
  4. 業務增長與估值 一起看現金流、債務、股數攤薄和當前估值。技術優勢本身並不能證明股價有吸引力。
回到 AI 產業鏈地圖:算力、記憶體與儲存 →

技術來源

返回全部 AI 術語 →