專題指南

晶片設計與製造

ASIC · Foundry · EUV · 先進封裝 · CoWoS · Yield

ASIC · 專用積體電路

為特定用途設計的晶片。

概念辨析與研究指標

專用設計可提高效率,但靈活性較低;ASIC 不一定用於 AI。

研究關注:看客戶集中度、設計訂單與量產時間。

檢視產業鏈位置 →

術語依據 · Intel ↗

Foundry · 晶圓代工

根據客戶設計製造晶片。

概念辨析與研究指標

晶片設計與製造是不同業務,也有公司兼做兩者。

研究關注:比較利用率、工藝結構及客戶承諾。

檢視產業鏈位置 →

術語依據 · TSMC ↗

EUV · 極紫外光刻

用波長很短的光,在晶圓上形成精細電路圖案。

概念辨析與研究指標

光刻只是製造的一步;裝置光源波長不等於晶片宣傳的製程節點。

研究關注:看裝置交付、客戶支出與量產準備程度。

檢視產業鏈位置 →

術語依據 · ASML ↗

先進封裝

把多個晶片或記憶體裸片緊密連線在封裝內。

概念辨析與研究指標

不同封裝方案解決不同的互聯、散熱和成本問題。

研究關注:看已認證產能、良率和具體客戶需求。

檢視產業鏈位置 →

術語依據 · TSMC ↗

CoWoS · 台積電先進封裝技術

台積電連線邏輯晶片與高頻寬記憶體的封裝平臺。

概念辨析與研究指標

CoWoS 是台積電品牌,不是所有先進封裝的統稱。

研究關注:區分宣佈擴產與實際可用的合格產出。

檢視產業鏈位置 →

術語依據 · TSMC ↗

Yield · 良率

製造出來的晶片中,符合要求的比例。

概念辨析與研究指標

晶圓產能增加,不一定同比例增加合格晶片。

研究關注:看合格產出和單位成本,不只看投片量。

檢視產業鏈位置 →

術語依據 · ASML ↗

算力與儲存

算力 · FLOPS · DRAM · HBM · SRAM · DDR5 · NAND · SSD · GPU · CPU

算力 · 計算能力

算力就是計算機完成計算任務的能力。AI 學習資料(訓練)和生成回答(推理),都需要算力。

概念辨析與研究指標

GPU 是做計算的晶片,HBM 為它快速輸送資料,資料中心承載整套裝置。GPU 數量增加不代表實際速度同比增加,記憶體、網路和軟體也會影響效率。

研究關注:區分賣晶片與出租算力兩種生意。看利用率、客戶收入,以及電費、折舊和融資成本;宣佈多少算力不等於賺到多少利潤。

檢視產業鏈位置 →

術語依據 · IBM ↗

FLOPS · 每秒浮點運算次數

衡量計算速度的單位。1 TFLOPS 為每秒一萬億次浮點運算;1 PFLOPS = 1,000 TFLOPS;1 EFLOPS = 1,000 PFLOPS。

概念辨析與研究指標

標稱峰值不等於實際任務速度。比較時應統一數值精度(如 FP16、FP32)、稀疏性假設和任務條件。FLOPS 是速度;FLOPs 也常用來指一次任務的總運算量。

研究關注:比較實測任務表現和成本,不只比較宣傳中的最大數字。資料中心的 MW 衡量功率,不是 FLOPS,兩者沒有通用換算比例。

檢視產業鏈位置 →

術語依據 · IBM ↗

DRAM · 動態隨機存取儲存器

電腦執行時暫時存放資料的工作記憶體。

概念辨析與研究指標

需要資料刷新和供電來保留資料。HBM 是 DRAM 的一種。

研究關注:一起看售價、庫存和產品結構。

檢視產業鏈位置 →

術語依據 · IBM ↗

HBM · 高頻寬記憶體

將 DRAM 堆疊起來,向加速晶片高速輸送大量資料。

概念辨析與研究指標

它是記憶體,不是處理器或長期儲存。頻寬和容量是兩個不同指標。

研究關注:關注客戶認證、合格產出和利潤率,不只看宣佈的產能。

檢視產業鏈位置 →

術語依據 · Micron ↗

SRAM · 靜態隨機存取儲存器

常用於處理器附近小型快取的高速工作記憶體。

概念辨析與研究指標

不同於 DRAM,它無需週期性資料刷新,但斷電仍會丟失資料。

研究關注:應結合晶片架構評估業務關聯;SRAM 用量增加並不直接對應上市記憶體供應商的收入增長。

檢視產業鏈位置 →

術語依據 · IBM ↗

DDR5 · 第五代 DDR 記憶體

常用於電腦和伺服器主記憶體的一代 DRAM 標準。

概念辨析與研究指標

DDR5 與 HBM 適用的記憶體配置不同,並非簡單互相替代。

研究關注:比較供應與價格時,區分不同產品代際。

檢視產業鏈位置 →

術語依據 · IBM ↗

NAND · 快閃記憶體

斷電後仍能儲存資料的儲存晶片。

概念辨析與研究指標

NAND 是晶片;SSD 通常是使用 NAND 的完整儲存裝置。

研究關注:關注價格週期、庫存和每位元成本。

檢視產業鏈位置 →

術語依據 · IBM ↗

SSD · 固態硬碟

通常由 NAND 晶片和控制器等組成的儲存裝置。

概念辨析與研究指標

資料中心硬碟與消費級硬碟的耐久性、可靠性要求不同。

研究關注:看企業級銷售佔比、客戶認證和利潤率。

檢視產業鏈位置 →

術語依據 · IBM ↗

GPU · 圖形處理器

能並行完成大量相似計算的處理器。

概念辨析與研究指標

適合 AI 矩陣運算;記憶體和網路仍可能限制速度。

研究關注:比較實際任務表現、軟體支援和單位任務成本。

檢視產業鏈位置 →

術語依據 · Intel ↗

CPU · 中央處理器

協調電腦各項工作的通用處理器。

概念辨析與研究指標

GPU 加速部分任務,並不意味著可以取消 CPU。

研究關注:看伺服器需求及每套系統所用處理器的數量與型別。

檢視產業鏈位置 →

術語依據 · Intel ↗

網路互聯

頻寬 · 乙太網路 · InfiniBand · 光模組 · Scale-up · Scale-out

頻寬

一條連線在單位時間內能傳輸多少資料。

概念辨析與研究指標

類似道路的通行量,不是單輛車抵達的時間。記憶體頻寬與網路頻寬要分開看。

研究關注:先找出實際限制,再判斷更快的元件能否改善整套系統。

檢視產業鏈位置 →

術語依據 · Micron ↗

乙太網路

廣泛用於連線電腦和交換機的網路技術。

概念辨析與研究指標

AI 乙太網路還要做好全系統擁塞控制;僅看鏈路速率不夠。

研究關注:比較完整網路表現和採用情況,不只比較埠速度。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

InfiniBand · 高效能互聯

用於高效能運算叢集的互聯技術。

概念辨析與研究指標

與乙太網路屬於不同技術生態,相容性和運維各有取捨。

研究關注:看客戶架構選擇、交換機和網絡卡部署。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

光模組

在光纖連線中,將電訊號與光訊號互相轉換。

概念辨析與研究指標

除了速度,還要看傳輸距離、功耗和相容性。

研究關注:看客戶認證、產品代際結構和利潤率。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

Scale-up · 縱向擴充套件

把加速器緊密連線,使它們像一個更大的計算單元協同工作。

概念辨析與研究指標

在 AI 系統中通常指高速加速器互聯,而不只是換一臺更大的伺服器。

研究關注:看互聯規模、記憶體訪問及真實任務擴充套件效率。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

Scale-out · 橫向擴充套件

增加通過網路連線的計算節點,擴大叢集能力。

概念辨析與研究指標

節點增加,也會增加協調和網路開銷。

研究關注:看每增加一個節點帶來的吞吐提升與網路成本。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

電力與資料中心

機架功率密度 · 液冷 · CDU · PUE · 電網接入 · MW 與 MWh

MW 與 MWh · 功率與電量

MW 衡量功率;MWh 衡量一段時間內使用或輸送的電量。

概念辨析與研究指標

持續 1 小時的 1 MW 功率對應 1 MWh 電量。IT 負載也不同於園區總功率。

研究關注:核對單位,以及數字是規劃、營運還是實測值。

檢視產業鏈位置 →

術語依據 · US EIA ↗

檢視資料中心專案 →

模型與雲服務

訓練 · 推理 · 延遲 · Token · 上下文視窗 · 吞吐量 · Neocloud

訓練

通過調整模型參數,讓模型從資料中學習規律。

概念辨析與研究指標

訓練是在學習;推理是在使用學到的能力。

研究關注:區分一次性的建設投入和可持續的工作負載。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

推理

使用訓練好的模型生成回答、預測或其他輸出。

概念辨析與研究指標

請求更多不一定利潤更多,還要看提供服務的成本。

研究關注:比較每次請求收入、算力成本和利用率。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

延遲

完成一次操作所需的時間,例如等待模型首次響應的時間。

概念辨析與研究指標

低延遲意味著等待更短;高吞吐意味著每秒完成的工作更多。

研究關注:比較相同任務和服務質量,不只看單項跑分宣傳。

檢視產業鏈位置 →

術語依據 · NVIDIA ↗

Token · 詞元

語言模型處理文本的單位,可能是一個詞或詞的一部分。

概念辨析與研究指標

一個詞元不固定等於一個字或一個詞;不同分詞器也不同。

研究關注:比較輸入/輸出定價及完成一次任務的詞元消耗。

檢視產業鏈位置 →

術語依據 · IBM ↗

上下文視窗

模型在一次互動中能同時考慮的資訊範圍。

概念辨析與研究指標

較大的上下文視窗不提供永久記憶,也不能保證推理準確性。

研究關注:在實際文本長度下比較準確率、延遲和成本。

檢視產業鏈位置 →

術語依據 · IBM ↗

吞吐量

系統在單位時間內完成的工作量。

概念辨析與研究指標

多使用者總詞元/秒,不等於單個使用者的響應速度。

研究關注:比較時保持模型、任務和服務質量目標一致。

檢視產業鏈位置 →

術語依據 · IBM Research ↗

Neocloud · AI 專業雲

市場對專注 AI 算力的雲服務商的稱呼。

概念辨析與研究指標

不是正式會計分類;自建機房與租賃機房的成本結構不同。

研究關注:跟蹤利用率、客戶集中度、融資和通電交付。

檢視產業鏈位置 →

術語依據 · Forrester ↗

財務與投資研究

CapEx · 毛利率 · FCF · Backlog · RPO

CapEx · 資本開支

用於購置或改善伺服器、建築等長期資產的支出。

概念辨析與研究指標

現金購置與租賃資產的披露口徑可能不同;投入不等於即時利潤。

研究關注:對照經營現金、資產壽命及收入兌現情況。

檢視產業鏈位置 →

術語依據 · SEC ↗

毛利率

收入減去收入成本,再除以收入。

概念辨析與研究指標

毛利是金額;毛利率是比例,還沒有扣除其他營運費用。

研究關注:統一會計口徑,並檢查產品結構變化。

檢視產業鏈位置 →

術語依據 · SEC ↗

每條釋義附來源和核查日期。研究關注項為毛毛肉整理的分析問題,不是對個股的投資結論。