AI 記憶體:SRAM、DRAM、HBM 與 NAND →
比較技術差異、供應商業務與值得跟蹤的經營指標。
按類別展開閱讀,或直接搜尋術語和公司。
比較技術差異、供應商業務與值得跟蹤的經營指標。
為特定用途設計的晶片。
根據客戶設計製造晶片。
用波長很短的光,在晶圓上形成精細電路圖案。
把多個晶片或記憶體裸片緊密連線在封裝內。
台積電連線邏輯晶片與高頻寬記憶體的封裝平臺。
製造出來的晶片中,符合要求的比例。
算力就是計算機完成計算任務的能力。AI 學習資料(訓練)和生成回答(推理),都需要算力。
GPU 是做計算的晶片,HBM 為它快速輸送資料,資料中心承載整套裝置。GPU 數量增加不代表實際速度同比增加,記憶體、網路和軟體也會影響效率。
研究關注:區分賣晶片與出租算力兩種生意。看利用率、客戶收入,以及電費、折舊和融資成本;宣佈多少算力不等於賺到多少利潤。
術語依據 · IBM ↗衡量計算速度的單位。1 TFLOPS 為每秒一萬億次浮點運算;1 PFLOPS = 1,000 TFLOPS;1 EFLOPS = 1,000 PFLOPS。
標稱峰值不等於實際任務速度。比較時應統一數值精度(如 FP16、FP32)、稀疏性假設和任務條件。FLOPS 是速度;FLOPs 也常用來指一次任務的總運算量。
研究關注:比較實測任務表現和成本,不只比較宣傳中的最大數字。資料中心的 MW 衡量功率,不是 FLOPS,兩者沒有通用換算比例。
術語依據 · IBM ↗電腦執行時暫時存放資料的工作記憶體。
將 DRAM 堆疊起來,向加速晶片高速輸送大量資料。
常用於處理器附近小型快取的高速工作記憶體。
常用於電腦和伺服器主記憶體的一代 DRAM 標準。
斷電後仍能儲存資料的儲存晶片。
通常由 NAND 晶片和控制器等組成的儲存裝置。
能並行完成大量相似計算的處理器。
協調電腦各項工作的通用處理器。
一條連線在單位時間內能傳輸多少資料。
廣泛用於連線電腦和交換機的網路技術。
用於高效能運算叢集的互聯技術。
在光纖連線中,將電訊號與光訊號互相轉換。
把加速器緊密連線,使它們像一個更大的計算單元協同工作。
增加通過網路連線的計算節點,擴大叢集能力。
單個機架內裝置需要的功率,常以 kW/機架表示。
用液體把裝置產生的熱量帶走。
為液冷裝置管理冷卻液迴圈與熱交換。
同一期間的資料中心總能耗除以 IT 裝置能耗。
讓設施接入電力系統,並獲得足夠的可用電力。
MW 衡量功率;MWh 衡量一段時間內使用或輸送的電量。
通過調整模型參數,讓模型從資料中學習規律。
使用訓練好的模型生成回答、預測或其他輸出。
完成一次操作所需的時間,例如等待模型首次響應的時間。
語言模型處理文本的單位,可能是一個詞或詞的一部分。
模型在一次互動中能同時考慮的資訊範圍。
系統在單位時間內完成的工作量。
市場對專注 AI 算力的雲服務商的稱呼。
用於購置或改善伺服器、建築等長期資產的支出。
收入減去收入成本,再除以收入。
通常指經營現金流減去資本開支。
公司衡量尚待履行的訂單或業務的指標。
定義因公司而異,可能包含選擇權;不等於已確認收入或保證收到的現金。
研究關注:核查取消條款、交付安排與回款進度。
術語依據 · Booz Allen Hamilton · SEC filing ↗合約中分配給尚未履行義務的收入。