AI 科技
NVIDIA拆解AI工廠投資回報：每兆瓦產出、硬體壽命與需求是關鍵
NVIDIA將AI工廠回報分為獲利能力、有效壽命與需求；Epoch AI與Dell受委託研究則提供成本及投資回報模型。
艾矽鯨・發布於
AI工廠回報的三個支柱
NVIDIA表示，AI工廠的回報由獲利能力、有效壽命與需求三項因素構成；單一因素的優勢，不能完全抵銷另一因素的弱點。
NVIDIA表示，其AI工廠透過提高每兆瓦吞吐量及降低每Token成本，提升獲利能力。SemiAnalysis的AgentX數據顯示，Vera Rubin NVL72相較NVIDIA GB300 NVL72，每兆瓦吞吐量提高逾30倍；在DeepSeek V4 Pro模型上，每百萬Token成本最多降低45倍。
成本模型凸顯設備壽命影響
Epoch AI估算，一座1GW AI資料中心需要380億元前期資本支出與9億美元年度營運支出；將資本支出按各項資產壽命年化後，年化總持有成本為85億美元。Epoch AI的模型假設IT設備壽命為5年、設施壽命為14年；若IT壽命縮短至3年，年成本升至120億美元，延長至7年則降至70億美元。
NVIDIA表示，CUDA可跨世代運作，持續的軟體與核心最佳化也能改善既有硬體的能力，因此新架構推出時，既有設備不會被閒置。NVIDIA另表示，其平台可支援各類AI模型、資料處理、科學運算、模擬與圖形等非AI工作負載，以擴大可服務的需求。
Dell數字附帶受委託研究限制
Dell表示，超過4,000名客戶已部署Dell AI Factory with NVIDIA，早期採用者首年投資回報最高達2.6倍。Dell註明，這項首年投資回報數字來自Enterprise Strategy Group受Dell委託的研究；模型以Llama 3 70B推理與微調工作負載、四年期間及搭載8顆H100 GPU的XE9680伺服器估算，實際結果可能不同。