日前,在《金融時報》最近的一篇文章中,Nvidia 報告稱,預(yù)計 2023 年將在全球范圍內(nèi)出貨 550,000 個最新的 H100 GPU。對 GPU 的需求顯然來自生成式 AI 熱潮,但 HPC 市場也在爭奪這些加速器。
大部分 GPU 將流向美國科技公司,但英國《金融時報》指出,沙特阿拉伯已經(jīng)購買了至少 3,000 個 Nvidia H100 GPU,阿聯(lián)酋也購買了數(shù)千個 Nvidia 芯片。
旗艦級 H100 GPU(14,592 個 CUDA 核心、80GB HBM3 容量、5,120 位內(nèi)存總線)售價高達 30,000 美元(平均),Nvidia 首席執(zhí)行官黃仁勛 (Jensen Huang) 稱其為首款為生成式 AI 設(shè)計的芯片。
根據(jù)《巴倫周刊》資深撰稿人 Tae Kim最近在
社交媒體上發(fā)布的估計,Nvidia 制造 H100 的成本為 3,320 美元。這讓英偉達獲得基于 Nvidia H100 卡零售成本的 1000% 利潤。這意味著 Nvidia 的每個高性能計算 (HPC) 加速器(最便宜的 PCIe 版本)的市場價格約為 25,000 至 30,000 美元,超過了每個芯片和外設(shè)的估計成本 3,320 美元(在板)組件。
然而,目前尚不清楚成本分析有多深入:如果這是一個純粹的制造成本問題(在考慮良率的情況下平均每片晶圓和其他組件的價格),那么 Nvidia 仍然需要支付大量的的額外費用。產(chǎn)品開發(fā)需要時間和資源;考慮到 H100 等產(chǎn)品的產(chǎn)品開發(fā)生命周期中的工程師和其他參與者,在得出最終的平均產(chǎn)品開發(fā)成本之前,還必須考慮 Nvidia 的研發(fā)成本。
即便如此,不可否認的是,作為人工智能加速工作負載的領(lǐng)先公司是有優(yōu)勢的。眾所周知,Nvidia GPU 很快就被搶購一空,甚至連它們堆放的機架都沒有接觸過。這實際上意味著 Nvidia 人工智能加速產(chǎn)品的訂單似乎已經(jīng)售完到 2024 年。預(yù)計到 2027 年人工智能加速器市場價值將達到 1500 億美元左右。
*免責聲明:本文消息源自芯視點,消息未經(jīng)官方證實,僅供交流學習之用。