記者黃仁杰／編譯
儘管輝達（NVIDIA）最新Blackwell AI晶片平台成本遠高於競爭對手，但摩根士丹利最新報告指出，Blackwell在運算效率上的優勢，仍讓其具備更高投資價值。
報告指出，若以建置1GW等級AI資料中心計算，採用Blackwell GPU的成本，約為使用Google TPU或亞馬遜Trainium AI ASIC晶片的兩倍。不過摩根士丹利認為，輝達在「每瓦效能」上的優勢，足以抵銷更高硬體成本。
近年AI資料中心建設持續升溫，而Blackwell高昂價格也成為市場熱門話題。輝達執行長黃仁勳過去曾多次強調，雖然輝達AI GPU價格較高，但長期來看能提供更高投資報酬率。
摩根士丹利此次則進一步以「每瓦TFLOPS效能」進行比較。TFLOPS代表每秒可執行多少兆次浮點運算，是衡量AI晶片算力的重要指標。
「AI履歷健檢」看見自己優勢：https://campaign.1111.com.tw/resume-review/
更多科技工作請上科技專區：https://techplus.1111.com.tw/
根據報告，輝達下一代Vera Rubin（FP4）GPU每瓦效能達19.5 TFLOPS，為目前列表中最高；Vera Rubin（FP8）則為6.8，Blackwell GB300（FP8）為6.0，而上一代H100（FP8）為3.1。
相比之下，Google最新TPUv7（FP8）每瓦效能約4.3，而亞馬遜Trainium 3（Trn3）則約為2.5。
摩根士丹利因此認為，輝達AI GPU在運算效率上，仍領先客製化AI ASIC約2倍至8倍。
不過，市場如今評估AI晶片的方式也開始改變。除了單純比較運算效能與功耗外，越來越多企業開始關注「每百萬Token成本」等實際推論效率指標。
AI基礎設施供應商Nebius專家指出，目前市場更在意的是生成AI實際運行成本，而不只是GPU每小時租用價格。
根據Nebius估算，AI晶片新創Groq的推論成本約為每百萬Token 5至10美分，而Blackwell則約為25美分。
在生成速度方面，Groq晶片最高可達每秒800個Token，也高於Blackwell約每秒450個Token的表現。
市場認為，隨著AI產業逐漸從模型訓練轉向大規模推論部署，未來AI晶片競爭重點，也可能從「最大算力」逐漸轉向「最低推論成本」。
來源：wccftech
—
本篇文章授權來源：科技島
