記者黃仁杰／台北報導
隨著代理式AI（Agentic AI）應用快速擴張，資料中心對CPU運算能力的需求也出現變化。Arm宣布推出一套針對AI代理工作負載的CPU效能評測方法，獲得富士通、Meta及OpenAI支持。根據第三方機構Signal65的獨立驗證結果，Arm AGI CPU在七項工作負載測試中，機櫃級效能模型的平均表現達AMD EPYC 9755處理器的1.99倍，顯示AI代理正改變伺服器處理器的效能評估方式。
根據創投機構a16z援引的OpenRouter資料，自2026年2月以來，AI代理的Token使用量已成長約14倍。不同於傳統AI主要回應使用者指令，AI代理需要持續維持上下文、呼叫外部工具、存取資料及執行任務，使CPU必須承擔更多工作負載協調與資料處理需求。
Arm指出，隨著大量AI代理同時運作，資料中心不僅需要更多運算資源，也必須確保記憶體、儲存與I/O系統能在高併行環境下穩定運作。因此，傳統以理論運算效能為主的評測方式，已不足以完整反映AI代理的實際運作需求。
Arm AGI CPU效能近2倍 工具呼叫、任務編排表現突出
為評估AI代理的實際運算需求，Arm開發新的CPU效能測試方法，涵蓋具代表性的AI代理應用場景、可重複執行的CPU效能測量，以及端到端的結果驗證。
第三方機構Signal65依據這套方法，比較Arm AGI CPU與AMD EPYC Turin系列處理器在工具呼叫、任務編排、推論及規劃等工作負載的表現，並利用實測伺服器效能數據建立機櫃級模型。
初步結果顯示，Arm AGI CPU在七項測試中的機櫃級平均效能為AMD EPYC 9755的1.99倍。其中，工具呼叫效能達1.7倍、AI代理工作流程與任務編排達2倍，推論及規劃則達2.2倍。
此外，相較於AMD EPYC 9965，Arm AGI CPU最多可將沙盒建立延遲降低45%，有助於縮短AI代理啟動隔離執行環境所需時間。
不過，上述近2倍的效能差距來自機櫃級效能模型，而非單顆CPU直接比較，相關結果也受到機櫃運算密度與能源效率等因素影響。
CPU角色轉變 Arm推動AI代理機櫃架構
Arm認為，AI代理對CPU的需求不再侷限於單次運算速度，而是系統在功耗、散熱及空間限制下，能同時支援多少任務持續執行。
在AI資料中心架構中，CPU負責工作排程、資料準備及傳輸，維持GPU等加速器的利用率；資料處理器（DPU）則負責網路、儲存、安全隔離與基礎設施管理，形成不同處理器之間的分工。
在本週開放運算計畫全球峰會（OCP Global Summit）上，Arm也推動向OCP貢獻Arm AGI CPU參考伺服器設計，而Meta的Yosemite YV5則將Arm AGI CPU納入機櫃級架構。
Meta、OpenAI支持新評測方法 聚焦真實工作負載
針對新的CPU評測方法，富士通、Meta及OpenAI均表達支持。
富士通指出，在開發下一代Arm架構處理器FUJITSU-MONAKA的過程中，透明、可重複且具有代表性的測試方法相當重要。
Meta則認為，隨著代理式AI進入正式部署階段，業界需要更一致的比較標準，了解不同工作負載如何使用底層運算資源。
OpenAI全球前線部署工程負責人Colin Jarvis表示，AI系統正從單純生成回應，轉向透過推論、工具使用及軟體互動完成複雜任務，因此評估任務編排、工具執行及整體系統效能將更加重要。
—
本篇文章授權來源：科技島
