AI安全工作推動算力需求升溫
花旗銀行報告指出，AI安全與對齊工作極耗算力，將推動基礎設施支出增加。英偉達副總裁表示，智能體AI需求較聊天應用躍升100倍。英特爾及Meta分別公布戰略轉型及大規模基建計劃。
花旗銀行一份研究報告指出，與投資者擔憂監管收緊可能壓制硬件需求的預期相反，在AI基礎設施峰會上，多家頂尖前沿模型開發商明確表示，AI安全與對齊工作本身就是極為耗費算力的過程，預計將推動基礎設施支出持續增加。上述觀點來自峰會首日在聖克拉拉舉行的會議。分析師指出，如何確保獲取大規模算力、電力及設施容量，已成為行業發展的首要瓶頸，其重要性甚至超過了模型架構本身的創新。
下一代數據中心設施的設計容量正在提升，可容納的GPU數量較以往增加30%至40%。與此同時，Astra等軟件編排平台，以及英偉達Vera Rubin平台等硬件升級方案，均致力於優化端到端系統吞吐量。
英偉達超大規模計算與高性能計算業務副總裁Ian Buck在峰會上發言，闡述了從對話式聊天機器人轉向自主「智能體AI」（Agentic AI）如何大幅推升硬件需求。Buck指出，智能體工作負載的算力需求約為2023年聊天應用的100倍，原因在於輸入序列長度、KV緩存容量、多輪交互次數以及子智能體生成數量均呈指數級增長。
英特爾（Intel Corp.）執行長陳立武（Lip-Bu Tan）出席峰會，闡述了這家芯片製造商從傳統CPU供應商向全棧AI基礎設施提供商轉型的戰略方向。陳立武強調，隨著行業競爭焦點從單純的GPU算力轉向系統級優化，CPU在強化學習、編排層及智能體工作流程中仍將扮演不可或缺的角色。為加速決策效率，他對英特爾的管理架構進行了扁平化改革，將管理層級從原來的10至12層精簡至4至5層。在製造工藝方面，陳立武確認英特爾18A製程節點已進入量產階段，更先進的14A節點亦即將推出，相關支持工作包括預計於10月發布的0.9版PDK，以及下一季度推出的1.0版PDK。
Meta平台（Meta Platforms Inc.）基礎設施負責人Santosh Janardhan詳細介紹了該公司在大規模訓練基礎設施建設方面的經驗。Meta正逐步從超過1吉瓦（GW）的「Prometheus」集群，向未來數年內規劃達到5吉瓦的「Hyperion」基礎設施邁進。Janardhan指出，跨地區、無損網絡連接是目前最大的運營挑戰。為實現每8,000個GPU每天集群中斷次數不超過兩次的目標，Meta部署了自研的後端聚合（BAG）網絡架構。
