MoneyDJ新聞 2025-04-09 09:34:55 記者 羅毓嘉 報導
量測儀器大廠是德科技(Keysight Technologies Inc)觀察指出,全球AI市場在未來五年將進入關鍵轉折期,產業對運算效能、網路傳輸與資料中心基礎架構的要求快速上升。根據多家研究機構預測,AI市場規模將以倍數成長,並對基礎設施帶來全面衝擊。是德科技認為,掌握運算擴展性、降低網路延遲並提升系統整合效率,將是AI產業鏈的核心競爭力。
研究機構Markets and Markets預估,2024至2030年間AI產業年均成長率(CAGR)可達35.7%,代表整體市場在六年內可能成長16倍。富比世則進一步指出,AI應用預計將使美國GDP在2030年前提升21%。
是德科技指出,AI發展所帶動的需求不僅限於模型訓練與演算法優化,資料中心的運作效能亦成為產業關注重點。目前主流資料中心採用400G與800G乙太網,預期三年內將進入1.6T甚至3.2T世代;記憶體技術亦將從DDR5邁向DDR6與HBM3,頻寬由8.4Gbps提升至12.8Gbps以上。而包括高速互連、PCIe介面速率也將大幅提升。
然而是德科技也提醒,在AI資料中心運作過程中,仍面臨三大挑戰:其一,如何有效擴展運算與記憶體架構;其二,網路效能瓶頸造成延遲與壅塞風險;其三,系統內多元元件間的協作效率仍受限於最低效能單點的限制。
是德引用研究資料指出,在大型AI模型訓練過程中,GPU有高達62%的時間被消耗於資料交換與等待,真正用於運算的時間僅約38%,造成資源浪費與成本壓力。此外,AI訓練失敗率亦偏高,部分複雜模型訓練成功率僅六成,常因網路延遲、驅動相容性或軟體錯誤導致需重訓,進一步拉長上線時程並增加營運支出。
在資料中心架構設計上,是德科技指出AI與傳統應用有本質差異。AI場景需更頻繁的GPU間資料互傳,逐漸從傳統南北向流量導向的Spine-Leaf架構,轉向強調東西向高速資料流通的拓樸設計,結合NVLink、InfinityFabric等垂直串接技術與外部交換機陣列進行橫向擴展。
是德科技表示,其KAI AI資料中心架構解決方案將持續優化系統級模擬與測試工具,協助客戶在高速互連、節能運算與資料流管理方面提升效率,回應AI產業規模化發展下的核心挑戰。