技嘉將展出輝達最新Blackwell架構AI伺服器

MoneyDJ新聞 2024-06-03 09:02:26 記者 張以忠 報導

NVIDIA執行長黃仁勳周日於台大的演講，其認為新的運算時代正在開始，GPU需求將與日俱增，而技嘉(2376)是NVIDIA首波AI伺服器合作的廠商之一，在即將到來的COMPUTEX，擬展出NVIDIA最新Blackwell架構系統。展望後市，預期技嘉今(2024)年AI伺服器將呈爆發性增長，且拉貨動能可望持續很長一段時間，其佔比也會逐步拉升。

黃仁勳周日於台大進行演講，技嘉董事長葉培城(圖右一)，董事兼總經理李宜泰(圖中)、總經理林英宇(圖左一)皆出席。黃仁勳指出，在2016-2024年間，AI的運算量成長了1000倍，NVIDIA已建立起龐大的資料庫與資料處理工具，大幅提升了資料處理能力，能進一步拓展各式AI應用場景，推升未來GPU需求。

技嘉是NVIDIA首波AI伺服器合作的廠商之一，在即將到來的COMPUTEX，旗下主營伺服器的技鋼，將以「ACCEVOLUTION ─ 運算速進時代」為主題參展，展出機櫃級AI解決方案GIGA POD，以及NVIDIA最新Blackwell架構系統GB200 NVL72。

技鋼指出，GB200 NVL72實現30倍的即時大型語言模型（LLM）推論速度，降低25倍的總擁有成本（TCO），並減少25倍的能源消耗，同時採用直接液體冷卻（DLC）的機架級解決方案，透過NVIDIA NVLink連接36個NVIDIA Grace CPU與72個Blackwell GPU，為人工智慧和高效能運算工作負載提供每秒130TB的低延遲GPU通訊。

技鋼表示，作為NVIDIA認證系統供應商，產品支援NVIDIA NIM推論微服務，這是NVIDIA AI加速運算平台的一部分，為生成式人工智慧提供更佳的靈活性和效能。

除了AI伺服器之外，公司此次還將展出整合式先進散熱解決方案，包括直接液體冷卻和單相浸沒式液體冷卻技術等產品。

技嘉首季伺服器佔營收比重約52.5%，其中AI伺服器佔伺服器產品線已逾7成，由於客戶需求持續強勁，且布局多元客戶效益見顯，預期2024年AI伺服器將呈爆發性增長，且拉貨動能可望持續很長一段時間，其佔比也會逐步拉升。