新加坡數據中心業者透過創新液體冷卻技術,使數據中心更為環保
一、 依據新加坡聯合早報本(2024)年8月12日報導指出,生成式人工智慧的發展依賴強大的運算能力,但數據中心極為耗電。因此,數據中心業者Sustainable Metal Cloud(簡稱SMC)透過創新液體冷卻技術及減少輸出的電子(electron)數量等方式,在保障運算能力之際,亦可打造綠色數據中心。SMC的「永續人工智慧工廠」透過微調LLaMa-2-70B大語言模型(LLM),能源消耗較傳統方式所需電力減少45%,每月產生的二氧化碳亦減少2.21噸。
二、 依據長期以來驅動全球數位革命的「摩爾定律」(Moore’s Law),微晶片可容納的晶體管數量,每兩年翻倍,亦即微晶片性能可提高一倍。近年來人工智慧領域出現的「新摩爾定律」則主張,未來運算能力的提升,將更依賴「異質運算」(heterogeneous computing)、3D晶片堆疊等創新技術,而非僅靠增加晶體管密度。
三、 SMC聯合創辦人兼聯合首席執行長Oliver Curtis指出,輝達「Blackwell B100圖形處理器(GPU)」的「散熱設計功率」(thermal design power, 簡稱TDP)已高達70kW。然而,全球數據中心基本上皆為容納約10 kW而建造,僅有5%數據中心可處理至少50 kW的「散熱設計功率」。TDP係指中央處理器(CPU)或圖形處理器在運算應用程式達到最大負荷時,可產生的熱量。
四、 SMC在新加坡的數據中心採用液體冷卻技術,「電源使用效率」(power usage effectiveness,簡稱PUE)僅為1.1,倘以輝達的H100圖形處理器為例,一個數據大廳全為H100圖形處理器,能耗可高達14kW,但在SMC數據中心,則可降低至7.7kW。H100已成為全球人工智慧產業訓練大語言模型及運行生成式AI的熱門圖形處理器選擇。
五、 依據2024年6月發布的MLPerf(Machine Learning Performance)數據顯示,與傳統風冷數據中心託管的圖形處理器相比,SMC數據中心可節省最多5成的能源。MLPerf基準測試是由學術界和工業界共同組成的非營利性組織,旨在建立一個公平、透明的機器學習性能評估平臺。
六、 新加坡數據中心的用電量占全國總電量約7%。一座數據中心要符合新加坡建設局(BCA)及新加坡資訊通信媒體發展局(IMDA)的綠色建築標章白金認證,其「電源使用效率」至少須達1.3。星國數據中心容量將在未來幾年增加至少300 MW,因此新加坡政府於2024年5月30日正式推出「綠色數據中心路線圖」,持續在硬體與軟體改善能源效率及加速推動數據中心使用綠色能源,以優化數據中心的永續發展,同時將為使用綠色能源的數據中心業者,額外保留200 MW的容量。(資料來源:經濟部國際貿易署)