首頁 書報攤 報告內文
AI風行 晶片大廠搶地盤

2024/02/05 提供機構:財訊快報
字級設定:

AI PC/NB將帶來記憶體、高速傳輸晶片、電源管理晶片、觸控晶片、麥克風晶片等周邊晶片的升級,不少台系晶片設計業者獲益良多。

【文/李純君】

ChatGPT風行,AI在2023年成為市場最夯的科技話題與趨勢,而Nvidia創辦人黃仁勳的黑皮衣旋風更是席捲全台,Nvidia與黃仁勳,瞬間都變身成為AI晶片的代言人,但實際上,AI的戰火已經悄悄從雲端打到邊緣,邊緣運算正如火如荼竄起,而隱形的AI商機「ASIC趨勢」,大餅更是誘人。

首先就來先定義什麼是AI(人工智慧)。人工智慧,最簡單也最粗淺的講法,就是讓電腦和機器更有腦子,可以辨別、推論、學習、分析以及採取行動,尤其透過大數據資料可以精密計算,替問題找出解答。

截至2023年底,較為成功的AI都集中在雲端,因為龐大的數據運算粒子,暫時必須在雲端才能運算,也因此,目前的AI主戰場,還是在雲端伺服器上,並形成Nvidia、Intel、AMD三強爭霸的局面,然Nvidia至今明顯占據優勢、獨強,但實際上三者訴求市場並不完全相同。

三巨頭盤據雲端主戰場

目前在伺服器端俗稱與認定的AI晶片,主體在CPU,並搭配能加速AI運算的GPU或加速器,主要還是Nvidia和AMD的主戰場。

首先在Nvidia部分,就是H100,黃仁勳曾公開揭露,GPU為AI帶來革命,H100是封裝了800億個電晶體的巨大晶片,且僅一顆H100就可以維持每秒40TB的IO頻寬,20個H100甚至可以維持全世界網路的流量,此晶片更可推動極大規模的AI語言模型、深度學習系統、數位生物學和數位孿生領域的發展。

H100是採台積電四奈米代工製程產出,並由台積電透過CoWoS封裝完成,但目前供不應求,主要卡在台積電CoWoS封裝產能不足上,而簡單來說,Nvidia在AI的大成功,受益者除Nvidia本身外,就是台積電。

這個AI布建的浪潮也蔓延到中國大陸,陸系業者亦積極搶買Nvidia的AI晶片,然美中貿易戰火持續激烈,美國多道禁令阻止Nvidia將AI晶片銷往大陸,只是上有政策、下有對策,美國針對Nvidia的每一款AI晶片進行逐一審查,而Nvidia則是將不能銷售的晶片改以降階改版來應對,以維持在中國市場的營收表現。至於H100的下一代H200,則預計2024年中推出。

至於同為GPU大廠的AMD,在AI領域也不甘示弱積極還擊,宣布推出MI300,2023年第四季量產,這款AI晶片更具模組化概念,是在單一介面上,包括由台積電五奈米代工的GPU,加上台積電代工的六奈米CPU,再加上HBM組合而成,而其封裝方式則更結合了CoWoS跟Chiplet,因此完成後的封裝尺寸明顯大過Nvidia的同款產品。

事實上,AMD的MI300和Nvidia的H100是相對應的晶片,也是現今市場上最主流的兩款AI晶片。除了Nvidia黃仁勳對AI極度看好外,AMD執行長蘇姿丰也公開表示,針對數據中心而設的AI晶片,市場發展潛力巨大,2023年的規模為450億美元,未來四年可達到4000億美元。她也直言,MI300已經獲得多家大型客戶承諾採用,預計推出的第一個季度可替公司帶入四億美元的營收,2024年賺進20億美元營收。

上述不論AMD的MI300和Nvidia的H100,強項在訓練,因為GPU的training較有效率,至於英特爾的Gaudi強項是推論。

英特爾的HabanaGaudi2,其實在2023年第一季就量產上市,採台積電七奈米製程產出,英特爾更曾公開揭露,Gaudi2獲得百度智慧雲、浪潮資訊、美團、紫光新華三等中國大陸業者採用。而下一代的Gaudi3,則會由台積電五奈米製程代工,規劃量產時間是2024年第一季。

世芯與創意崛起的關鍵

在AI的大勢所趨下,運算力大增,但CPU單核運算速度的成長,比電晶體密度增加速度慢太多,而且能耗速度增加太快了,所以必須往多核發展,上述趨勢造就了半導體產業現下晶片設計必須朝向GPU+CPU混合架構發展,這是ASIC趨勢之所以如此強勁的原因。

而客製化晶片架構,就是一個相同能耗條件下,可以大幅度提高算力的方式,這也就是世芯-KY和創意兩家ASIC服務業者,快速崛起且後市看好的主因。另外,Chiplet也是因應上述提升算力與降低功耗的另外一個發展趨勢,和傳統SoC相比,Chiplet會讓製造良率大幅提升。

簡單來說,高度客製化的GPU和ASIC晶片趨勢會持續下去,也會是主導後續半導體發展的主軸之一,目前需要相關服務的,主要以雲端系統服務廠商(CSP)為主,包括亞馬遜、臉書、谷歌、微軟,而相對應的ASIC設計業者,就是替雲端服務業者設計AI晶片的,則有美系的Broadcom、Marvell,以及台資廠的世芯-KY、創意,與在這領域鴨子划水許久但剛崛起的聯發科。

目前法人圈估算,2024年世芯-KY成長動能強勁,營收年增率將達到五成,主要取自亞馬遜的Tranium 1和Inferentia2與3,分別會在台積電以七奈米與三奈米投片並量產,另外英特爾在AI雲端伺服器的Gaudi2,雖然已經在2023年由台積電七奈米代工,但仍有不少產能目前卡在後段CoWoS,待CoWoS放量後會增加出貨量,此外新一代的Gaudi3也會在2024年由台積電五奈米產出。

本文由財訊快報提供