輝達新AI晶片 華碩、鴻海添動能

AI晶片龍頭輝達（NVIDIA）13日宣布，推出全新AI產品「HGX H200」，主打超高容量與更大的頻寬，算力更為精進，明年第2季開始出貨。法人看好，輝達新品有望再掀搶購潮，為華碩、技嘉、廣達集團、緯創集團、鴻海等合作夥伴增添更多動能。

輝達強調，H200是首款提供業界最新高頻寬記憶體（HBM）「HBM3e」規格的繪圖處理器（GPU），以每秒4.8 TB速度提供141GB記憶體，與前一代產品A100 相比，容量幾乎翻倍，頻寬增加2.4倍，可部署在各種類型的資料中心中，包括本地、雲端、混合雲和邊緣環境等。

輝達認為，H200將帶來更進一步的效能躍進，相對先前的H100產品，在Llama 2這樣擁有700億參數大型語言模型上的推論速度將近翻倍提升。

目前輝達在AI晶片市場占據優勢地位，陸續推出A100、H100、L40S等產品搶市，H200則是最新力作。輝達表示，HGX H200配備H200 Tensor Core GPU，並具有先進的記憶體，可為生成式AI與高效能運算（HPC）的工作負載處理大量資料。

輝達執行長黃仁勳先前提到，全球各地的公司都在從一般運算，轉換到加速運算與生成式AI。輝達指出，其伺服器生態系合作夥伴，包括華碩、技嘉、廣達集團旗下雲達、緯創、緯穎、美超微、永擎電子、慧與、戴爾、聯想、鴻佰、Eviden等，都可使用基於H200的直接替換方式來更新其基於H100的系統。

同時，亞馬遜網路服務、Google Cloud、微軟Azure和Oracle Cloud Infrastructure也將成第一批部署基於H200執行個體的雲端服務供應商。

輝達提到，H200軟硬體皆與HGX 100系統相容，也可與今年8月推出、採用HBM3e的GH200 Grace Hopper超級晶片模組搭配使用。包括華碩、技嘉、永擎電子、鴻佰等將於今年底開始出貨搭載超級晶片的伺服器。