輝達新AI晶片 華碩、鴻海添動能

記者鐘惠玲/綜合報導

AI晶片龍頭輝達(NVIDIA)13日宣布,推出全新AI產品「HGX H200」,主打超高容量與更大的頻寬,算力更為精進,明年第2季開始出貨。法人看好,輝達新品有望再掀搶購潮,為華碩、技嘉、廣達集團、緯創集團、鴻海等合作夥伴增添更多動能。

輝達強調,H200是首款提供業界最新高頻寬記憶體(HBM)「HBM3e」規格的繪圖處理器(GPU),以每秒4.8 TB速度提供141GB記憶體,與前一代產品A100 相比,容量幾乎翻倍,頻寬增加2.4倍,可部署在各種類型的資料中心中,包括本地、雲端、混合雲和邊緣環境等。

輝達認為,H200將帶來更進一步的效能躍進,相對先前的H100產品,在Llama 2這樣擁有700億參數大型語言模型上的推論速度將近翻倍提升。

目前輝達在AI晶片市場占據優勢地位,陸續推出A100、H100、L40S等產品搶市,H200則是最新力作。輝達表示,HGX H200配備H200 Tensor Core GPU,並具有先進的記憶體,可為生成式AI與高效能運算(HPC)的工作負載處理大量資料。

輝達執行長黃仁勳先前提到,全球各地的公司都在從一般運算,轉換到加速運算與生成式AI。輝達指出,其伺服器生態系合作夥伴,包括華碩、技嘉、廣達集團旗下雲達、緯創、緯穎、美超微、永擎電子、慧與、戴爾、聯想、鴻佰、Eviden等,都可使用基於H200的直接替換方式來更新其基於H100的系統。

同時,亞馬遜網路服務、Google Cloud、微軟Azure和Oracle Cloud Infrastructure也將成第一批部署基於H200執行個體的雲端服務供應商。

輝達提到,H200軟硬體皆與HGX 100系統相容,也可與今年8月推出、採用HBM3e的GH200 Grace Hopper超級晶片模組搭配使用。包括華碩、技嘉、永擎電子、鴻佰等將於今年底開始出貨搭載超級晶片的伺服器。

輝達 AI 晶片

推薦文章

留言