生成式AI運算需求不斷成長,助推GPU大廠輝達(NVIDIA)股價大漲再創新高。 8月中輝達執行長黃仁勳展覽時再次力推DGXGH200,是採用GraceHopper加速運算卡打造的新一代生成式AI超級晶片,也是輝達首款Exaflop等級的DGX超級電腦產品
性能輾壓H100達17%
#根據9月11日跑分數據,NVIDIA宣布旗下GH200、H100、L4 GPU與Jetson Orin同類產品都獲得領先表現。
GH200首次提交單一晶片,與單張H100配合英特爾CPU比較後,GH200組合各測試都至少有15%左右提升。 NVIDIA人工智慧總監Dave Salvator新聞發表會表示:Grace Hopper首次表現非常強勁,與提交H100GPU相比,性能提高17%,而我們已全面領先。
GH200是什麼?
官方說明,NVIDIA GH200是首個將H100 GPU和Grace CPU整合在一起的超級晶片,這兩者之間再透過頻寬高達900GB/s的NVLink-C2C連互連接,擴充性更佳,以超快速度訓練深度學習。
NVIDIA表示GH200有三大特點:
l適用大型模型的龐大記憶體:為開發人員提供超過500倍記憶體打造大型模型。
l超節能運算:頻寬提升7倍,互連功耗降低逾5倍。
已整合且立即執行:數週內即可打造大型模型。 重寫後的內容:已經進行了整合並立即開始執行:在幾週內就可以建立一個大型模型
多數選手錶現比上一代提升至20%
#5月COMPUTEX期間,NVIDIA CEO黃仁勳提到GH200晶片預定2024年第二季量產。 MLPerfv3.1基準檢驗超過13,500個結果,不少提交者效能比3.0基準提高20%以上。
MLPerf是讓客戶評估AI晶片效能的常用工具。
提交者的名單包括華碩、Azure、Connect Tech、DELL、富士通、Giga Computing、Google、H3C、HPE、IEI、英特爾、英特爾HabanaLabs、Nutanix、甲骨文、高通、Quanta Cloud Technology、SiMA、Supermicro、TTA和xFusion等
以上是驚人跑分曝光,比H100更強! NVIDIA最強AI晶片GH200是什麼?的詳細內容。更多資訊請關注PHP中文網其他相關文章!