英偉達發表全球最強AI晶片H200:效能較H100提升近一倍
英偉達發表全球最強AI晶片H200:效能較H100提升近一倍
快科技今日(11月14日)消息,在2023年全球超算大會(SC2023)上,晶片巨頭英偉達發布了H100晶片的繼任者,也是目前世界最強的AI晶片——H200。
H200的表現相較於H100有了60%到90%的直接提升
不僅如此,H200與H100一樣都是基於英偉達Hopper架構打造,這也意味著兩款晶片可以互相兼容,對於使用H100企業而言,可以無縫更換成最新的H200。
H200是英偉達首款採用HBM3e記憶體的晶片,具有更快的速度和更大的容量,非常適合用於大型語言模型的訓練和推理
除了HBM3e記憶體外,H200的記憶體容量為141GB,頻寬從H100的3.35TB/s增加到了4.8TB/s。
H200的效能提升最主要體現在大模型推理表現上,H200 在700億參數的Llama2大模型上的推理速度比H100快了一倍,而且在推理能耗上H200相比H100直接降低了一半。
H200具備更高的顯存頻寬,對於顯存密集型的高效能運算應用而言,這意味著可以更有效地存取操作資料。與中央處理器(CPU)相比,使用H200可以將結果的取得時間最多提升110倍
英偉達表示H200預計2024年第二季出貨,售價還暫未公佈,不過在算力荒下,大科技公司們估計還是會瘋狂囤貨。
以上是英偉達發表全球最強AI晶片H200:效能較H100提升近一倍的詳細內容。更多資訊請關注PHP中文網其他相關文章!

熱AI工具

Undresser.AI Undress
人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover
用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool
免費脫衣圖片

Clothoff.io
AI脫衣器

AI Hentai Generator
免費產生 AI 無盡。

熱門文章

熱工具

記事本++7.3.1
好用且免費的程式碼編輯器

SublimeText3漢化版
中文版,非常好用

禪工作室 13.0.1
強大的PHP整合開發環境

Dreamweaver CS6
視覺化網頁開發工具

SublimeText3 Mac版
神級程式碼編輯軟體(SublimeText3)

熱門話題

本站2月23日消息,英偉達昨晚更新推出了NVIDIA應用程序,為玩家提供了全新的統一GPU控制中心,便於玩家透過遊戲內懸浮窗提供的強大錄影工具捕捉精彩時刻。在本次更新中,英偉達也引入了RTXHDR功能,本站附上官方介紹如下:RTXHDR是一款AI賦能的全新Freestyle濾鏡,可以將高動態範圍(HDR)的艷麗視覺效果無縫引入到原本不支援HDR的遊戲中。你只需擁有相容HDR的顯示器,即可對大量基於DirectX和Vulkan的遊戲使用此功能。玩家在啟用RTXHDR功能之後,運行即便不支援HD

許多用戶對於新一代全新的RTX5090這款顯示卡比較好奇,不知道這款顯示卡的效能較前代有了多少的提升,從目前可以知道的訊息來看這款顯示卡的整體表現還是很不錯的。 RTX5090性能提昇明顯嗎答:還是很明顯的。 1.此款顯示卡其加速頻率超越極限,高達3GHz,同時還配備了192個流式多處理器(SM),甚至有可能產生高達520W的功率。 2.根據RedGamingTech的最新消息,NVIDIARTX5090有望突破3GHz的時脈頻率,這無疑將在執行高難度圖形操作以及計算時發揮更大作用,提供更流暢、更逼真的遊戲

本站2月19日訊息,Moore'sLawisDead頻道最新一期影片中,主播Tom透露英偉達GeForceRTX50系列顯示卡將原生配備PCIeGen6的16-Pin供電介面。 Tom表示除了高階的GeForceRTX5080和GeForceRTX5090系列之外,中階GeForceRTX5060也會啟用新的供電介面。消息稱英偉達設定明確要求,未來每塊GeForceRTX50系列都配備PCIeGen6的16-Pin供電接口,從而簡化供應鏈。本站附上截圖如下:Tom也表示GeForceRTX5090在

本站2月22日消息,一般來說,英偉達和AMD對於通路定價是有限制的,對於一些私自大幅降價的經銷商還會進行處罰,例如AMD最近就對6750GRE顯示卡低於最低限價的經銷商進行了處罰。本站注意到,英偉達GeForceRTX4070和4060Ti已降至歷史新低,其創辦人版本,也就是公版顯示卡目前在京東自營店可以領取200元優惠券,到手價4599元、2999元。當然,若是考慮第三方店舖的話還會有更低的價格。參數方面,RTX4070顯示卡擁有5888CUDA核心,採用12GBGDDR6X記憶體,位元寬為192bi

開放LLM社群正是百花齊放、競相爭鳴的時代,你能看到Llama-3-70B-Instruct、QWen2-72B-Instruct、Nemotron-4-340B-Instruct、Mixtral-8x22BInstruct-v0.1等許多表現優良的模型。但是,相較於以GPT-4-Turbo為代表的專有大模型,開放模型在許多領域仍有明顯差距。在通用模型之外,也有一些專精關鍵領域的開放模型已被開發出來,例如用於程式設計和數學的DeepSeek-Coder-V2、用於視覺-語言任務的InternVL

本站6月2日消息,在目前正在進行的黃仁勳2024台北電腦展主題演講上,黃仁勳介紹生成式人工智慧將推動軟體全端重塑,展示其NIM(NvidiaInferenceMicroservices)雲端原生微服務。英偉達認為「AI工廠」將掀起一場新產業革命:以微軟開創的軟體產業為例,黃仁勳認為生成式人工智慧將推動其全端重塑。為方便各種規模的企業部署AI服務,英偉達今年3月推出了NIM(NvidiaInferenceMicroservices)雲端原生微服務。 NIM+是一套經過優化的雲端原生微服務,旨在縮短上市時間

近來,Layer1區塊鏈VanarChain憑藉高漲幅以及與AI巨頭英偉達合作備受市場關注。 VanarChain走紅背後,除了經歷多次品牌轉型,主打遊戲、元宇宙和AI等熱門概念也為這個項目賺足了熱度和話題。在進行轉型之前,Vanar的前身是TerraVirtua,成立於2018年,最初是一個支援付費訂閱、提供虛擬實境(VR)和擴增實境(AR)內容的平台,並接受加密貨幣支付。該平台由聯合創始人GaryBracey和JawadAshraf創建,其中GaryBracey在參與電玩遊戲製作和開發方面擁有超

本站4月17日消息,集邦諮詢(TrendForce)近日發布報告,認為英偉達Blackwell新平台產品需求看漲,預估帶動台積電2024年CoWoS封裝總產能提升逾150%。英偉達Blackwell新平台產品包含B系列的GPU,以及整合英偉達自家GraceArmCPU的GB200加速卡等。集邦諮詢確認為供應鏈目前非常看好GB200,預估2025年出貨量預計超過百萬片,在英偉達高階GPU中的佔比達到40-50%。在英偉達計畫下半年交付GB200以及B100等產品,但上游晶圓封裝方面須進一步採用更複
