Technologie-Peripheriegeräte
KI
NVIDIA bringt H200 auf den Markt, den leistungsstärksten KI-Chip der Welt: Leistung fast verdoppelt im Vergleich zu H100
NVIDIA bringt H200 auf den Markt, den leistungsstärksten KI-Chip der Welt: Leistung fast verdoppelt im Vergleich zu H100
NVIDIA bringt den weltweit leistungsstärksten KI-Chip H200 auf den Markt: Leistung im Vergleich zum H100 nahezu verdoppelt
Quick Technology berichtete heute (14. November), dass der Chipriese Nvidia auf der Global Supercomputing Conference 2023 (SC2023) den Nachfolger des H100-Chips, des derzeit leistungsstärksten KI-Chips der Welt, vorgestellt hat: H200.
Die Leistung von H200 ist im Vergleich zu H100 direkt um 60 % bis 90 % verbessert
Darüber hinaus basieren H200 und H100 beide auf der NVIDIA Hopper-Architektur, was auch bedeutet, dass die beiden Chips miteinander kompatibel sind. Für Unternehmen, die H100 verwenden, können sie nahtlos durch den neuesten H200 ersetzt werden.
H200 ist NVIDIAs erster Chip, der HBM3e-Speicher verwendet. Er verfügt über eine höhere Geschwindigkeit und größere Kapazität und eignet sich sehr gut für das Training und die Inferenz großer Sprachmodelle
Zusätzlich zum HBM3e-Speicher beträgt die Speicherkapazität des H200 141 GB und die Bandbreite wurde von 3,35 TB/s beim H100 auf 4,8 TB/s erhöht.Die Leistungsverbesserung von H200 spiegelt sich hauptsächlich in der Inferenzleistung großer Modelle wider. Die Inferenzgeschwindigkeit von H200 beim großen Llama2-Modell mit 70 Milliarden Parametern ist doppelt so schnell wie die von H100, und der Inferenzenergieverbrauch von H200 wird direkt reduziert um die Hälfte im Vergleich zu H100.
H200 verfügt über eine höhere Speicherbandbreite, was bedeutet, dass bei speicherintensiven Hochleistungs-Computing-Anwendungen effizienter auf Betriebsdaten zugegriffen werden kann. Durch den Einsatz des H200 kann die Zeit zur Ergebniserfassung im Vergleich zu einer Zentraleinheit (CPU) um das bis zu 110-fache verkürzt werden
Nvidia gab an, dass der H200 voraussichtlich im zweiten Quartal 2024 ausgeliefert wird. Der Preis wurde noch nicht bekannt gegeben. Aufgrund des Mangels an Rechenleistung wird jedoch weiterhin damit gerechnet, dass große Technologieunternehmen ihre Vorräte wahnsinnig anlegen.
Das obige ist der detaillierte Inhalt vonNVIDIA bringt H200 auf den Markt, den leistungsstärksten KI-Chip der Welt: Leistung fast verdoppelt im Vergleich zu H100. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!
Heiße KI -Werkzeuge
Undresser.AI Undress
KI-gestützte App zum Erstellen realistischer Aktfotos
AI Clothes Remover
Online-KI-Tool zum Entfernen von Kleidung aus Fotos.
Undress AI Tool
Ausziehbilder kostenlos
Clothoff.io
KI-Kleiderentferner
AI Hentai Generator
Erstellen Sie kostenlos Ai Hentai.
Heißer Artikel
Heiße Werkzeuge
Notepad++7.3.1
Einfach zu bedienender und kostenloser Code-Editor
SublimeText3 chinesische Version
Chinesische Version, sehr einfach zu bedienen
Senden Sie Studio 13.0.1
Leistungsstarke integrierte PHP-Entwicklungsumgebung
Dreamweaver CS6
Visuelle Webentwicklungstools
SublimeText3 Mac-Version
Codebearbeitungssoftware auf Gottesniveau (SublimeText3)
Heiße Themen
1379
52
NVIDIA führt RTX HDR-Funktion ein: Nicht unterstützte Spiele nutzen KI-Filter, um wunderschöne visuelle HDR-Effekte zu erzielen
Feb 24, 2024 pm 06:37 PM
Laut Nachrichten dieser Website vom 23. Februar hat NVIDIA gestern Abend die NVIDIA-Anwendung aktualisiert und gestartet und bietet Spielern ein neues einheitliches GPU-Kontrollzentrum, das es Spielern ermöglicht, wunderbare Momente durch das leistungsstarke Aufzeichnungstool des In-Game-Floating festzuhalten Fenster. In diesem Update hat NVIDIA auch die RTXHDR-Funktion eingeführt. Die offizielle Einführung ist wie folgt beigefügt: RTXHDR ist ein neuer KI-gestützter Freestyle-Filter, der die großartigen visuellen Effekte von High Dynamic Range (HDR) nahtlos in Spiele einführen kann, die dies ursprünglich nicht tun unterstützt HDR. Sie benötigen lediglich einen HDR-kompatiblen Monitor, um diese Funktion mit einer Vielzahl von DirectX- und Vulkan-basierten Spielen nutzen zu können. Nachdem der Player die RTXHDR-Funktion aktiviert hat, läuft das Spiel auch dann, wenn es HD nicht unterstützt
Es wird berichtet, dass Grafikkarten der NVIDIA RTX 50-Serie nativ mit einer 16-Pin-PCIe-Gen-6-Stromversorgungsschnittstelle ausgestattet sind
Feb 20, 2024 pm 12:00 PM
Laut Nachrichten dieser Website vom 19. Februar enthüllte Moderator Tom im neuesten Video von Moores LawisDead-Kanal, dass Grafikkarten der Nvidia GeForce RTX50-Serie nativ mit einer PCIeGen6 16-Pin-Stromversorgungsschnittstelle ausgestattet sein werden. Tom sagte, dass neben den High-End-Serien GeForceRTX5080 und GeForceRTX5090 auch die Mittelklasse-GeForceRTX5060 neue Stromversorgungsschnittstellen ermöglichen wird. Berichten zufolge hat Nvidia klare Vorgaben gemacht, dass künftig jede GeForce RTX50-Serie mit einer PCIeGen6 16-Pin-Stromversorgungsschnittstelle ausgestattet sein soll, um die Lieferkette zu vereinfachen. Die dieser Seite beigefügten Screenshots lauten wie folgt: Tom sagte auch, dass GeForceRTX5090
Ist die Leistung der RTX5090 deutlich verbessert?
Mar 05, 2024 pm 06:16 PM
Viele Benutzer sind neugierig auf die brandneue RTX5090-Grafikkarte. Sie wissen nicht, um wie viel sich die Leistung dieser Grafikkarte im Vergleich zur vorherigen Generation verbessert hat ist immer noch sehr gut. Ist die Leistungsverbesserung der RTX5090 offensichtlich? Antwort: Sie ist immer noch sehr offensichtlich. 1. Diese Grafikkarte verfügt über eine Beschleunigungsfrequenz jenseits der Grenze von bis zu 3 GHz und ist außerdem mit 192 Streaming-Multiprozessoren (SM) ausgestattet, die sogar bis zu 520 W Leistung erzeugen können. 2. Laut den neuesten Nachrichten von RedGamingTech wird erwartet, dass NVIDIARTX5090 die Taktfrequenz von 3 GHz überschreitet, was zweifellos eine größere Rolle bei der Durchführung schwieriger Grafikoperationen und -berechnungen spielen und flüssigere und realistischere Spiele ermöglichen wird.
Die Grafikkarten NVIDIA RTX 4070 und 4060 Ti FE sind unter den empfohlenen Verkaufspreis von 4599 bzw. 2999 Yuan gefallen
Feb 22, 2024 pm 09:43 PM
Laut den Nachrichten dieser Website vom 22. Februar haben NVIDIA und AMD im Allgemeinen Beschränkungen bei der Kanalpreisgestaltung, und einige Händler, die privat die Preise erheblich senken, werden ebenfalls bestraft. Beispielsweise hat AMD kürzlich Händler bestraft, die 6750GRE-Grafikkarten zu niedrigeren Preisen verkauft haben Der Mindestpreis wurde bestraft. Diese Seite hat festgestellt, dass die NVIDIA GeForce RTX 4070 und 4060 Ti auf Rekordtiefs gefallen sind. Die Version ihres Gründers, also die öffentliche Version der Grafikkarte, kann derzeit im selbst betriebenen Store von JD.com mit einem Gutschein im Wert von 200 Yuan erhalten werden Preise von 4.599 Yuan und 2.999 Yuan. Wenn Sie Drittanbieter-Shops in Betracht ziehen, fallen natürlich niedrigere Preise an. In Bezug auf die Parameter verfügt die RTX4070-Grafikkarte über einen 5888CUDA-Kern, verwendet 12 GBGDDR6X-Speicher und eine Bitbreite von 192 Bi
Das NVIDIA-Dialogmodell ChatQA wurde auf Version 2.0 weiterentwickelt, wobei die angegebene Kontextlänge 128 KB beträgt
Jul 26, 2024 am 08:40 AM
Die offene LLM-Community ist eine Ära, in der hundert Blumen blühen und konkurrieren. Sie können Llama-3-70B-Instruct, QWen2-72B-Instruct, Nemotron-4-340B-Instruct, Mixtral-8x22BInstruct-v0.1 und viele andere sehen hervorragende Darsteller. Allerdings weisen offene Modelle im Vergleich zu den proprietären Großmodellen GPT-4-Turbo in vielen Bereichen noch erhebliche Lücken auf. Zusätzlich zu allgemeinen Modellen wurden einige offene Modelle entwickelt, die sich auf Schlüsselbereiche spezialisieren, wie etwa DeepSeek-Coder-V2 für Programmierung und Mathematik und InternVL für visuelle Sprachaufgaben.
„AI Factory' wird die Neugestaltung des gesamten Software-Stacks vorantreiben, und NVIDIA stellt Llama3-NIM-Container für die Bereitstellung durch Benutzer bereit
Jun 08, 2024 pm 07:25 PM
Laut Nachrichten dieser Website vom 2. Juni stellte Huang Renxun bei der laufenden Keynote-Rede von Huang Renxun 2024 Taipei Computex vor, dass generative künstliche Intelligenz die Neugestaltung des gesamten Software-Stacks fördern wird, und demonstrierte seine cloudnativen Mikrodienste NIM (Nvidia Inference Microservices). . Nvidia glaubt, dass die „KI-Fabrik“ eine neue industrielle Revolution auslösen wird: Am Beispiel der von Microsoft vorangetriebenen Softwareindustrie glaubt Huang Renxun, dass generative künstliche Intelligenz deren Umgestaltung im gesamten Stack vorantreiben wird. Um die Bereitstellung von KI-Diensten durch Unternehmen jeder Größe zu erleichtern, hat NVIDIA im März dieses Jahres die cloudnativen Mikrodienste NIM (Nvidia Inference Microservices) eingeführt. NIM+ ist eine Suite cloudnativer Mikroservices, die darauf optimiert sind, die Markteinführungszeit zu verkürzen
Warum ist Vanar Chain nach mehreren Transformationen und der Zusammenarbeit mit dem KI-Riesen Nvidia innerhalb von 30 Tagen um das 4,6-fache gestiegen?
Mar 14, 2024 pm 05:31 PM
In letzter Zeit hat die Layer-1-Blockchain VanarChain aufgrund ihrer hohen Wachstumsrate und der Zusammenarbeit mit dem KI-Riesen NVIDIA die Aufmerksamkeit des Marktes auf sich gezogen. Hinter der Popularität von VanarChain stehen nicht nur zahlreiche Markentransformationen, sondern auch beliebte Konzepte wie Hauptspiele, Metaverse und KI, die dem Projekt viel Popularität und Themen eingebracht haben. Vor seiner Umwandlung wurde Vanar, ehemals TerraVirtua, im Jahr 2018 als Plattform gegründet, die kostenpflichtige Abonnements unterstützte, Inhalte für Virtual Reality (VR) und Augmented Reality (AR) bereitstellte und Zahlungen in Kryptowährung akzeptierte. Die Plattform wurde von den Mitbegründern Gary Bracey und Jawad Ashraf erstellt, wobei Gary Bracey über umfangreiche Erfahrung in der Produktion und Entwicklung von Videospielen verfügt.
TrendForce: Nvidias Blackwell-Plattformprodukte sorgen dafür, dass die CoWoS-Produktionskapazität von TSMC in diesem Jahr um 150 % steigt
Apr 17, 2024 pm 08:00 PM
Laut Nachrichten dieser Website vom 17. April hat TrendForce kürzlich einen Bericht veröffentlicht, in dem es davon ausgeht, dass die Nachfrage nach den neuen Blackwell-Plattformprodukten von Nvidia optimistisch ist und die gesamte CoWoS-Verpackungsproduktionskapazität von TSMC im Jahr 2024 voraussichtlich um mehr als 150 % steigen wird. Zu den neuen Blackwell-Plattformprodukten von NVIDIA gehören GPUs der B-Serie und GB200-Beschleunigerkarten, die NVIDIAs eigene GraceArm-CPU integrieren. TrendForce bestätigt, dass die Lieferkette derzeit sehr optimistisch in Bezug auf GB200 ist. Es wird geschätzt, dass die Auslieferungen im Jahr 2025 eine Million Einheiten überschreiten werden, was 40-50 % der High-End-GPUs von Nvidia ausmacht. Nvidia plant, in der zweiten Jahreshälfte Produkte wie GB200 und B100 auszuliefern, aber vorgelagerte Waferverpackungen müssen noch komplexere Produkte einführen.
