Der wachsende Bedarf an weltweitem KI-Inferenzstromverbrauch kann durch den Bau von zwei neuen Kernkraftwerken gedeckt werden

王林
Freigeben: 2023-11-14 19:37:14
nach vorne
690 Leute haben es durchsucht

IT House News am 14. November: Meta Generative Artificial Intelligence Engineering Director Sergey Edunov teilte kürzlich auf dem Silicon Valley Digital Workers Forum seine Prognosen zur Nachfrage nach künstlicher Intelligenz mit. Er ist davon überzeugt, dass der neue weltweite Bedarf an künstlicher Intelligenz im nächsten Jahr durch die Stromerzeugung von nur zwei Kernkraftwerken gedeckt werden kann, wenn ein Sprachmodell in angemessenem Maßstab verwendet wird.

Der wachsende Bedarf an weltweitem KI-Inferenzstromverbrauch kann durch den Bau von zwei neuen Kernkraftwerken gedeckt werden

Bildquelle: Pexels

Das Denken mit künstlicher Intelligenz bezieht sich auf die Verwendung bereits trainierter Modelle künstlicher Intelligenz, um verschiedene Aufgaben in tatsächlichen Szenarien auszuführen, z. B. das Generieren von Text, das Beantworten von Fragen, das Erkennen von Bildern usw. Edunov sagte, er habe einfache mathematische Berechnungen verwendet, um den Stromverbrauch des globalen Inferenzbedarfs im nächsten Jahr abzuschätzen. Er geht davon aus, dass es im nächsten Jahr weltweit 1 bis 2 Millionen neue Nvidia H100-Grafikprozessoren mit einer Leistung von jeweils etwa 1 Kilowatt geben wird. Wenn jeder Prozessor 24 Stunden am Tag läuft, kann jede Person 100.000 „Tokens“ pro Tag generieren. Er glaubt, dass dieser Stromverbrauch im menschlichen Maßstab vertretbar ist. Die Welt braucht nur zwei neue Atomkraftwerke, um genügend Strom bereitzustellen

Allerdings stellte IT House fest, dass Edunov auch darauf hinwies, dass die Entwicklung künstlicher Intelligenz mit einigen Herausforderungen und Einschränkungen konfrontiert sei. Eine davon ist die Frage des Datenvolumens. Derzeit sind für das Training von Modellen der künstlichen Intelligenz große Datenmengen erforderlich, öffentliche Internetdaten reichen jedoch nicht mehr aus, um das Training von Modellen der nächsten Generation zu unterstützen. Das Modell der nächsten Generation erfordert möglicherweise die zehnfache Datenmenge, was mehr professionelle Domänendaten oder mehr multimodale Daten wie Video, Audio usw. bedeutet. Eine weitere Herausforderung sind Probleme in der Lieferkette. Aufgrund der knappen weltweiten Chipproduktionskapazität wird auch die Geschwindigkeit der Verbesserung von Modellen der künstlichen Intelligenz beeinträchtigt. Daher arbeiten Forscher daran, die Modelleffizienz zu verbessern und die Abhängigkeit von Daten und Hardware zu verringern. Salesforce hat beispielsweise eine Technologie namens Blib-2 entwickelt, die die Modellgröße automatisch anpassen und das Modell entsprechend unterschiedlichen Aufgaben und Ressourcenanforderungen dynamisch verkleinern oder erweitern kann

Nach allgemeiner Meinung von Branchenexperten werden Sprachmodelle in den nächsten zwei Jahren einen enormen Mehrwert für Unternehmen bringen. Edunov prognostiziert, dass wir innerhalb von drei bis vier Jahren wissen werden, ob die aktuelle Technologie in der Lage ist, allgemeine künstliche Intelligenz zu erreichen

Das obige ist der detaillierte Inhalt vonDer wachsende Bedarf an weltweitem KI-Inferenzstromverbrauch kann durch den Bau von zwei neuen Kernkraftwerken gedeckt werden. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Verwandte Etiketten:
Quelle:sohu.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage