Metas selbst entwickelter KI-Chip macht Fortschritte: Der erste KI-Chip wird 2025 auf den Markt kommen, außerdem wird es einen Video-KI-Chip geben

Nachrichten vom 19. Mai, laut ausländischen Medien Techcrunch, hat die Facebook-Muttergesellschaft Meta heute Morgen in einer Online-Veranstaltung zum ersten Mal den Fortschritt ihres selbst entwickelten KI-Chips bekannt gegeben, der ihr kürzlich eingeführtes Werbedesign und ihre Generierung unterstützen kann KI-Technologie für kreative Werkzeuge.

△Meta-CEO Zuckerberg präsentiert den ersten selbst entwickelten KI-Chip MTIA

Meta-Vizepräsident für Infrastruktur Alexis Bjorlin sagte: „Der Aufbau unserer eigenen [Hardware-]Fähigkeiten gibt uns die Kontrolle über jede Ebene des Stacks, vom Rechenzentrumsdesign bis zum Schulungsrahmen. Das ist nötig.“ Dieses Maß an vertikaler Integration kann die Grenzen der Forschung im Bereich der künstlichen Intelligenz in großem Maßstab sprengen.“

Der erste selbst entwickelte KI-Chip MTIA

Im letzten Jahrzehnt oder so hat Meta Milliarden von Dollar ausgegeben, um Top-Datenwissenschaftler zu rekrutieren und neue Arten künstlicher Intelligenz zu entwickeln, darunter jetzt auch für die Discovery-Engine, Moderationsfilter und Werbeempfehlungen in seinen Apps und Diensten, die auf künstlicher Intelligenz basieren durch den Server. Dieses Unternehmen ist bestrebt, seine vielen ehrgeizigen Innovationen in der KI-Forschung in Produkte umzusetzen, insbesondere im Bereich der generativen KI.

Seit 2016 entwickeln führende Internetunternehmen aktiv Cloud-KI-Chips. Google hat selbst entwickelte KI-Chips namens Tensor Processing Units (TPU) entworfen und eingesetzt, um generative KI-Systeme wie PaLM-2, Imagen usw. zu trainieren. Amazon stellt AWS-Kunden zwei selbst entwickelte KI-Chips zur Verfügung: AWS Trainium und AWS Inferentia-Chip zur Anwendung. Gerüchten zufolge arbeitet Microsoft auch mit AMD zusammen, um einen KI-Chip namens Athena zu entwickeln.

Zuvor hatte Meta hauptsächlich eine Kombination aus CPUs von Drittanbietern und benutzerdefinierten Chips verwendet, um KI-Algorithmen für die Ausführung seiner KI-Arbeitslasten zu beschleunigen – CPUs sind bei der Bewältigung solcher Aufgaben tendenziell weniger effizient als GPUs. Um die Situation zu ändern, entwickelte Meta im Jahr 2020 seinen selbst entwickelten KI-Chip MTIA (MTIA v1) der ersten Generation auf Basis des 7-nm-Prozesses.

Meta nennt den KI-Chip Meta Training and Inference Accelerator (MTIA) und beschreibt ihn als Teil einer „Familie“ von KI-Chips, die die Arbeitsbelastung von KI-Training und Inferenz beschleunigen. Ein MTIA ist ein ASIC, ein Chip, der verschiedene Schaltkreise auf einem einzigen Substrat vereint und so programmiert werden kann, dass er eine oder mehrere Aufgaben parallel ausführt.

„Um bei unseren kritischen Arbeitslasten ein höheres Maß an Effizienz und Leistung zu erreichen, brauchten wir eine maßgeschneiderte Lösung, die gemeinsam mit dem Modell, dem Software-Stack und der Systemhardware entwickelt wurde, um unseren Benutzern eine Vielzahl von Diensten zu ermöglichen. Ein besseres Erlebnis.“ Björlin erklärte es.

Laut Einführung wird MTIA v1 im 7-nm-Verfahren hergestellt und sein interner 128-MB-Speicher kann auf bis zu 128 GB erweitert werden. Meta sagte, dass MTIA speziell für Arbeiten im Zusammenhang mit KI-Empfehlungssystemen verwendet werden kann und Benutzern dabei hilft, den besten Beitragsinhalt zu finden und ihn den Benutzern schneller zu präsentieren, und dass seine Rechenleistung und Verarbeitungseffizienz besser als die der CPU sind. Darüber hinaus ist MTIA im Benchmark-Test des Meta-Designs auch bei der Verarbeitung von KI-Modellen mit „niedriger Komplexität“ und „mittlerer Komplexität“ effizienter als die GPU.

Meta sagte, dass in den Speicher- und Netzwerkbereichen der MTIA-Chips noch einiges an Arbeit zu erledigen sei, was mit zunehmender Größe der KI-Modelle zu Engpässen führen werde und eine Verteilung der Arbeitslast auf mehrere Chips erforderlich machen werde. Zu diesem Zweck hat Meta kürzlich das KI-Netzwerktechnologieteam des in Oslo ansässigen britischen Chip-Einhorns Graphcore übernommen. Derzeit konzentriert sich MTIA mehr auf Inferenzfunktionen als auf Trainingsfunktionen für die „empfohlenen Arbeitslasten“ der Meta-Anwendungsfamilie.

Meta betonte, dass es MTIA weiter verbessern und die Effizienz des Unternehmens in Bezug auf die Leistung pro Watt bei der Ausführung der empfohlenen Workloads „dramatisch“ verbessern werde – was Meta wiederum ermöglichen würde, „verbesserte“ und „modernste“ künstliche Intelligenz auszuführen Arbeitsbelastung.

Dem Plan zufolge wird Meta seinen selbst entwickelten MTIA-Chip im Jahr 2025 offiziell auf den Markt bringen.

Metas KI-Supercomputer RSC

Berichten zufolge plante Meta ursprünglich, im Jahr 2022 eine groß angelegte Einführung seiner selbst entwickelten maßgeschneiderten KI-Chips zu starten, verzögerte diese jedoch letztendlich und bestellte stattdessen den Supercomputer Research SuperCluster (RSC GPU) von Nvidia im Wert von mehreren Milliarden Dollar , was eine umfassende Neugestaltung seiner zahlreichen Rechenzentren erforderte.

Berichten zufolge debütierte RSC im Januar 2022, wurde in Zusammenarbeit mit Penguin Computing, Nvidia und Pure Storage zusammengestellt und hat die zweite Expansionsphase abgeschlossen. Meta gibt an, dass es jetzt insgesamt 2.000 Nvidia DGX A100-Systeme enthält, die mit 16.000 Nvidia A100-GPUs ausgestattet sind.

Obwohl die aktuelle Rechenleistung von RSC hinter den KI-Supercomputern von Microsoft und Google zurückbleibt. Google behauptet, dass sein KI-fokussierter Supercomputer von 26.000 Nvidia H100-GPUs angetrieben wird. Meta weist darauf hin, dass der Vorteil von RSC darin besteht, dass Forscher damit Modelle anhand tatsächlicher Beispiele aus den Produktionssystemen von Meta trainieren können. Im Gegensatz zur früheren KI-Infrastruktur des Unternehmens, die Open Source und öffentlich verfügbare Datensätze nutzte, ist diese Infrastruktur jetzt verfügbar.

RSC-KI-Supercomputer treiben die KI-Forschung in mehreren Bereichen, einschließlich generativer KI, voran und verschieben die Grenzen der Forschung. „Hier geht es wirklich um die Produktivität der KI-Forschung“, sagte ein Meta-Sprecher. Wir möchten KI-Forschern eine hochmoderne Infrastruktur zur Verfügung stellen, die es ihnen ermöglicht, Modelle zu entwickeln, und ihnen eine Trainingsplattform zur Weiterentwicklung der KI bieten.

Meta behauptet, dass RSC auf seinem Höhepunkt eine Rechenleistung von fast 5 Exaflops erreichen könnte, was es zu einem der schnellsten der Welt macht.

Meta verwendet RSC für das LLaMA-Training, wobei sich RSC auf das Akronym für „Large Scale Language Model Meta Artificial Intelligence“ bezieht. Laut Meta wurde das größte LLaMA-Modell auf 2.048 A100-GPUs trainiert und dauerte 21 Tage.

„Der Aufbau unserer eigenen Supercomputing-Fähigkeiten gibt uns die Kontrolle über jede Ebene des Stacks; vom Rechenzentrumsdesign bis hin zu Trainings-Frameworks“, fügte ein Meta-Sprecher hinzu: „RSC wird den KI-Forschern von Meta helfen, neue und bessere KI-Modelle zu entwickeln, die von Billionen von lernen können.“ Beispiele; Arbeiten Sie in Hunderten von verschiedenen Sprachen zusammen, um neue Augmented-Reality-Tools zu entwickeln

In Zukunft könnte Meta seinen selbst entwickelten KI-Chip MTIA in RSC einführen, um seine KI-Leistung weiter zu verbessern.

KI-Chip MSVP für die Videoverarbeitung

Neben MTIA entwickelt Meta auch selbst einen weiteren KI-Chip namens Meta Scalable Video Processor (MSVP), der hauptsächlich darauf ausgelegt ist, den wachsenden Datenverarbeitungsanforderungen von Video-on-Demand und Live-Streaming gerecht zu werden Die stabile Verarbeitung von Audio- und Videoinhalten wird von MSVP durchgeführt.

Tatsächlich begann Meta vor vielen Jahren mit der Konzeption benutzerdefinierter serverseitiger Videoverarbeitungschips und kündigte 2019 die Einführung von ASICs für Videotranskodierung und Inferenzarbeit an. Dies ist der Höhepunkt einiger dieser Bemühungen und ein neuer Anstoß für Wettbewerbsvorteile. Vor allem im Bereich Live-Video-Streaming.

„Allein auf Facebook verbringen Menschen 50 % ihrer Zeit damit, Videos anzusehen“, schrieben die technischen Direktoren von Meta, Harikrishna Reddy und Yunqing Chen, in einem Blogbeitrag, der am Morgen des 19. veröffentlicht wurde: „Um Menschen auf der ganzen Welt zu bedienen, werden Videos hochgeladen.“ Facebook oder Instagram werden in mehrere Bitströme mit unterschiedlichen Kodierungsformaten, Auflösungen und Qualitäten für verschiedene Geräte (Mobiltelefon, Laptop, Fernseher usw.) transkodiert. MSVP ist programmierbar und skalierbar und kann so konfiguriert werden, dass es die erforderliche hochwertige Transkodierung effizient unterstützt VOD sowie die für Live-Streaming erforderliche geringe Latenz und schnellere Verarbeitungszeiten.“

△MSVP

Meta sagt, sein Plan bestehe darin, die meisten „stabilen und ausgereiften“ Videoverarbeitungs-Workloads irgendwann auf MSVP auszulagern und Software-Videokodierung nur für Workloads zu verwenden, die spezifische Anpassungen und „deutlich“ höhere Qualität erfordern. Laut Meta werden wir die Videoqualität mit MSVP weiter verbessern, indem wir Vorverarbeitungsmethoden wie intelligente Rauschunterdrückung und Bildverbesserung sowie Nachbearbeitungsmethoden wie Artefaktentfernung und Superauflösung einsetzen.

„MSVP wird es uns in Zukunft ermöglichen, mehr der wichtigsten Anwendungsfälle und Bedürfnisse von Meta zu unterstützen, einschließlich Kurzvideos – und so eine effiziente Bereitstellung generativer KI, AR/VR und anderer Metaverse-Inhalte zu ermöglichen“, sagten Reddy und Chen.

Herausgeber: Core Intelligence – Rurouni Sword

Das obige ist der detaillierte Inhalt vonMetas selbst entwickelter KI-Chip macht Fortschritte: Der erste KI-Chip wird 2025 auf den Markt kommen, außerdem wird es einen Video-KI-Chip geben. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!