Lassen Sie KI überall sein! Intel bringt neue VPU auf den Markt: Ultrahohe Energieeffizienz überwältigt die GPU

KI, künstliche Intelligenz, das ist eigentlich gar nichts Neues.

Von den Science-Fiction-Werken in den Anfangsjahren bis zur schrittweisen Umsetzung später, vom IBM-Supercomputer „Deep Blue“, der den Schachmeister Kasparov im Jahr 1997 besiegte, bis hin zum Sieg von Google AlphaGo über den Go-Champion Lee Sedol im Jahr 2016 hat die KI Fortschritte gemacht entwickelt sich auch ständig weiter.

Allerdings fühlte sich KI aufgrund verschiedener Einschränkungen bei der Rechenleistung, den Algorithmen, den technischen Möglichkeiten, den Anwendungsszenarien usw. immer wie ein Luftschloss an.

Erst mit dem Aufkommen von ChatGPT hat KI die Begeisterung der einfachen Leute wirklich geweckt. Wir haben herausgefunden, dass KI so leistungsstark und so leicht verfügbar ist, dass viele Einzelpersonen und Unternehmen begeistert und verrückt danach sind.

Wie wir alle wissen, sind ausreichend leistungsstarke und vernünftige Hardware und Algorithmen die beiden Eckpfeiler für die Realisierung einer effizienten und praktischen KI. In diesem KI-Boom ist NVIDIA im Laufe der Jahre sehr stolz auf seinen Erfolg im Bereich Hochleistungsrechnen und Tiefenkultivierung eignen sich sehr gut für die Entwicklung von Cloud-KI in großem Maßstab.

Natürlich ist KI hinsichtlich der Implementierungsmethoden und Anwendungsszenarien vielfältig, sowohl auf der Cloud-Seite als auch auf der Geräteseite.

NVIDIAs Fokus liegt auf der Cloud-seitigen und generativen KI. Intel greift sowohl die cloudseitige generative als auch die geräteseitige Beurteilung an. Da immer mehr KI auf dem Gerät ausgeführt wird, kommt es der täglichen Erfahrung normaler Benutzer näher in der Zukunft werden immer offensichtlicher und Intel hat noch viel zu tun.

Geräteseitige KI verfügt über mehrere herausragende Funktionen:

Erstens ist die Nutzerbasis riesig und die Anwendungsszenarien werden immer umfangreicher

Zweitens ist die Latenzzeit sehr gering. Schließlich besteht keine Notwendigkeit, sich auf das Netzwerk zu verlassen, um Anweisungen und Daten zur Verarbeitung in die Cloud und dann zurück zu übertragen

Drittens Privatsphäre und Sicherheit: Sie müssen sich keine Sorgen machen, dass nach dem Hochladen persönliche Daten, Geschäftsgeheimnisse usw. preisgegeben werden

Viertens sind die Kosten geringer. Es sind keine großen Server und Berechnungen erforderlich und es kann nur mit lokaler Ausrüstung durchgeführt werden.

KI auf dem Gerät mag für Sie seltsam klingen, aber tatsächlich

Hintergrundunschärfe, visuelle Verschönerung, Klangverschönerung (Reduzierung von Audiorauschen), Reduzierung von Videorauschen, Bildsegmentierung usw., an die die Menschen gewöhnt sind, sind alle KI auf dem Gerät Typische Anwendungsszenarien: KI arbeitet hinter den Kulissen hart.

Wenn diese Anwendungen bessere Ergebnisse erzielen wollen, benötigen sie vollständigere und komplexere Netzwerkmodelle, und der Bedarf an Rechenleistung wächst natürlich schnell.

Für die Rauschunterdrückung ist beispielsweise der Rechenleistungsbedarf um das 50-fache höher als vor zwei Jahren, und auch die Hintergrundsegmentierung hat sich um mehr als das Zehnfache erhöht.

Ganz zu schweigen davon, dass nach dem Aufkommen generativer KI-Modelle der Bedarf an Rechenleistung sprunghaft zugenommen hat, und zwar direkt um Größenordnungen. Unabhängig davon, ob es sich um stabile Diffusion oder sprachbasiertes GTP handelt, sind die Modellparameter stark übertrieben.

Zum Beispiel hat die Anzahl der Parameter von GPT3 etwa 175 Milliarden erreicht, was fast 500-mal mehr ist als die von GPT2, die schätzungsweise die Billionengrenze erreicht.

Sie alle stellen strengere Anforderungen an Hardware und Algorithmen.

Intel widmet sich natürlich schon seit langem der KI und investiert in sie. Ob Xeon auf Serverebene oder Core auf Verbraucherebene, der Begriff „intelligenter Core-Prozessor der 20. Generation“ lautet Es kommt zu einem großen Teil von der KI.

Zuvor wurden die KI-Lösungen von Intel hauptsächlich auf der Architektur- und Befehlssatzebene von CPU und GPU beschleunigt.

Zum Beispiel der auf Deep Learning basierende DL Boost

, der vom Core der 10. Generation und dem skalierbaren Xeon der 2. Generation hinzugefügt wurde, einschließlich Anweisungen für VNNI-Vektor-Neuronale Netzwerke, BF16/INT8-Beschleunigung usw.

Zum Beispiel entspricht der dem Core der 11. Generation hinzugefügte Gaussian Network Accelerator GNA 2.0

der Rolle einer NPU. Er verbraucht nur sehr geringe Ressourcen und kann neuronale Inferenzberechnungen effizient durchführen.

Zum Beispiel hat die AMX Advanced Matrix Extension

auf dem skalierbaren Xeon der vierten Generation mit dem Codenamen Sapphire Rapids die KI-Echtzeit-Schlussfolgerungs- und Trainingsleistung um das bis zu Zehnfache verbessert und die Verarbeitungsgeschwindigkeit großer Sprachmodelle wurde erhöht Gleichzeitig ist die unterstützende Software- und Toolentwicklung umfassender und umfangreicher.

Nach Ansicht von Intel gibt es keine einzige Hardware-Architektur, die für alle KI-Szenarien geeignet ist

, einige verfügen über eine leistungsstarke Rechenleistung, andere über eine extrem niedrige Latenz, einige sind vielseitig einsetzbar und andere sind spezialisiert.

Als Infrastruktur hat KI auch verschiedene Szenarioanwendungen und Anforderungen mit unterschiedlichen Lasten und Verzögerungen. Beispielsweise erfordern Echtzeit-Sprach- und Bildverarbeitung keine große Rechenleistung, reagieren jedoch sehr empfindlich auf Verzögerungen.

Zu diesem Zeitpunkt bietet Intels XPU-Strategie sehr gezielte besondere Vorteile: Die CPU eignet sich für verzögerungsempfindliche, leichte KI-Verarbeitung und die GPU eignet sich für hochlastige, hochparallele KI-Anwendungen.

Ein weiterer beispielloser Vorteil von Intel ist sein stabiles und riesiges x86-Ökosystem, das unabhängig von Anwendung oder Entwicklung über eine breite Massenbasis verfügt.

Jetzt hat Intel wieder VPU.

Meteor Lake, das später in diesem Jahr veröffentlicht wird, wird erstmals eine unabhängige VPU-Einheit integrieren und bei allen Modellen Standard sein, wodurch bestimmte KI-Operationen effizienter ausgeführt werden können.

Die technische Quelle der Intel VPU-Einheit stammt vom KI-Start-up Movidius, das 2017 von Intel übernommen wurde. Die von ihm entwickelte VPU-Architektur ist revolutionär. Sie benötigt nur 1,5 W Stromverbrauch, um eine leistungsstarke Rechenleistung von 4TOPS zu erreichen. Das Energieeffizienzverhältnis ist einfach überwältigend. Es wurde zum ersten Mal zur Vermeidung von Drohnenhindernissen usw. verwendet und ist jetzt im Prozessor angekommen und arbeitet in Verbindung mit der CPU und der GPU.

VPU ist im Wesentlichen eine neue Architektur, die für KI entwickelt wurde. Sie kann einige Matrixoperationen effizient ausführen und eignet sich besonders gut für die sparsame Verarbeitung. Ihr extrem geringer Stromverbrauch und ihre extrem hohe Energieeffizienz eignen sich sehr gut für einige Anwendungen, die geöffnet werden müssen Szenarien wie Hintergrundunschärfe und -entfernung für Videokonferenzen und Gestensteuerung für Streaming-Medien werden über einen längeren Zeitraum ausgeführt.

Der Grund, warum wir eine VPU bauen müssen, wenn wir bereits über eine CPU und eine GPU verfügen, ist, dass Intels Ausgangspunkt darin besteht, dass viele Endanwendungen jetzt auf Notebooks ausgeführt werden, die sehr empfindlich auf die Akkulaufzeit reagieren. Effizienz VPU ist für mobile Geräte genau richtig.

Ein weiterer Faktor ist, dass CPU und GPU als allgemeine Computerplattformen selbst schwere Aufgaben haben. Wenn ihnen eine große Menge an KI-Last hinzugefügt wird, wird die Ausführungseffizienz stark reduziert.

Auch im Hinblick auf konkrete Anwendungsszenarien ist VPU sehr breit gefächert. Beispielsweise kann die aktuelle CPU-KI bereits automatisches Framing (Auto-Framing), Eye-Tracking, virtuelle Avatare/Porträts, Gestenerkennung usw. implementieren.

Nachdem Sie eine VPU mit geringem Stromverbrauch und hoher Rechenleistung hinzugefügt haben, können Sie auch die Hintergrundunschärfe, die dynamische Rauschunterdrückung und andere Verarbeitungen verbessern, um den Effekt präziser zu gestalten, wenn sie beispielsweise unscharf sein sollen , und menschliche Hände/Haare sollten nicht mehr verschwommen sein.

Mit effizienter Hardware und geeigneten Szenarien ist eine ebenso effiziente Software erforderlich, um ihre volle Stärke zu entfalten und die besten Ergebnisse zu erzielen. Für Intel, das Zehntausende von Softwareentwicklern hat, ist das wirklich kein Problem.

Meteor Lake wurde noch nicht offiziell veröffentlicht. Intel hat bei der VPU-Anpassung mit vielen ökologischen Partnern zusammengearbeitet, und auch unabhängige Softwareentwickler sind sehr aktiv.

Zum Beispiel Adobe, viele Filter, automatisierte Verarbeitung, intelligente Ausschnitte usw. können mit VPU ausgeführt werden.

Zum Beispiel können die digitalen Personen der Unreal Engine, wie virtuelle Anker und VPU, sehr gut in Echtzeit erfassen und rendern.

Blender, Audacity, OBS, GIMP ... die Liste kann lang sein und sie wächst ständig.

Noch wichtiger ist, dass CPU, GPU und VPU nicht ihr eigenes Ding machen, sondern kombiniert werden können, um ihre jeweiligen Vorteile voll auszuschöpfen und das beste KI-Erlebnis zu erzielen.

Zum Beispiel gibt es in GIMP ein auf Stable Diffusion basierendes Plug-in, das die Schwelle für die Verwendung generativer KI für normale Benutzer erheblich senken kann. Es kann die Beschleunigungsfähigkeiten von CPU, GPU und VPU vollständig mobilisieren und das Ganze verteilen Modell zwischen verschiedenen IPs, kooperieren miteinander, um die beste Leistung zu erzielen.

Unter anderem kann die VPU das VNET-Modul hosten und die GPU ist für die Ausführung des Encodermoduls verantwortlich. Durch diese Zusammenarbeit dauert es nur etwa 20 Sekunden, ein komplexes Bild zu generieren.

Unter diesen ist der Stromverbrauch der VPU am niedrigsten, gefolgt von der CPU und der GPU am höchsten.

Intel hat die Bedeutung von KI für die Verbesserung des PC-Erlebnisses voll und ganz erkannt. Um dieser Herausforderung gerecht zu werden, unternimmt Intel alle Anstrengungen, um die Entwicklung und Popularisierung von KI sowohl auf Hardware- als auch auf Softwareebene voranzutreiben und eine solide Grundlage für die Entwicklung zu legen Popularisierung von KI auf der Geräteseite.

Auf der Hardwareebene werden CPU, GPU und VPU eine allgegenwärtige zugrunde liegende Plattform bilden. Auf der Softwareebene werden verschiedene standardisierte Entwicklungssoftware wie OpenVINO die Erforschung von Anwendungsszenarien erheblich fördern.

In Zukunft können dünne und leichte Notebooks, die mit der Meteor-Lake-Plattform ausgestattet sind, problemlos große Modelle wie Stable Diffusion ausführen, um Vincentsche Diagramme zu realisieren, wodurch die Anwendungsschwelle von KI erheblich reduziert wird. Sowohl Entscheidungs-KI als auch generative KI können ausgeführt werden effizient, letztendlich echte KI zu erreichen, ist überall.

Das obige ist der detaillierte Inhalt vonLassen Sie KI überall sein! Intel bringt neue VPU auf den Markt: Ultrahohe Energieeffizienz überwältigt die GPU. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!