Verwenden Sie fliegende Paddel, um die Produktion großer Modelle aus einer Hand zu bewältigen. Das PaddleFleetX-Entwicklungskit für große Modelle ist das erste in der Branche.

Am 30. November fand wie geplant der WAVE SUMMIT+2022 Deep Learning Developer Summit statt, der vom National Engineering Research Center for Deep Learning Technology and Applications und von Baidu Fei Paddle ausgerichtet wurde. Auf dem Gipfel stellte Ma Yanjun, General Manager des Baidu AI Technology Ecosystem, die neueste Technologie und den ökologischen Fortschritt der Paddle Deep Learning-Plattform vor. Das neu veröffentlichte Paddle Open Source Framework Version 2.4 brachte das branchenweit erste End-to-End-Entwicklungskit für große Modelle, PaddleFleetX. Durch die Vereinigung von 12 ökologischen Hardware-Partnern wurde die ökologische Release-Version von Flying Paddle veröffentlicht, und die Lern- und Schulungsgemeinschaft von AI Studio wurde aktualisiert, um Unternehmensschulungen und ökologische heterogene Rechenzentren usw. einzuführen. Diese Reihe von Maßnahmen markiert, dass Feipiao seine KI-Technologiebasis weiter festigt und die industrielle Integration und Innovation weiter vertieft.

Bild: Ma Yanjun, General Manager des Baidu AI Technology Ecosystem, teilte die neueste Version der Flying Paddle-Plattform mit

Die Flying Paddle Open-Source-Framework-Version 2.4 wurde veröffentlicht und optimiert weiterhin die Leistung mit zugrunde liegender Technologieinnovation

Mit der Version 2.4 des Flying Paddle-Upgrades ist die Framework-Entwicklung flexibler und bequemer, das verteilte Training in großem Maßstab ist weiterhin führend und eine leistungsstarke Inferenzbereitstellung in allen Szenarien wird erreicht.

In Bezug auf die Entwicklung wurden in Version 2.4 des Open-Source-Frameworks Flying Paddle mehr als 160 APIs für wichtige Szenarien wie Sparse Computing und Graph Learning hinzugefügt, und der Schwellenwert und die Kosten für die API-Entwicklung wurden erheblich gesenkt Die Hälfte der neu hinzugefügten APIs, diesmal 3 Beiträge von Ökosystementwicklern. Als Reaktion auf die Anforderungen von KI für wissenschaftliche Szenarien implementiert Version 2.4 eine allgemeine automatische Differenzierungsfunktion höherer Ordnung, um Anwendungen im Zusammenhang mit wissenschaftlichem Rechnen besser zu unterstützen. Gleichzeitig hat Flying Paddle die Skalierbarkeit und Einsatzflexibilität der dynamischen zu statischen Kerntechnologie umfassend verbessert. Die dynamische zu statische Erfolgsquote des neuen Modells erreicht 92 %, wodurch die jeweiligen Vorteile von dynamisch und statisch voll ausgeschöpft werden Bilder.

In Bezug auf das Training wurde Version 2.4 neu aktualisiert und die GPU-basierte Ultra-Large-Scale-Graph-Modell-Trainings-Engine PGLBox eingeführt, die als erste in der Branche eine integrierte Graph-Lernlösung implementiert, die gleichzeitig komplexe Algorithmen unterstützen kann , ultragroße Diagramme und ultragroße diskrete Modelle. Darüber hinaus wurde die verteilte Kommunikationsleistung von Fei Paddle bis zum Äußersten optimiert und bietet ein umfassendes und reichhaltiges System zur Optimierung der verteilten Trainingsleistung für das Training großer Modelle. Auf dieser Grundlage hat Fei Paddle zweimal den international anerkannten KI-Trainings-Benchmark-Test gewonnen eine Reihe in diesem Jahr Nr. 1 auf der MLPerf-Trainingsliste.

Als „letzte Meile“ der KI-Implementierung in der Branche ist der Inferenz- und Bereitstellungsprozess des Modells sehr wichtig. Erstens unterstützt Version 2.4 des Open-Source-Frameworks Flying Paddle Funktionen wie adaptive Modellsegmentierung und verteiltes Denken. Mithilfe der dynamischen und statischen Fähigkeiten des Flying Paddle-Frameworks kann eine automatische Tiefenfusion erreicht werden und Hochleistungsoptimierung, die große Modellanwendungen vollständig unterstützt. Um die drei Hauptprobleme bei der Implementierung von KI-Anwendungen grundlegend zu lösen: Szenenfragmentierung, hohe Entwicklungskosten und langsame Inferenzgeschwindigkeit, hat Feipiao gleichzeitig FastDeploy eingeführt, ein leistungsstarkes KI-Bereitstellungstool für vollständige Szenarien. Dies bietet eine Komplettlösung für End-, Edge- und Cloud-Multiszenario-, Multi-Framework- und Multi-Hardware-Bereitstellungsanforderungen. Sie verfügen nicht nur über ein einheitliches API-Design und sind einfach und benutzerfreundlich, sondern unterstützen auch eine tiefe Verknüpfung zwischen automatisierter Komprimierung und leistungsstarke Inferenz-Engines, die die Vorteile integrierter Software und Hardware voll ausschöpfen können und über eine branchenführende Inferenzleistung verfügen und optimale Lösungen für die Implementierung von KI-Industrieanwendungen bieten.

Weitere Senkung der Anwendungsschwelle und Beschleunigung der Implementierung von KI-Anwendungen

Die Anwendung großer Modelle kann die Schwelle für KI-Anwendungen senken, aber die Entwicklungs-, Trainings-, Inferenz- und Bereitstellungsprozesse großer Modelle stellen immer noch große Herausforderungen dar. Um die Implementierung großer Modellanwendungen besser zu unterstützen, hat PaddleFleet neu PaddleFleetX veröffentlicht, ein End-to-End-Entwicklungskit für große Modelle. Paddle Fleet Training und Debugging von Multi-Cloud-Umgebungen. Gleichzeitig erfolgt der quantitative Einsatz der Paddelflotte.

Auf diesem Gipfel wurde die Anzahl der Open-Source-Algorithmen in der Open-Source-Modellbibliothek auf industrieller Ebene von Flying Paddle auf mehr als 600 erhöht und deckt gängige Aufgabenszenarien wie Vision, natürliche Sprache und Timing-Modellierung ab Präzision und Leistungsbalance PP wurden durch industrielle Praxis aufpoliert. Die Anzahl der Sondermodelle in der Serie wurde auf 42 erhöht. Die Anzahl der praktischen Beispiele der Flugpaddelindustrie wurde auf 68 erhöht und deckt zehn wichtige Branchenszenarien wie Finanzen, Industrie, Transport, Internet, Sicherheit und Bildung; ein zentraler Zugang zur Flying Paddle-Modellbibliothek auf Industrieebene wurde veröffentlicht. Aggregiertes Modellwissen und Werkzeugsätze, um den gesamten Prozess der Modellauswahl, der schnellen Erfahrung und der Modellentwicklung zu verbinden Nutzung und Modellbereitstellung. Fei Paddle hat Stärke aus den Aspekten von Open-Source-Industriemodellen und Referenzbeispielen gesammelt, um Unternehmen bequeme Unterstützung bei der Anwendung von KI-Technologie zu bieten und gemeinsam die Schwachstellen und Schwierigkeiten der Branche zu lösen.

Schließen Sie sich mit ökologischen Partnern in verschiedenen Bereichen zusammen, um gemeinsam ein erfolgreiches Flying Paddle AI-Ökosystem zu schaffen, zu teilen und aufzubauen.

Die Förderung der Anwendung künstlicher Intelligenz in der Branche ist untrennbar mit der Zusammenarbeit mit Hardware-Ökopartnern verbunden, um voranzukommen. Im Mai dieses Jahres startete Flying Paddle gemeinsam mit seinen Hardware-Ökosystem-Partnern den „Hardware Ecosystem Co-Creation Plan“, um in mehreren Dimensionen umfassend zusammenzuarbeiten, wie etwa gemeinsame Forschung und Entwicklung, gemeinsame Nutzung von Ressourcen, gemeinsame Lizenzierung und Schulungsförderung. Seit November ist die Zahl der Mitglieder des „Hardware Ecosystem Co-Creation Plan“ von Fei Paddle von 13 auf 28 gestiegen. Gleichzeitig hat sich Flying Paddle mit 12 Herstellern zusammengetan, darunter Nvidia, Arm, Cambrian, Kunlun Core, Tianshu Intelligent Core, Graphcore und Suiyuan, um gemeinsam die ökologische Version von Flying Paddle herauszubringen, um Entwicklern ein besser integriertes Software- und Hardware-Erlebnis zu bieten Gleichzeitig werden wir gemeinsam daran arbeiten, ein erfolgreiches Hardware-Ökosystem aufzubauen.

Um die intelligente Weiterentwicklung der KI-Branche weiter zu beschleunigen, ist Flying Paddle tief in die Industrieszene vorgedrungen und hat mit führenden Unternehmen der Branche wie der National Energy Group, der Industrial and Commercial Bank of China, China Unicom, PetroChina, die China Academy of Railway Sciences, China Mobile und China FAW haben einen Sammelplan für industrielle Praxisbeispiele veröffentlicht, Unternehmen und Entwickler vernetzt, Schlüsselprobleme in tatsächlichen Industrieszenarien in verschiedenen Branchen gelöst und die Implementierung der KI unterstützt Industrie.

Die von Feipiao aufgebaute AI Studio-Lern- und Trainings-Community setzt sich dafür ein, das Lernen und die Anwendung von KI zu vereinfachen, und hat sich mittlerweile zur größten KI-Entwickler-Community in China entwickelt. Auf diesem Gipfel hat AI Studio ein Upgrade durchgeführt und zwei neue Bereiche hinzugefügt: Unternehmensschulung und ökologisches heterogenes Rechenleistungszentrum.

Enterprise Training bietet eine praktische Schulungsplattform für Unternehmen zur Anwendung von Deep Learning. Bisher hat Feipiao gemeinsam mit mehr als 20 namhaften Unternehmen Veranstaltungen durchgeführt, um gemeinsam KI-Anwendungslösungen zu erkunden und KI-Talente zu fördern. AI Studio stellt Entwicklern seit langem umfangreiche Rechenressourcen einschließlich CPU und GPU zur Verfügung und ist mit der Rechenleistung von Sugon DCU verbunden, um Entwicklern ein Online-Erlebniszentrum und eine praktische Erlebnisumgebung für Hardware-Infrastruktur und Ökologie zu bieten Power Center begrüßt die Ansiedlung weiterer Hardware-Hersteller.

Die aus der industriellen Praxis abgeleitete Deep-Learning-Open-Source-Open-Source-Plattform Baidu Flying Paddle ist eine groß angelegte KI-Produktionsplattform für Baidu, um integrierte Innovation zu praktizieren und die Schwelle zu senken. Da die Kerntechnologie des Deep Learning in Zukunft weiterentwickelt wird, wird Fei Paddle die Anwendung von KI und großen Modellen besser unterstützen, weiterhin ein wohlhabenderes KI-Ökosystem aufbauen, die Industrie dazu ermutigen, intelligente Upgrades zu beschleunigen und die KI davon profitieren zu lassen Tausende Branchen.

Das obige ist der detaillierte Inhalt vonVerwenden Sie fliegende Paddel, um die Produktion großer Modelle aus einer Hand zu bewältigen. Das PaddleFleetX-Entwicklungskit für große Modelle ist das erste in der Branche.. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!