MLOps: Wiederholen Unternehmen die gleichen DIY-Fehler?

​Übersetzer |. Cui Hao

Rezensent |.Eröffnung

Generell gibt es einen Grund, warum Unternehmen nicht die Initiative ergreifen, ihre eigene Cloud-Computing-Infrastruktur aufzubauen. Im letzten Jahrzehnt haben IT-Infrastrukturteams versucht, ihre eigenen privaten Clouds aufzubauen, weil sie glaubten, dass diese ihre Unternehmen kostengünstiger unterstützen würden als öffentliche Clouds. Doch entgegen den Erwartungen übertrafen der Zeit- und Kostenaufwand für die private Cloud die Erwartungen. Nach dem Aufbau der privaten Cloud waren mehr Ressourcen für deren Wartung erforderlich und sie war der öffentlichen Cloud in Bezug auf Sicherheit und Erweiterung etwas unterlegen. Dies führt dazu, dass Unternehmen, die ihre eigenen privaten Clouds aufbauen, am Ende nicht über mehr Ressourcen verfügen, um in das Kerngeschäft zu investieren, sondern stattdessen viel Zeit und Personal in eine Infrastruktur investieren, die die Geschäftsanforderungen nicht erweitern kann.

Heutzutage generieren viele Unternehmen Lösungen über verschiedene Open-Source-Tools (wie Apache Spark), aber die meisten Aktionen für MLOps erfordern wiederholte manuelle Vorgänge.

Dies führt dazu, dass Modellbereitstellungen Wochen oder sogar Monate dauern, ineffiziente Laufzeiten (gemessen daran, dass die Ausführung von Berechnungen und Inferenzen Zeit in Anspruch nimmt) und ein Mangel an Beobachtungen für Modelltests und -überwachung besteht. Außerdem war der verwendete Ansatz zu individuell und konnte keine skalierbaren, wiederverwendbaren Geschäftsprozesse für mehrere Anwendungsfälle in verschiedenen Teilen des Unternehmens bereitstellen.

Ein Fall eines falsch diagnostizierten Problems

Darüber hinaus führten Gespräche mit Geschäftsbereichsleitern und Chief Data Analytics Officers zu dem Schluss, dass die Organisation zwar viele Datenwissenschaftler anstellte, aber keine Rendite erzielte. Im Zuge der Vertiefung der Forschung werden sie weiterhin verschiedene Fragen stellen und diese Fragen nutzen, um die Schwierigkeiten und Hindernisse zu identifizieren, mit denen künstliche Intelligenz konfrontiert ist. Sie erkannten schnell, dass das Hauptproblem auf der „letzten Meile“ lag – der Bereitstellung der Modelle und deren Anwendung auf Echtzeitdaten, deren effiziente Ausführung, so dass der Nutzen die Kosten überwog und so ihre Leistung besser gemessen werden konnte.

Um Geschäftsprobleme zu lösen und Geschäftsentscheidungen zu treffen, wandeln Datenwissenschaftler Daten in Modelle um. Dieser Prozess wird durch zwei Arten von Fähigkeiten unterstützt: das Fachwissen und die Fähigkeiten, die zum Erstellen großartiger Modelle erforderlich sind, und die Fähigkeiten, Code zu verwenden, um das Modell in der realen Welt zu steuern und es gleichzeitig zu überwachen und zu aktualisieren. Diese beiden Arten von Fähigkeiten sind jedoch völlig unterschiedlich.

Genau wegen dieses Unterschieds kommen ML-Ingenieure ins Spiel. ML-Ingenieure integrieren Tools und Frameworks, um sicherzustellen, dass Daten, Pipelines und Infrastruktur zusammenarbeiten, um ML-Modelle im großen Maßstab zu erstellen.

Also, was nun tun? Mehr Ingenieure für maschinelles Lernen einstellen?

Selbst mit den besten ML-Ingenieuren stehen Unternehmen bei der Skalierung von KI immer noch vor zwei großen Problemen:

Unfähigkeit, ML-Ingenieure schnell einzustellen: Die Nachfrage nach ML-Ingenieuren ist so groß geworden, dass die Stellenangebote für ML-Ingenieure schneller wachsen als im IT-Services wächst 30-mal schneller. MLOps-Teams müssen manchmal Monate oder sogar Jahre auf die Besetzung von Positionen warten und müssen einen effizienten Weg finden, mehr ML-Modelle und Anwendungsfälle zu unterstützen, ohne die Anzahl der ML-Ingenieure zu erhöhen, um die Nachfrage nach ML-Anwendungen zu decken. Dies führt jedoch zu einem zweiten Engpass ...

• Mangel an wiederholbaren, skalierbaren Best Practices für die Bereitstellung von Modellen, unabhängig davon, wo und wie sie erstellt werden: Der aktuelle Stand des modernen Unternehmensdaten-Ökosystems ist, dass verschiedene Geschäftseinheiten unterschiedliche Datenplattformen verwenden auf ihre Daten- und Technologieanforderungen (z. B. müssen Produktteams möglicherweise Streaming-Daten unterstützen, während die Finanzabteilung eine einfache Abfrageschnittstelle für nichttechnische Benutzer bereitstellen muss). Darüber hinaus erfordert Data Science auch die Dezentralisierung von Anwendungen über Geschäftsbereiche hinweg statt der Zentralisierung von Anwendungen. Mit anderen Worten: Verschiedene Data-Science-Teams verfügen über einen einzigartigen Satz an Modellschulungsrahmen für die Anwendungsfälle (Domänen), auf die sie sich konzentrieren. Dies bedeutet, dass ein einheitlicher Schulungsrahmen nicht für das gesamte Unternehmen (einschließlich mehrerer) erstellt werden kann Abteilungen/Domänen) von.
• Wie man den größtmöglichen Nutzen aus künstlicher Intelligenz zieht

Um die Automatisierungsmöglichkeiten zu verbessern und umfassendere, detailliertere und vorhersehbarere Benutzerversprechen zu erfüllen, haben Unternehmen investiert an künstlicher Intelligenz. Bisher besteht jedoch eine große Lücke zwischen den Versprechen und Ergebnissen der KI, da nur etwa 10 % der KI-Investitionen einen signifikanten ROI generieren.

Um das MLOps-Problem zu lösen, müssen Chief Data Analytics Officers schließlich ihre eigenen Fähigkeiten rund um die Datenwissenschaft im Kern des Geschäfts aufbauen und gleichzeitig in andere Technologien im Zusammenhang mit der MLOps-Automatisierung investieren. Dabei handelt es sich um ein häufiges „Build vs. Buy“-Dilemma, das nicht nur aus betrieblicher Sicht (Kosten-Nutzen) betrachtet wird, sondern auch die Geschwindigkeit und Effizienz der KI-Investitionen berücksichtigt, die das gesamte Unternehmen durchdringen, und ob neue Methoden möglich sind Erzielen Sie einen besseren Umsatz mit Produkten und einem besseren Kundenstamm oder senken Sie die Kosten durch zunehmende Automatisierung und Reduzierung von Verschwendung.

Übersetzer-Einführung

Cui Hao, 51CTO-Community-Redakteur, leitender Architekt, verfügt über 18 Jahre Erfahrung in der Softwareentwicklung und Architektur sowie 10 Jahre Erfahrung in verteilter Architektur. Ehemals technischer Experte bei HP. Er ist bereit zu teilen und hat viele beliebte Fachartikel geschrieben, die mehr als 600.000 Mal gelesen wurden. Autor von „Distributed Architecture Principles and Practice“.

Originaltitel:​​MLOps |. Wiederholt das Unternehmen die gleichen DIY-Fehler?​

Das obige ist der detaillierte Inhalt vonMLOps: Wiederholen Unternehmen die gleichen DIY-Fehler?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!