Die 0-Code-Feinabstimmung großer Modelle ist beliebt, es sind nur 5 Schritte erforderlich und die Kosten betragen nur 150 Yuan

Ein großes Modell mit 0-Code verfeinern und die Kosten betragen weniger als 20 $ (ca. 144 RMB)?

Der Prozess ist auch sehr einfach, nur 5 Schritte.

Hot generative Open-Source-Modelle wie LLaMA, GPT, StableLM usw. können alle verarbeitet werden.

Bilder

Das ist Monster API, die neueste beliebte API-Plattform.

Manche Leute denken, dass diese neue Arbeit im Open-Source-Bereich die Spielregeln der KI-Entwicklung neu schreiben und die Geschwindigkeit von KI-Anwendungen beschleunigen kann.

Bilder

Einige Leute fragten aufgeregt: Wird GPT-3/GPT-4 in Zukunft verbunden sein?

Bilder

Also, wie wird es umgesetzt?

Fünf Schritte und kein Code

Einfaches Verständnis: Die Monster-API soll die Feinabstimmungsschritte so weit wie möglich vereinfachen, sodass Entwickler eine Reihe von Einstellungen nicht mehr manuell vornehmen müssen und gleichzeitig günstige GPU-Ressourcen und Speicheroptimierung bereitstellen .

Der spezifische Prozess ist wie folgt:

Der erste Schritt besteht darin, ein Modell für die Feinabstimmung auszuwählen.

Zum Beispiel LLaMA-7B, GPT-J-6B, StableLM-7B usw. Die Monster-API bietet mindestens 10 grundlegende große Modelle.

Bilder

Zweiter Schritt: Wählen Sie eine Feinabstimmungsaufgabe aus oder erstellen Sie sie. Zum Beispiel die Feinabstimmung von Anweisungen, die Klassifizierung von Texten usw. oder benutzerdefinierte Aufgaben.

Bilder

Schritt : Wählen Sie einen HuggingFace-Datensatz aus.

Monster API kann den HuggingFace-Datensatz nahtlos integrieren und bietet eine große Auswahl an Datensätzen basierend auf Aufgabentypen.

Und das Format kann ohne manuelle Bedienung automatisch eingestellt werden.

Bilder

Schritt : Legen Sie die Hyperparameter fest.

Bilder

Schritt 5, prüfen und abschicken.

Nachdem Sie alle oben genannten Schritte eingerichtet haben, stellen Sie vor dem Absenden sicher, dass keine Fehler vorliegen.

Monster API bedeutet, dass Aufgaben durch Protokolle auf WandB überwacht werden können.

schrieb in seinem Blog, dass die Verwendung des fein abgestimmten LLaMA-7B von DataBricks Dolly 15k zur Fertigstellung von 3 Epochen weniger als 20 US-Dollar kostete (entspricht etwa 144 Yuan in RMB).

Auf der offiziellen Website ist zu sehen, dass nach der Registrierung als Benutzer 2.500 Punkte geschenkt werden. Die Mitgliedschaft ist in drei Stufen unterteilt und die Gebühren betragen jeweils 9 US-Dollar/29 US-Dollar/39 US-Dollar pro Monat.

Pictures

Monster API bietet nicht nur Feinabstimmungsfunktionen, sondern auch verschiedene generative AI-API-Schnittstellen, und die Kosten sind 80 % niedriger als bei anderen Lösungen.

Bild

Das Unternehmen dahinter hat eine Finanzierung in Höhe von 1,1 Millionen US-Dollar erhalten

Nachrichten zeigen, dass das Unternehmen hinter Monster API eine Pre-Seed-Finanzierung in Höhe von 1,1 Millionen US-Dollar erhalten hat.

Dieses KI-Startup positioniert sich als „Airbnb im GPU-Bereich“ und plant die weltweit verstreuten GPU-Ressourcen flexibel, sodass Entwickler sie zu einem günstigeren Preis nutzen können.

Bilder

Die Gründer sind die beiden Brüder Gaurav Vij und Saurabh Vij.

Unter ihnen gründete Gaurav Vij auch ein CV-Unternehmen. Gerade weil CV-Unternehmen mit enormem Cloud-Computing-Kapital umgehen mussten, wurden sie zum Aufbau einer solchen Plattform inspiriert.

Saurabh Vij war zuvor Teilchenphysiker am CERN und studierte auch verteiltes Rechnen.

Die Brüder sagten, dass sie nach mehreren Runden von Technologieiterationen die Leistung von GPUs der Verbraucherklasse bei maschinellen Lernaufgaben optimiert hätten und die Kosten für den Betrieb des Whisper AI-Modells im Vergleich zur AWS-Plattform um 90 % gesenkt hätten, also überlegten sie, warum sie es nicht verwenden sollten Diese Methode hilft Zehntausenden von Entwicklern.

Gleichzeitig gaben sie bekannt, dass einer der Kunden des Unternehmens durch die Nutzung seiner verteilten GPU-Rechenressourcen 300.000 US-Dollar eingespart hat.

Referenzlink:
[1]https://blog.monsterapi.ai/no-code-fine-tuning-llm/
[2]https://www.enterpriseai.news/2023/06/ 09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/

Das obige ist der detaillierte Inhalt vonDie 0-Code-Feinabstimmung großer Modelle ist beliebt, es sind nur 5 Schritte erforderlich und die Kosten betragen nur 150 Yuan. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!