Le réglage fin du code 0 des grands modèles est populaire, seulement 5 étapes sont nécessaires et le coût est aussi bas que 150 yuans

Affinez un grand modèle avec 0 code et le coût est inférieur à 20 $(environ 144 RMB) ?

Le processus est également très simple, seulement 5 étapes.

Les modèles génératifs open source chauds tels que LLaMA, GPT, StableLM, etc. peuvent tous être gérés.

Pictures

Il s'agit de Monster API, la dernière plateforme API populaire.

Certaines personnes pensent que ces nouveaux travaux dans le domaine de l'open source peuvent réécrire les règles du jeu du développement de l'IA et accélérer la vitesse des applications d'IA.

Photos

Certaines personnes ont demandé avec enthousiasme : GPT-3/GPT-4 seront-ils connectés à l'avenir ?

Photos

Alors, comment est-il mis en œuvre exactement ?

Cinq étapes et zéro code

Compréhension simple, l'API Monster vise à simplifier autant que possible les étapes de réglage fin, afin que les développeurs n'aient plus besoin d'effectuer manuellement une série de paramètres, tout en fournissant également des ressources GPU bon marché et une optimisation de la mémoire .

Le processus spécifique est le suivant :

La première étape consiste à sélectionner un modèle à peaufiner.

Par exemple, LLaMA-7B, GPT-J-6B, StableLM-7B, etc., Monster API fournit au moins 10 grands modèles de base.

Images

Étape , sélectionnez ou créez une tâche de réglage fin. Par exemple, le réglage fin des instructions, la classification de texte, etc., ou les tâches personnalisées.

Pictures

Étape , sélectionnez un ensemble de données HuggingFace.

L'API Monster peut intégrer de manière transparente l'ensemble de données HuggingFace, avec un large éventail de choix ; elle peut également recommander des ensembles de données en fonction des types de tâches.

Et le format peut être défini automatiquement sans opération manuelle.

Photos

Étape , définissez les hyperparamètres.

Photos

Étape 5, vérifiez et soumettez.

Après avoir configuré toutes les étapes ci-dessus, assurez-vous qu'il n'y a pas d'erreurs avant de soumettre.

L'API Monster signifie que les tâches peuvent être surveillées via des journaux sur WandB.

a écrit sur son blog que l'utilisation du LLaMA-7B optimisé DataBricks Dolly 15k pour réaliser 3 épouches coûtait moins de 20 dollars américains (l'équivalent d'environ 144 yuans en RMB).

Le site officiel indique que 2 500 points seront offerts en cadeau après l'inscription en tant qu'utilisateur. L'adhésion est divisée en trois niveaux et les frais sont respectivement de 9 $ US/29 $ US/39 $ US par mois.

Pictures

Monster API fournit non seulement des fonctions de réglage fin, mais fournit également diverses interfaces API d'IA génératives, et le coût est 80 % inférieur à celui des autres solutions.

photo

La société derrière cela a reçu 1,1 million de dollars américains de financement

La nouvelle montre que la société derrière Monster API a reçu 1,1 million de dollars américains de financement de pré-amorçage.

Cette startup d'IA se positionne comme « Airbnb dans le domaine des GPU », planifiant de manière flexible les ressources GPU dispersées dans le monde afin que les développeurs puissent les utiliser à moindre prix.

Photos

Les fondateurs sont deux frères Gaurav Vij et Saurabh Vij.

Parmi eux, Gaurav Vij a également fondé une société de CV. C'est précisément parce que les sociétés de CV avaient besoin de faire face à un énorme capital de cloud computing qu'elles ont été inspirées pour construire une telle plateforme.

Saurabh Vij était auparavant physicien des particules au CERN et a également étudié l'informatique distribuée.

Les frères ont déclaré qu'après plusieurs séries d'itérations technologiques, ils ont optimisé les performances des GPU grand public sur les tâches d'apprentissage automatique, réduisant ainsi le coût d'exécution du modèle Whisper AI de 90 % par rapport à la plate-forme AWS, alors ils ont pensé pourquoi ne pas utiliser cette méthode pour aider des dizaines de milliers de développeurs.

Dans le même temps, ils ont révélé que l'un des clients de l'entreprise avait économisé 300 000 $ en utilisant ses ressources informatiques GPU distribuées.

Lien de référence :
[1]https://blog.monsterapi.ai/no-code-fine-tuning-llm/
[2]https://www.enterpriseai.news/2023/06/ 09/monster-api-lance-l'airbnb-de-gpus-avec-1-1m-pre-seed/

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!