Table des matières
L'explosion open source de la famille alpaga
Big model open source, envie de subvertir les grandes entreprises de la Silicon Valley ?
Si OpenAI avait été avare, il n'y aurait pas d'événement open source aujourd'hui
Maison Périphériques technologiques IA Dernière nouvelle : OpenAI s'apprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

Dernière nouvelle : OpenAI s'apprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

May 18, 2023 pm 03:29 PM
ai 开源

Tout à l'heure, selon les dernières nouvelles de The Information, OpenAI est sur le point de publier un nouveau grand modèle de langage open source.

Bien qu'il ne soit pas clair si OpenAI a l'intention d'utiliser le prochain modèle open source pour s'emparer de la part de marché de Vicuna ou d'autres modèles open source.

Mais il est presque certain que les capacités du nouveau modèle ne pourront probablement pas rivaliser avec GPT-4 ou même GPT-3.5.

Après tout, la valorisation de 27 milliards de dollars américains détermine également que les modèles les plus avancés d'OpenAI seront utilisés à des fins commerciales, bien que les deux premières versions de GPT soient open source.

Un porte-parole d'OpenAI n'a pas répondu à une demande de commentaire.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

L'explosion open source de la famille alpaga

Il y a dix jours, un document interne de Google a fuité. Dans cet article intitulé "Nous n'avons pas de fossé, et OpenAI non plus", l'auteur déplore le coup dur que l'open source a porté à Google et à OpenAI.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

En effet, ni Google ni OpenAI ne semblent sortir vainqueurs de cette course aux armements, car la communauté open source est en train de manger les « bénéfices » qui leur appartiennent.

ChatGPT a déclenché une révolution mondiale du LLM. Cependant, OpenAI n’est pas ouvert, et de nombreuses entreprises et développeurs ne peuvent que regarder et s’inquiéter.

À cette époque, Meta s'est manifesté et a publié LLaMA, apportant des avantages aux développeurs du monde entier.

À l'origine, Meta avait promis que LLaMA serait open source pour les cas d'utilisation de recherche non commerciale, mais qui aurait pensé qu'une semaine seulement après sa sortie, le poids de LLaMA a soudainement fuité sur 4chan, déclenchant des milliers de téléchargements dans un instant.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

Cette "fuite épique" a directement changé le domaine LLM open source. En quelques semaines seulement, divers remplacements de ChatGPT ont explosé à une vitesse fulgurante.

Alpaca, Vicuna, Koala, ChatLLaMA, FreedomGPT, ColossalChat... On peut appeler cela une explosion de la "famille Alpaga".

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

En fait, bien avant Yangtuo, le modèle open source avait brisé les ambitions d’OpenAI.

À cette époque, le nouveau Dall-E 2 faisait sensation sur Internet avec son superbe effet graphique vincentien.

Cependant, alors qu'OpenAI essayait encore de vendre des API, une alternative open source est soudainement apparue : Stable Diffusion.

Avec l'essor rapide de Stable Diffusion, Dall-E 2 a été rapidement oublié par les développeurs.

Big model open source, envie de subvertir les grandes entreprises de la Silicon Valley ?

Ion Stoica, professeur d'informatique à l'UC Berkeley, est l'un des chercheurs qui ont utilisé les recherches de Meta pour développer Vicuna.

Pour améliorer les capacités de Vicuna, Stoica et ses collègues s'efforcent d'augmenter le nombre de calculs dans le modèle, ce qui facilitera les tâches impliquant l'inférence, telles que l'écriture de code.

Vicuna est développé par une équipe de Berkeley avec un budget annuel de millions de dollars, dont environ 500 000 $ proviennent de sociétés publiques dont Microsoft, Google et Amazon.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

Ion Stoica, professeur d'informatique à l'UC Berkeley, a déclaré que les performances des modèles d'IA gratuits actuels sont "assez proches" des modèles propriétaires de Google et d'OpenAI. Il ne fait aucun doute que la plupart des développeurs finiront par choisir les modèles gratuits.

D'une part, les modèles open source permettent aux développeurs d'utiliser leurs propres données pour résoudre des problèmes spécifiques.

D'un autre côté, le coût de formation d'un modèle comme Vicuna peut même être aussi bas que quelques centaines de dollars, et il n'est pas nécessaire de payer des frais d'utilisation coûteux aux grands fabricants.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

https://www.php.cn/link/4d8bd3f7351f4fee76ba17594f070ddd

Modèle exclusif pour vente occasion Le business plan d'un fabricant puissant.

La qualité de Vicuna et l'explosion cambrienne de l'IA open source ont conduit l'ingénieur de Google, Luke Sernau, à avertir ses collègues que Google se concentre trop sur les logiciels propriétaires dans ses efforts pour rattraper OpenAI.

Si les alternatives gratuites et de haute qualité ne comportent aucune restriction d'utilisation, qui paiera pour utiliser les produits Google soumis à des restrictions ? L'IA open source nous dépasse, et Google devrait établir son leadership dans la communauté open source et abandonner un certain contrôle sur nos modèles.

Ce mémo a rapidement trouvé un écho dans l'ensemble de l'industrie - même si Sernau a peut-être surestimé les capacités de l'IA open source et sous-estimé ses coûts et ses risques, la plupart des praticiens conviennent que Meta en bénéficiera très probablement.

Par exemple, Meta utilise des modèles d'IA en interne pour la recommandation de contenu et le positionnement des annonces. Lorsque les développeurs améliorent les modèles de Meta, Meta peut intégrer ces améliorations dans sa propre IA interne.

Le PDG de Meta, Xiao Zha, planifie cela depuis longtemps.

En avril, lors d'une conférence téléphonique avec des analystes, il a déclaré ceci à propos de la stratégie de l'entreprise :

Si l'industrie peut standardiser les outils de base que nous utilisons, alors nous pouvons le faire. C'est encore mieux d'en bénéficier les améliorations des autres.

Google n'adopte pas une approche totalement propriétaire des logiciels d'IA.

En 2020, Google a publié T5, un modèle de langage open source qui permet aux développeurs de créer des logiciels capables d'effectuer des tâches de traduction et de résumé. Par la suite, Google a publié un Flan-T5 plus avancé.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

Cependant, selon Stoica et d'autres praticiens, le logiciel publié par Meta peut apporter des améliorations significatives sur la base du modèle de Google, ce qui augmente considérablement la possibilité pour les développeurs de choisir le modèle Meta.

Cependant, Stoica a déclaré que Google a encore deux avantages dans les logiciels open source.

1. Si Google profite de ses données utilisateurs qui ne sont pas ouvertes sur le monde extérieur, le modèle peut être plus performant dans certains domaines professionnels (comme la recommandation de contenu).

Cependant, un porte-parole de Google a déclaré que l'entreprise n'avait pas entraîné son modèle de base sur les données utilisateur existantes.

2. L’expertise de la société de recherche dans la gestion d’infrastructures informatiques à grande échelle lui permet d’exécuter des modèles à moindre coût, y compris pour les clients cloud.

Dans le même temps, OpenAI a déjà pris les devants dans la collecte de données sur la façon dont des millions de personnes interagissent avec ChatGPT, ce qui aidera encore OpenAI à améliorer les logiciels d'IA, sans parler de son accord de coopération avec Microsoft.

La prospérité de l'open source est-elle une « charité » des grands constructeurs ?

Cependant, cette prospérité basée sur l'open source est instable.

La plupart des open source actuels reposent encore sur des modèles géants publiés par de grandes entreprises disposant de fonds solides. Si OpenAI et Meta décident de mettre fin à leurs activités, la communauté open source florissante pourrait devenir déprimée.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?


Par exemple, de nombreuses alternatives open source sont désormais construites sur la base du LLaMA de Meta.

Alors que d'autres modèles utilisent un vaste ensemble de données publiques appelé Pile, compilé par l'organisation open source à but non lucratif EleutherAI.

EleutherAI existe parce que l'ouverture d'OpenAI signifie qu'un groupe de développeurs peut effectuer de l'ingénierie inverse sur la façon dont GPT-3 est créé, puis créer ses propres modèles pendant son temps libre.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

Mais tout peut changer.

OpenAI n'est plus ouvert, et Meta envisage également de restreindre l'open source pour empêcher les startups d'utiliser du code open source pour faire de mauvaises choses.

Joelle Pineau, directrice exécutive de Meta AI, a déclaré qu'ouvrir le code aux étrangers est la bonne chose à faire maintenant, mais il n'est pas sûr que Meta adoptera la même stratégie dans les cinq prochaines années.

Si cette tendance à la fermeture se poursuit, non seulement la communauté open source sera abandonnée, mais la prochaine génération d'avancées en IA reviendra également entre les mains des laboratoires d'IA les plus grands et les moins chers.

De toute évidence, l’avenir de la façon dont les grands modèles d’IA sont fabriqués et utilisés est à la croisée des chemins.

Si OpenAI avait été avare, il n'y aurait pas d'événement open source aujourd'hui

D'autres se demandent également si cette compétition open source gratuite apporte de plus grandes récompenses ou de plus grands risques.

Au même moment où Meta AI publiait LLaMA, Hugging Face a lancé un mécanisme de contrôle de porte. Avant de télécharger des modèles sur la plateforme, les utilisateurs doivent demander l'accès et obtenir l'approbation. Ceci afin de restreindre les personnes ayant des raisons légitimes.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

"Je ne suis pas un évangéliste de l'open source", a déclaré Margaret Mitchell, scientifique en chef de l'éthique chez Hugging Face. "Je peux voir l'intérêt de ne pas être open source."

L'un des inconvénients de l'utilisation généralisée des grands modèles est qu'elle peut conduire à la prolifération de produits pornographiques IA.

Mitchell a déjà travaillé chez Google et a fondé l'équipe d'éthique de l'IA. Elle est très consciente des risques d'abus de mannequin. Par conséquent, elle privilégie la publication de modèles Meta AI de manière contrôlée.

Dans le même temps, OpenAI ferme également le robinet. Lorsque GPT-4 a été publié, il n'a pas annoncé de détails tels que l'architecture (y compris la taille du modèle), le matériel, les calculs de formation, la construction des ensembles de données, les méthodes de formation, etc. La raison était « compte tenu du paysage concurrentiel et de l'impact sur la sécurité des grandes entreprises ». -des modèles à l'échelle comme GPT-4." .

Cette limitation reflète le changement de mentalité d’OpenAI. Le co-fondateur et scientifique en chef Ilya Sutskever a déclaré que l’ouverture passée d’OpenAI était une erreur.

Sandhini Agarwal, chercheuse en politiques chez OpenAI, a déclaré : « Avant, si quelque chose était open source, peut-être qu'un petit groupe de bricoleurs s'en soucierait. Mais maintenant, l'environnement tout entier a changé. L'open source peut vraiment accélérer le développement et conduire à compétition."

Il y a trois ans, si OpenAI avait adhéré aux mêmes principes lors de l'annonce des détails de GPT-3, il n'y aurait pas eu l'émergence d'EleutherAI, et il n'y aurait pas eu d'innovation open source vigoureuse.

Aujourd'hui, EleutherAI joue un rôle central dans l'écosystème open source. Pile est utilisé pour former plusieurs projets open source, y compris StableLM de Stability AI.

Dernière nouvelle : OpenAI sapprête à ouvrir un nouveau modèle en open source ! La prospérité de la communauté open source dépend-elle entièrement de la « charité » des grandes entreprises ?

Mais avec le verrouillage des GPT-4, 5 et 6, la communauté open source pourrait une fois de plus être laissée pour compte par quelques grandes entreprises.

Ils resteront coincés dans le modèle de la génération précédente, et s'ils veulent progresser, ils ne pourront le faire qu'à huis clos.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Meilleurs paramètres graphiques
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
R.E.P.O. Comment réparer l'audio si vous n'entendez personne
3 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Où trouver la courte de la grue à atomide atomique
1 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment changer la taille d'une liste de bootstrap? Comment changer la taille d'une liste de bootstrap? Apr 07, 2025 am 10:45 AM

La taille d'une liste d'amorçage dépend de la taille du conteneur qui contient la liste, pas de la liste elle-même. L'utilisation du système de grille de bootstrap ou de Flexbox peut contrôler la taille du conteneur, redimentant ainsi indirectement les éléments de la liste.

Comment implémenter la nidification des listes de bootstrap? Comment implémenter la nidification des listes de bootstrap? Apr 07, 2025 am 10:27 AM

Les listes imbriquées dans Bootstrap nécessitent l'utilisation du système de grille de bootstrap pour contrôler le style. Tout d'abord, utilisez la couche extérieure & lt; ul & gt; et & lt; li & gt; Pour créer une liste, alors enveloppez la liste des calques intérieure dans & lt; div class = & quot; row & gt; et ajouter & lt; div class = & quot; col-md-6 & quot; & gt; à la liste des calques intérieure pour spécifier que la liste des calques intérieure occupe la moitié de la largeur d'une ligne. De cette façon, la liste intérieure peut avoir la bonne

Comment ajouter des icônes à la liste Bootstrap? Comment ajouter des icônes à la liste Bootstrap? Apr 07, 2025 am 10:42 AM

Comment ajouter des icônes à la liste Bootstrap: fourre directement l'icône dans l'élément de liste & lt; li & gt;, en utilisant le nom de classe fourni par la bibliothèque d'icônes (comme Font Awesome). Utilisez la classe bootstrap pour aligner les icônes et le texte (par exemple, d-flex, justifier-content-between, align-items-center). Utilisez le composant Bootstrap Tag (badge) pour afficher les numéros ou l'état. Ajustez la position de l'icône (Flex-Direction: Row-Reverse;), Contrôlez le style (style CSS). Erreur commune: l'icône ne s'affiche pas (pas

Quelle méthode est utilisée pour convertir les chaînes en objets dans vue.js? Quelle méthode est utilisée pour convertir les chaînes en objets dans vue.js? Apr 07, 2025 pm 09:39 PM

Lors de la conversion des chaînes en objets dans vue.js, JSON.Parse () est préféré pour les chaînes JSON standard. Pour les chaînes JSON non standard, la chaîne peut être traitée en utilisant des expressions régulières et réduisez les méthodes en fonction du format ou du codé décodé par URL. Sélectionnez la méthode appropriée en fonction du format de chaîne et faites attention aux problèmes de sécurité et d'encodage pour éviter les bogues.

Quels changements ont été apportés avec le style de liste de bootstrap 5? Quels changements ont été apportés avec le style de liste de bootstrap 5? Apr 07, 2025 am 11:09 AM

Les modifications de style de la liste Bootstrap 5 sont principalement dues à l'optimisation des détails et à l'amélioration sémantique, notamment: les marges par défaut des listes non ordonnées sont simplifiées, et les effets visuels sont plus propres et soignés; Le style de liste met l'accent sur la sémantique, l'amélioration de l'accessibilité et la maintenabilité.

Comment afficher le système de grille de bootstrap Comment afficher le système de grille de bootstrap Apr 07, 2025 am 09:48 AM

Le système de maillage de Bootstrap est une règle pour construire rapidement des dispositions réactives, composées de trois classes principales: conteneur (conteneur), ligne (ligne) et col (colonne). Par défaut, des grilles à 12 colonnes sont fournies et la largeur de chaque colonne peut être ajustée via des classes auxiliaires telles que Col-MD-, réalisant ainsi l'optimisation de mise en page pour différentes tailles d'écran. En utilisant des classes de décalage et des mailles imbriquées, la flexibilité de mise en page peut être étendue. Lorsque vous utilisez un système de grille, assurez-vous que chaque élément a la bonne structure de nidification et envisagez une optimisation des performances pour améliorer la vitesse de chargement des pages. Ce n'est que par une compréhension et une pratique approfondies que nous pouvons maîtriser avec compétence le système de grille bootstrap.

Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Géospatial de Laravel: optimisation des cartes interactives et de grandes quantités de données Apr 08, 2025 pm 12:24 PM

Traiter efficacement 7 millions d'enregistrements et créer des cartes interactives avec la technologie géospatiale. Cet article explore comment traiter efficacement plus de 7 millions d'enregistrements en utilisant Laravel et MySQL et les convertir en visualisations de cartes interactives. Exigences initiales du projet de défi: extraire des informations précieuses en utilisant 7 millions d'enregistrements dans la base de données MySQL. Beaucoup de gens considèrent d'abord les langages de programmation, mais ignorent la base de données elle-même: peut-il répondre aux besoins? La migration des données ou l'ajustement structurel est-il requis? MySQL peut-il résister à une charge de données aussi importante? Analyse préliminaire: les filtres et les propriétés clés doivent être identifiés. Après analyse, il a été constaté que seuls quelques attributs étaient liés à la solution. Nous avons vérifié la faisabilité du filtre et établi certaines restrictions pour optimiser la recherche. Recherche de cartes basée sur la ville

Comment les listes de bootstrap sont-elles organisées verticalement? Comment les listes de bootstrap sont-elles organisées verticalement? Apr 07, 2025 am 11:21 AM

Bootstrap lui-même ne fournit pas de fonction de liste verticale directe et doit être intelligemment implémenté en utilisant son mécanisme: flexbox: ajoutez la classe "d-flex flex-column" dans le conteneur parent de liste pour organiser les éléments de liste verticalement. Combiné avec le système raster: définissez les largeurs de colonne pour les éléments de liste contenant du contenu complexe et contrôlez la disposition plus finement. Veillez à utiliser les classes Raster Core "Row" et "COL" de Bootstrap pour éviter d'utiliser des méthodes flottantes ou de positionnement.

See all articles