Table des matières
Mistral-Medium divulgué accidentellement
Maison Périphériques technologiques IA Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus forte

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus forte

Feb 01, 2024 pm 09:00 PM
gpt-4 模型 开源

Mistral-Medium a été accidentellement divulgué ? Auparavant disponible uniquement via API, performances sont proches de GPT-4.

La dernière déclaration du PDG : C'est vrai, elle a été divulguée par un des premiers employés d'un client. Mais j'ai quand même dit Restez à l'écoute.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

En d'autres termes, cette version est encore ancienne et les performances de la version réelle seront meilleures.

Au cours des deux derniers jours, ce mystérieux modèle nommé "Miqu" est devenu un sujet brûlant dans la grande communauté des mannequins. Beaucoup de gens soupçonnent également qu'il s'agit d'une version peaufinée de LIama.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Le PDG de Mistral a expliqué qu'ils avaient recyclé Mistral Medium et l'avaient amélioré sur la base de Llama 2. Il s’agit de fournir le plus rapidement possible une API proche des performances de GPT-4 aux premiers clients. Les travaux de pré-formation se sont achevés le jour de la sortie de Mistral 7B.

Maintenant que la vérité a été révélée, le PDG reste discret et de nombreux internautes se tendent la main en prévision.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Mistral-Medium divulgué accidentellement

Revoyons à nouveau l'ensemble de l'incident. Le 28 janvier, un mystérieux utilisateur nommé Miqu Dev a publié un ensemble de fichiers « miqu-1-70b » sur HuggingFace.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Le document indique que le "format d'invite" et les méthodes d'interaction utilisateur du nouveau LLM sont les mêmes que ceux de Mistral.

Le même jour, un utilisateur anonyme sur 4chan a posté un lien vers le fichier miqu-1-70b.

Certains internautes ont remarqué ce modèle mystérieux et ont commencé à effectuer des tests de référence.

Les résultats sont étonnants, il obtient un score de 83,5 sur EQ-Bench (évaluation locale), surpassant tous les autres grands modèles dans le monde sauf GPT-4.

Pendant un temps, les internautes ont fortement réclamé que ce grand modèle soit ajouté au classement et que l'on découvre le véritable modèle qui se cache derrière.

Il y a trois directions principales de suspicion :

  • et Mistral-Medium sont le même modèle.

Certains internautes ont posté l'effet de comparaison : il connaît la réponse standard et cela a du sens, mais il est impossible que même la formulation russe soit exactement la même que celle de Mistral-Medium.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePictures

  • Miqu devrait être une version peaufinée de LIama 2.

Mais d'autres internautes ont découvert qu'il ne s'agit pas d'un modèle MoE et qu'il a la même architecture, les mêmes paramètres et le même nombre de couches que LIama 2.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Cependant, il a été immédiatement remis en question par d'autres internautes. Mistral 7b a également les mêmes paramètres et nombre de couches que le lama 7B.

Au lieu de cela, cela ressemble plus à un Modèle Mistral précoce non-MoE.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Cependant, après discussions, il est indéniable que dans l'esprit de nombreuses personnes, il s'agit du modèle le plus proche du GPT-4.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Maintenant, le co-fondateur et PDG de Mistral, Arthur Mensch, a admis que l'un de ses premiers employés clients était trop enthousiaste et avait divulgué une version quantifiée d'un ancien modèle qu'ils avaient formé et rendu public.

Quant à Perplexity, le PDG a également précisé qu'ils n'ont jamais reçu le poids de Mistral Medium.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Les internautes s'inquiètent de savoir si cette version sera supprimée.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Fait intéressant, Mensch n'a pas demandé que le message sur HuggingFace soit supprimé.

Un modèle open source comparable à GPT-4 a fuité ! Le patron de Mistral vient de le confirmer : la version officielle sera encore plus fortePhotos

Au lieu de cela, laissez un commentaire disant : Des problèmes d'attribution peuvent être pris en compte.

Liens de référence :
[1]https://www.reddit.com/r/LocalLLaMA/comments/1af4fbg/llm_comparisontest_miqu170b/

[2]https://twitter.com/teortaxesTex/status/1752427812466593975
[3]https://twitter.com/N8Programs/status/1752441060133892503
[4]https://twitter.com/AravSrinivas/status/1752803571035504858

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

Video Face Swap

Video Face Swap

Échangez les visages dans n'importe quelle vidéo sans effort grâce à notre outil d'échange de visage AI entièrement gratuit !

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Le modèle MoE open source le plus puissant au monde est ici, avec des capacités chinoises comparables à celles du GPT-4, et le prix ne représente que près d'un pour cent de celui du GPT-4-Turbo. Le modèle MoE open source le plus puissant au monde est ici, avec des capacités chinoises comparables à celles du GPT-4, et le prix ne représente que près d'un pour cent de celui du GPT-4-Turbo. May 07, 2024 pm 04:13 PM

Imaginez un modèle d'intelligence artificielle qui non seulement a la capacité de surpasser l'informatique traditionnelle, mais qui permet également d'obtenir des performances plus efficaces à moindre coût. Ce n'est pas de la science-fiction, DeepSeek-V2[1], le modèle MoE open source le plus puissant au monde est ici. DeepSeek-V2 est un puissant mélange de modèle de langage d'experts (MoE) présentant les caractéristiques d'une formation économique et d'une inférence efficace. Il est constitué de 236B paramètres, dont 21B servent à activer chaque marqueur. Par rapport à DeepSeek67B, DeepSeek-V2 offre des performances plus élevées, tout en économisant 42,5 % des coûts de formation, en réduisant le cache KV de 93,3 % et en augmentant le débit de génération maximal à 5,76 fois. DeepSeek est une entreprise explorant l'intelligence artificielle générale

L'IA bouleverse la recherche mathématique ! Le lauréat de la médaille Fields et mathématicien sino-américain a dirigé 11 articles les mieux classés | Aimé par Terence Tao L'IA bouleverse la recherche mathématique ! Le lauréat de la médaille Fields et mathématicien sino-américain a dirigé 11 articles les mieux classés | Aimé par Terence Tao Apr 09, 2024 am 11:52 AM

L’IA change effectivement les mathématiques. Récemment, Tao Zhexuan, qui a prêté une attention particulière à cette question, a transmis le dernier numéro du « Bulletin de l'American Mathematical Society » (Bulletin de l'American Mathematical Society). En se concentrant sur le thème « Les machines changeront-elles les mathématiques ? », de nombreux mathématiciens ont exprimé leurs opinions. L'ensemble du processus a été plein d'étincelles, intense et passionnant. L'auteur dispose d'une équipe solide, comprenant Akshay Venkatesh, lauréat de la médaille Fields, le mathématicien chinois Zheng Lejun, l'informaticien de l'Université de New York Ernest Davis et de nombreux autres universitaires bien connus du secteur. Le monde de l’IA a radicalement changé. Vous savez, bon nombre de ces articles ont été soumis il y a un an.

Bonjour, Atlas électrique ! Le robot Boston Dynamics revient à la vie, des mouvements étranges à 180 degrés effraient Musk Bonjour, Atlas électrique ! Le robot Boston Dynamics revient à la vie, des mouvements étranges à 180 degrés effraient Musk Apr 18, 2024 pm 07:58 PM

Boston Dynamics Atlas entre officiellement dans l’ère des robots électriques ! Hier, l'Atlas hydraulique s'est retiré "en larmes" de la scène de l'histoire. Aujourd'hui, Boston Dynamics a annoncé que l'Atlas électrique était au travail. Il semble que dans le domaine des robots humanoïdes commerciaux, Boston Dynamics soit déterminé à concurrencer Tesla. Après la sortie de la nouvelle vidéo, elle a déjà été visionnée par plus d’un million de personnes en seulement dix heures. Les personnes âgées partent et de nouveaux rôles apparaissent. C'est une nécessité historique. Il ne fait aucun doute que cette année est l’année explosive des robots humanoïdes. Les internautes ont commenté : Les progrès des robots ont fait ressembler la cérémonie d'ouverture de cette année à des êtres humains, et le degré de liberté est bien plus grand que celui des humains. Mais n'est-ce vraiment pas un film d'horreur ? Au début de la vidéo, Atlas est allongé calmement sur le sol, apparemment sur le dos. Ce qui suit est à couper le souffle

KAN, qui remplace MLP, a été étendu à la convolution par des projets open source KAN, qui remplace MLP, a été étendu à la convolution par des projets open source Jun 01, 2024 pm 10:03 PM

Plus tôt ce mois-ci, des chercheurs du MIT et d'autres institutions ont proposé une alternative très prometteuse au MLP – KAN. KAN surpasse MLP en termes de précision et d’interprétabilité. Et il peut surpasser le MLP fonctionnant avec un plus grand nombre de paramètres avec un très petit nombre de paramètres. Par exemple, les auteurs ont déclaré avoir utilisé KAN pour reproduire les résultats de DeepMind avec un réseau plus petit et un degré d'automatisation plus élevé. Plus précisément, le MLP de DeepMind compte environ 300 000 paramètres, tandis que le KAN n'en compte qu'environ 200. KAN a une base mathématique solide comme MLP est basé sur le théorème d'approximation universelle, tandis que KAN est basé sur le théorème de représentation de Kolmogorov-Arnold. Comme le montre la figure ci-dessous, KAN a

750 000 rounds de bataille en tête-à-tête entre grands modèles, GPT-4 a remporté le championnat et Llama 3 s'est classé cinquième 750 000 rounds de bataille en tête-à-tête entre grands modèles, GPT-4 a remporté le championnat et Llama 3 s'est classé cinquième Apr 23, 2024 pm 03:28 PM

Concernant Llama3, de nouveaux résultats de tests ont été publiés - la grande communauté d'évaluation de modèles LMSYS a publié une liste de classement des grands modèles, Llama3 s'est classé cinquième et à égalité pour la première place avec GPT-4 dans la catégorie anglaise. Le tableau est différent des autres benchmarks. Cette liste est basée sur des batailles individuelles entre modèles, et les évaluateurs de tout le réseau font leurs propres propositions et scores. Au final, Llama3 s'est classé cinquième sur la liste, suivi de trois versions différentes de GPT-4 et Claude3 Super Cup Opus. Dans la liste simple anglaise, Llama3 a dépassé Claude et est à égalité avec GPT-4. Concernant ce résultat, LeCun, scientifique en chef de Meta, était très heureux et a transmis le tweet et

Recommandé : Excellent projet de détection et de reconnaissance des visages open source JS Recommandé : Excellent projet de détection et de reconnaissance des visages open source JS Apr 03, 2024 am 11:55 AM

La technologie de détection et de reconnaissance des visages est déjà une technologie relativement mature et largement utilisée. Actuellement, le langage d'application Internet le plus utilisé est JS. La mise en œuvre de la détection et de la reconnaissance faciale sur le front-end Web présente des avantages et des inconvénients par rapport à la reconnaissance faciale back-end. Les avantages incluent la réduction de l'interaction réseau et de la reconnaissance en temps réel, ce qui réduit considérablement le temps d'attente des utilisateurs et améliore l'expérience utilisateur. Les inconvénients sont les suivants : il est limité par la taille du modèle et la précision est également limitée ; Comment utiliser js pour implémenter la détection de visage sur le web ? Afin de mettre en œuvre la reconnaissance faciale sur le Web, vous devez être familier avec les langages et technologies de programmation associés, tels que JavaScript, HTML, CSS, WebRTC, etc. Dans le même temps, vous devez également maîtriser les technologies pertinentes de vision par ordinateur et d’intelligence artificielle. Il convient de noter qu'en raison de la conception du côté Web

FisheyeDetNet : le premier algorithme de détection de cible basé sur une caméra fisheye FisheyeDetNet : le premier algorithme de détection de cible basé sur une caméra fisheye Apr 26, 2024 am 11:37 AM

La détection de cibles est un problème relativement mature dans les systèmes de conduite autonome, parmi lesquels la détection des piétons est l'un des premiers algorithmes à être déployés. Des recherches très complètes ont été menées dans la plupart des articles. Cependant, la perception de la distance à l’aide de caméras fisheye pour une vue panoramique est relativement moins étudiée. En raison de la distorsion radiale importante, la représentation standard du cadre de délimitation est difficile à mettre en œuvre dans les caméras fisheye. Pour alléger la description ci-dessus, nous explorons les conceptions étendues de boîtes englobantes, d'ellipses et de polygones généraux dans des représentations polaires/angulaires et définissons une métrique de segmentation d'instance mIOU pour analyser ces représentations. Le modèle fisheyeDetNet proposé avec une forme polygonale surpasse les autres modèles et atteint simultanément 49,5 % de mAP sur l'ensemble de données de la caméra fisheye Valeo pour la conduite autonome.

Les robots Tesla travaillent dans les usines, Musk : Le degré de liberté des mains atteindra 22 cette année ! Les robots Tesla travaillent dans les usines, Musk : Le degré de liberté des mains atteindra 22 cette année ! May 06, 2024 pm 04:13 PM

La dernière vidéo du robot Optimus de Tesla est sortie, et il peut déjà fonctionner en usine. À vitesse normale, il trie les batteries (les batteries 4680 de Tesla) comme ceci : Le responsable a également publié à quoi cela ressemble à une vitesse 20 fois supérieure - sur un petit "poste de travail", en sélectionnant et en sélectionnant et en sélectionnant : Cette fois, il est publié L'un des points forts de la vidéo est qu'Optimus réalise ce travail en usine, de manière totalement autonome, sans intervention humaine tout au long du processus. Et du point de vue d'Optimus, il peut également récupérer et placer la batterie tordue, en se concentrant sur la correction automatique des erreurs : concernant la main d'Optimus, le scientifique de NVIDIA Jim Fan a donné une évaluation élevée : la main d'Optimus est l'un des robots à cinq doigts du monde. le plus adroit. Ses mains ne sont pas seulement tactiles

See all articles