DeepMind relance la « Deuxième contre-attaque » et annonce qu'elle défiera Lee Sedol !

​Auteur | Xu Jiecheng

Critique | Yun Zhao

Lorsque nous parlons d'intelligence artificielle, DeepMind est un nom qui ne peut être contourné quoi qu'il arrive. En tant que l'une des sociétés de recherche en IA les plus célèbres au monde, c'est le robot AlphaGo Go qui a vaincu Lee Sedol d'un seul coup et a créé l'étape la plus éblouissante dans le développement de l'intelligence artificielle. Désormais, cette grande entreprise d’intelligence artificielle semble être devenue le dernier atout de son propriétaire Google dans la contre-attaque des chatbots.

Récemment, Behnam, co-responsable de l'équipe de grands modèles Blueshift de Google, a annoncé que l'équipe Blueshift coopérerait avec DeepMind pour améliorer encore les capacités de recherche et de développement de modèles linguistiques à grande échelle des deux parties. L'équipe fusionnée sera dirigée par Oriol Vinyals, scientifique en chef de DeepMind, qui est le principal leader de nombreux projets de premier plan tels que AlphaCode, AlphaFold et Google Research.

1. Cette astuce est peut-être la « discorde » entre Google et DeepMind

Bien que cette coopération entre Google et DeepMind semble logique en apparence, en fait, depuis l'acquisition en 2014, la relation entre DeepMind et Google a été La relation n'a jamais été harmonieuse.

Demis Hassabis, PDG et co-fondateur de DeepMind

On a toujours pensé en interne chez DeepMind que l'entreprise devait avoir la même structure institutionnelle qu'une organisation à but non lucratif pour mener sa propre recherche et innovation. dans le domaine de l’intelligence artificielle, elle devrait être utilisée au profit de l’humanité entière plutôt que contrôlée par des entreprises privées. Et certains chercheurs de DeepMind estiment également qu'ils devraient être des universitaires et, lorsqu'ils traitent avec Google, ils sont très dédaigneux à l'égard de la bureaucratie compliquée de ce dernier. Dans cette relation, DeepMind ressemble plus à un garçon de génie arrogant et rebelle, tandis que Google ressemble plus à un vieux père aux poches profondes mais incapable d'influencer les pensées de ses enfants.

Et juste en 2021, DeepMind a eu une "séparation" avec Google, même si Google s'est finalement appuyé sur ses solides ressources financières et son contrôle pour conserver cette "dream team" qui voulait être indépendante, mais depuis lors, la relation s'est rompue. La relation entre DeepMind et Google est devenue de plus en plus délicate, certains employés de DeepMind utilisant même des messages cryptés pour communiquer afin d'éviter la surveillance de Google. Il semble maintenant que si Google choisit d’activer DeepMind à un tel moment, il est fort probable qu’il soit prêt à montrer au monde son dernier et plus puissant atout.

2. L'outil tueur de ChatGPTDeepMind sera publié dans l'année

En tant que choix ultime de Google, quel genre de force DeepMind a-t-il dans la recherche de modèles de langage à grande échelle ? Cette coopération entre les deux peut-elle aider Google à remporter ce redressement ?

En fait, dès septembre de l'année dernière, DeepMind a publié un article sur son chatbot Sparrow. Selon les rapports, le modèle de base utilisé par Sparrow comporte plus de 70 milliards de paramètres et adopte un cadre d'apprentissage par renforcement basé sur les commentaires humains. Et pour contrôler l'exactitude et la sécurité du contenu qu'il génère, Sparrow est capable d'effectuer des recherches sur Internet via Google et de vérifier le contenu qu'il génère lorsqu'il parle aux utilisateurs ou répond à des questions.

De plus, afin de garantir la sécurité absolue du comportement du modèle, les chercheurs de DeepMind ont également développé un ensemble de règles de dialogue exclusives pour le modèle et ont incité Sparrow à violer ces règles grâce à des tests de dialogue. Après avoir obtenu des données d'information impliquant des conversations illégales, les chercheurs les ont utilisées pour former de manière indépendante un nouveau modèle de contrôle afin de limiter rapidement Sparrow lorsqu'il pourrait commettre une erreur.

Modèle de traitement du dialogue Sparrow

Selon les résultats finaux du test, lorsqu'on lui pose des questions factuelles, les réponses fournies par Sparrow sont très crédibles, et plus de 78% du contenu généré est Il existe des preuves définitives pour le soutenir. Et c’est aussi la fonctionnalité qui manque le plus dans ChatGPT, Bard ou New Bing.

Bien que Sparrow (70 milliards de paramètres) ne puisse pas être comparé à ChatGPT (175 milliards de paramètres) en termes de paramètres de modèle, le point important est que Google a actuellement également un grand monstre qui n'a nulle part où le mettre - Bard (137 milliards de paramètres). ). Si Google et DeepMind parviennent à bien intégrer les capacités de Bard et Sparrow dans cette coopération entre les deux parties, cela bouleversera très probablement le marché actuel des chatbots. Ce qui est plus remarquable, c’est qu’il n’y a pas si longtemps, le fondateur et PDG de DeepMind, Hassabis, a déclaré publiquement que la version bêta interne de Sparrow serait officiellement publiée en 2023. À cet égard, certains initiés de l'industrie prédisent que le moineau mentionné par Hassabis sera très probablement le Bard relooké et optimisé.

3. La guerre des chats devient de plus en plus intense

Depuis l'échec de la conférence Bard, Google tente de trouver des moyens de sauver la situation. Il semble désormais que cette coopération avec DeepMind soit un très bon choix. Mais malgré cela, le temps presse pour Google.

Le marché actuel des chatbots a montré une nette tendance à la concurrence entre les meilleurs. Microsoft, qui s'était appuyé sur New Bing pour obtenir un avantage de premier arrivé, a limité peu de temps après le nombre de conversations quotidiennes qu'il pouvait avoir avec les utilisateurs en raison de problèmes avec New Bing générant du contenu malveillant. Cependant, des nouvelles récentes montrent qu'avec le soutien d'OpenAI, Microsoft a commencé à résoudre ce problème et va assouplir ou même lever les restrictions de conversation de New Bing à court terme.

Au cours des derniers jours, Meta Company a également annoncé un nouveau modèle de langage à grande échelle appelé LLaMA-13B, affirmant qu'il peut fonctionner sur la plupart des benchmarks avec seulement un dixième de la taille de ChatGPT. GPT-3. En outre, selon des personnes proches du dossier, Iron Man Musk de la Silicon Valley prépare également un nouveau laboratoire de recherche sur l'intelligence artificielle dans un avenir proche, dans l'espoir de développer un concurrent similaire à ChatGPT, et le premier chercheur du laboratoire a travaillé pour OpenAI. Avec DeepMind.

Bien que par rapport à ces étoiles montantes, Google dispose actuellement d'un énorme avantage en termes de maturité du modèle et du produit, et l'ajout de DeepMind lui apportera certainement une aide vitale. Mais dans une situation dangereuse où il y a des interceptions devant et des poursuivants devant, Google peut-il s'appuyer sur la carte as de DeepMind pour sortir du siège et revenir sur le trône cette fois-ci ? Concernant cette question, nous ne pouvons pas encore voir de réponse claire.

Lien de référence :

https://analyticsindiamag.com/google-does-not-deserve-deepmind/

https://www.deepmind.com/blog/building-safer-dialogue-agents

https://m.thepaper.cn/baijiahao_14479005

https://openreview.net/pdf?id=YoS-abmWjJc

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!