L'industrie affirme que la recherche de style ChatGPT décuplera les coûts de Google, dépensant des milliards de plus chaque année

Nouvelles du 23 février, alors que l'outil de chat à intelligence artificielle ChatGPT continue d'être populaire, les entreprises qui fournissent des services de recherche telles que Google et Microsoft ont commencé à intégrer les fonctions du robot de chat à intelligence artificielle dans l'interface de recherche. Mais pour ces géants de la technologie, ce moteur de recherche de type chatbot va multiplier par 10 les coûts d’exploitation, ce qui entraînera des dépenses pouvant atteindre des milliards de dollars.

Les dirigeants de l'industrie technologique discutent du coût élevé de fonctionnement d'une IA comme ChatGPT. Sam Altman, PDG d'OpenAI, a déclaré un jour sur Twitter que le coût de calcul de ChatGPT par conversation avec les utilisateurs s'élève à quelques centimes ou plus, ce qui est « insupportable ».

John Hennessy, président d'Alphabet, société mère de Google, a déclaré dans une interview que même si un réglage fin peut aider à réduire rapidement les coûts, "le coût de l'échange d'informations avec l'intelligence artificielle, comme les grands modèles de langage, peut être de compléter des mots-clés standard de plus de 10 fois la fonction de recherche.

Le bénéfice net d’Alphabet en 2022 avoisinera les 60 milliards de dollars américains. Même si l'activité de recherche basée sur les chatbots génère des revenus publicitaires, la technologie pourrait avoir un impact négatif sur les résultats d'Alphabet et entraîner des milliards de dollars de coûts supplémentaires, ont déclaré les analystes.

La banque d’investissement Morgan Stanley estime que le coût des 3 300 milliards de requêtes de recherche effectuées par Google l’année dernière était d’environ 0,55 centime par requête. Ce chiffre ne dépendra plus ou moins de la quantité de texte générée par l’intelligence artificielle. Les analystes prédisent que si « un chatbot IA comme ChatGPT peut traiter la moitié des requêtes de recherche actuelles avec des réponses de 50 mots », cela coûtera à Google 6 milliards de dollars de plus par an d'ici 2024.

D’autres analystes ont des points de vue similaires. SemiAnalysis, une société de recherche et de conseil axée sur la technologie des puces, a déclaré que l'ajout d'une intelligence artificielle de type ChatGPT à la recherche pourrait coûter à Alphabet 3 milliards de dollars supplémentaires, compte tenu des nouvelles unités de traitement tensoriel de Google et d'autres optimisations.

La raison pour laquelle ce type d’intelligence artificielle est plus cher que les moteurs de recherche traditionnels est due à la puissance de calcul plus élevée qu’elle implique. Les analystes affirment que ce type d'intelligence artificielle repose sur des puces qui coûtent des milliards de dollars et que les coûts correspondants doivent être répartis sur plusieurs années de durée de vie. L’électricité consommée augmentera également la pression sur les coûts de fonctionnement des entreprises et les indicateurs d’émissions de carbone.

Le processus de traitement des requêtes de recherche de l'intelligence artificielle est appelé « inférence ». À chaque recherche, un énorme réseau neuronal qui imite le cerveau humain est lancé, générant un tas de texte et interrogeant éventuellement de grands index de recherche pour obtenir des informations factuelles.

Hannis d'Alphabet a déclaré : « Vous devez réduire le coût de l'inférence », ce qui, selon lui, « prendra des années dans le pire des cas ».

Malgré ses dépenses d'exploitation élevées, Alphabet doit encore réfléchir à la manière de répondre aux défis d'autres entreprises technologiques. Plus tôt ce mois-ci, son rival Microsoft a annoncé son intention d'intégrer des chatbots à intelligence artificielle dans son moteur de recherche Bing. Similarweb estime que les dirigeants de Microsoft visent la part de marché de recherche de Google, qui représente 91 %.

Amy Hood, directrice financière de Microsoft, a déclaré aux analystes qu'à mesure que le Bing amélioré est mis en ligne, les avantages de l'augmentation du nombre d'utilisateurs et des revenus publicitaires ont dépassé les coûts. Hood a déclaré: "Pour nous, même au prix des services dont nous discutons, la marge brute est augmentée."

Richard Socher, PDG du moteur de recherche You.com, un autre concurrent de Google (Richard Socher), a déclaré que l'ajout du chat par intelligence artificielle. l'expérience ainsi que les applications de cartographie, de vidéo et d'autres technologies génératives augmenteront les dépenses d'exploitation de 30 à 50 %. Mais il a déclaré : "Au fil du temps, la technologie deviendra de moins en moins chère."

Une source proche de Google a averti qu'il est trop tôt pour déterminer le coût spécifique du chatbot, car l'efficacité opérationnelle et l'utilisation varieront considérablement en fonction. sur la technologie impliquée, et les produits de recherche sont depuis longtemps alimentés par l’intelligence artificielle.

Paul Daugherty, directeur de la technologie d'Accenture, a déclaré que le coût est l'une des deux principales raisons pour lesquelles le géant de la recherche, qui compte des milliards d'utilisateurs, n'a pas immédiatement lancé un chatbot à intelligence artificielle.

« La première est la précision, et la deuxième est que vous devez évoluer de la bonne manière », a-t-il déclaré.

Depuis des années, les chercheurs d'Alphabet et d'autres sociétés étudient comment former et exécuter de grands modèles de langage à moindre coût.

Les modèles plus grands nécessitent généralement plus de puces pour l'inférence et coûtent donc plus cher à exécuter. Les modèles derrière l'intelligence artificielle qui incitent les consommateurs à y recourir sont assez vastes. Par exemple, le modèle derrière ChatGPT comporte 175 milliards de paramètres, et le coût de chaque opération continuera de changer avec la longueur de la requête de l'utilisateur.

Un haut responsable technologique affirme qu’il est encore trop coûteux d’amener des millions de consommateurs à utiliser ce type d’intelligence artificielle. "Ces modèles sont très chers, donc la prochaine étape de progrès réduira le coût de formation de ces modèles et de l'inférence afin qu'ils puissent être utilisés dans toutes les applications", a déclaré le dirigeant anonyme

Une personne proche du dossier a déclaré que cet ordinateur. Les scientifiques d'OpenAI ont désormais compris comment optimiser les coûts d'inférence grâce à des codes complexes pour améliorer l'efficacité du fonctionnement des puces.

Une question de longue date est de savoir comment réduire le nombre de paramètres dans un modèle d'intelligence artificielle de 10, voire 100 fois, sans affecter la précision.

"Comment éliminer (les paramètres) le plus efficacement possible reste une question ouverte", a déclaré Naveen Rao, qui a autrefois dirigé le projet de puce d'intelligence artificielle d'Intel.

Dans le même temps, certaines entreprises envisagent de payer pour utiliser la recherche par intelligence artificielle, comme le service ChatGPT amélioré d'OpenAI, qui facture un abonnement mensuel de 20 $. Les experts en technologie affirment également qu’une solution de contournement consiste à appliquer des modèles d’IA plus petits à des tâches plus simples, une approche qu’Alphabet explore.

Alphabet a déclaré ce mois-ci qu'une "version plus petite" de son modèle d'intelligence artificielle LaMDA alimentera le chatbot Bard, "nécessitant beaucoup moins de puissance de calcul, ce qui nous permettra de nous adapter à plus d'utilisateurs

La semaine dernière, lorsque nous avons été interrogés sur les chatbots." Comme ChatGPT et Bader lors d'une conférence, Hannis a déclaré que des modèles plus ciblés plutôt que des systèmes omnipotents contribueraient à « réduire les coûts ».

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!