Maison Périphériques technologiques IA Galaxy AI Network, la réponse à la capacité de transport à l'ère des grands modèles

Galaxy AI Network, la réponse à la capacité de transport à l'ère des grands modèles

Sep 30, 2023 pm 07:05 PM
网络 galaxie ai Réponse en matière de capacité

À mesure que la valeur des grands modèles d'IA pré-entraînés continue d'émerger, l'échelle des modèles devient de plus en plus grande. L'industrie et le monde universitaire sont parvenus à un consensus : à l'ère de l'IA, la puissance de calcul est synonyme de productivité.

Bien que cette compréhension soit correcte, elle n’est pas exhaustive. Les systèmes numériques reposent sur trois piliers : le stockage, l’informatique et la mise en réseau, et il en va de même pour la technologie de l’IA. Si l’on met de côté le stockage et la puissance de calcul du réseau, les grands modèles ne peuvent être autonomes. En particulier, l’infrastructure réseau adaptée aux grands modèles n’a pas reçu une attention particulière.

Face aux grands modèles d'IA qui sont fréquemment « entraînés avec des dizaines de milliers de cartes », « déployés sur des milliers de kilomètres » et « avec des milliards de paramètres », la capacité de transport du réseau est un maillon incontournable dans l'ensemble de l'intelligence artificielle. système. Les défis auxquels elle est confrontée sont très importants et elle attend des réponses susceptibles de briser la situation.

Galaxy AI Network, la réponse à la capacité de transport à lère des grands modèles

Wang Lei, président de la gamme de produits de communication de données Huawei

Le 20 septembre, un sommet sur les communications de données sur le thème « Galaxy AI Network, Accelerating Industry Intelligence » s'est tenu lors de la conférence Huawei Connect 2023. Des représentants de tous horizons ont discuté des tendances de transformation et de développement de la technologie des réseaux d’IA. Lors de la réunion, Wang Lei, président de la gamme de produits de communication de données de Huawei, a officiellement lancé la solution réseau Galaxy AI. Il a déclaré que les grands modèles rendent l'IA plus intelligente, mais que le coût de la formation d'un grand modèle est très élevé et que le coût des talents en IA doit également être pris en compte. Par conséquent, dans la phase d'intelligentisation de l'industrie, ce n'est qu'en se concentrant sur la création de grands clusters de puissance de calcul et en fournissant des services de cloud computing intelligents à la société que l'intelligence artificielle pourra véritablement pénétrer dans des milliers d'industries. Huawei a lancé une nouvelle génération de solution réseau Galaxy AI Face à l'ère de l'intelligence, elle construit une nouvelle infrastructure réseau avec un débit ultra élevé, une stabilité à long terme, une fiabilité, une élasticité et une concurrence élevée pour aider l'IA à profiter à tous et à accélérer l'intelligence de. l'industrie.

Profitez de cette opportunité pour en savoir plus sur les défis de réseau posés aux centres de données informatiques intelligents par l'essor des grands modèles, et pourquoi le réseau Huawei Galaxy AI est la solution optimale à ces problèmes.

À l'ère de l'IA, un modèle, une donnée et une unité informatique peuvent être considérés comme une lumière d'étoile. Cependant, ce n’est qu’en les connectant ensemble de manière efficace et stable qu’un monde intelligent et brillant pourra être formé

L'éclosion des grands modèles a déclenché un torrent de réseau caché

Nous savons que le modèle d'IA se divise en deux étapes : la formation et le déploiement de l'inférence. Avec la montée en puissance des grands modèles pré-entraînés, d’énormes défis en matière de réseau d’IA se sont également produits au cours de ces deux étapes.

La première est en phase de formation du grand modèle. À mesure que l'échelle du modèle et les paramètres de données deviennent de plus en plus grands, la formation de grands modèles commence à nécessiter des clusters de calcul de kilocalories, voire de 10 000 kilowatts. Cela signifie également que la formation de grands modèles doit avoir lieu dans des centres de données dotés de la puissance de calcul de l'IA.

Au stade actuel, le coût des centres de données informatiques intelligents est très élevé. Selon les données de l'industrie, le coût de construction d'un cluster doté d'une puissance de calcul de 100P atteint 400 millions de yuans. En prenant comme exemple un grand modèle international bien connu, sa dépense quotidienne en puissance de calcul pendant le processus de formation atteint 700 000 dollars américains

Si la capacité de connexion du réseau du centre de données n'est pas fluide, entraînant la perte d'une grande quantité de ressources informatiques lors de la transmission réseau, les pertes pour le centre de données et les modèles d'IA seront incommensurables. Au contraire, si la formation en cluster est plus efficace pour la même échelle de puissance de calcul, les centres de données bénéficieront d’énormes opportunités commerciales. Le taux de charge et d'autres facteurs de réseau déterminent directement l'efficacité de la formation du modèle d'IA. D'un autre côté, à mesure que l'échelle du cluster de puissance de calcul de l'IA continue de croître, sa complexité augmente également en conséquence, de sorte que la probabilité de panne augmente également. Construire un réseau de clusters stable et fiable à long terme est un pivot important pour les centres de données afin d'améliorer leur ratio entrées-sorties

Galaxy AI Network, la réponse à la capacité de transport à lère des grands modèles

En dehors du centre de données, la valeur des réseaux d'IA peut également être constatée dans les scénarios de raisonnement et de déploiement des modèles d'IA. Le déploiement d'inférence de grands modèles repose principalement sur les services cloud, et les fournisseurs de services cloud doivent essayer de servir des clients plus importants disposant de ressources informatiques limitées afin de maximiser la valeur commerciale des grands modèles. En conséquence, plus il y a d’utilisateurs, plus la structure globale du réseau cloud sera complexe. Comment fournir des services réseau stables et à long terme est devenu un nouveau défi pour les fournisseurs de services de cloud computing.

De plus, dans le dernier kilomètre du déploiement de l'inférence de l'IA, les utilisateurs gouvernementaux et les entreprises sont confrontés à la nécessité d'améliorer la qualité du réseau. Dans des scénarios réels, une perte de paquets de liaison de 1 % entraînera une baisse des performances TCP de 50 fois, ce qui signifie que pour un haut débit de 100 Mbps, la capacité réelle est inférieure à 2 Mbps. Par conséquent, ce n’est qu’en améliorant les capacités réseau du scénario d’application lui-même que nous pourrons garantir le flux fluide de la puissance de calcul de l’IA et réaliser une IA véritablement inclusive.

Il n'est pas difficile de voir à partir de là que dans tout le processus de naissance, de transmission et d'application de grands modèles d'IA, chaque maillon est confronté aux défis et aux besoins des mises à niveau du réseau. Le problème de la capacité de transport à l’ère des grands modèles doit être résolu de toute urgence.

L'idée d'une perturbation des réseaux à l'ère intelligente peut s'étendre de la lumière des étoiles à la galaxie

La montée en puissance des grands modèles a entraîné un problème de réseau multi-liens et à processus complet. Nous devons donc adopter une approche systématique pour relever ce défi

Huawei a proposé une nouvelle infrastructure réseau pour les services cloud informatiques intelligents. L'installation doit prendre en charge les trois capacités de « formation à haute efficacité », de « puissance de calcul continue » et de « services d'IA inclusifs ». Ces trois fonctionnalités couvrent l’ensemble du scénario des grands modèles d’IA, de la formation au déploiement d’inférence. Huawei se concentre non seulement sur la satisfaction d'un seul besoin et sur la mise à niveau d'une seule technologie, mais promeut également de manière globale l'itération des réseaux d'IA, apportant des idées révolutionnaires uniques à l'industrie

Plus précisément, l'infrastructure réseau à l'ère de l'IA doit inclure les capacités suivantes :

Tout d'abord, le réseau doit maximiser la valeur du cluster informatique IA dans le scénario de formation. En construisant un réseau doté de capacités de connexion à très grande échelle, une formation à haute efficacité de grands modèles d'IA est obtenue.

Deuxièmement, afin d'assurer la stabilité et la durabilité des tâches d'IA, il est nécessaire de construire des capacités de réseau fiables et à long terme pour garantir que l'entraînement mensuel ne soit pas interrompu en même temps, une délimitation, un positionnement et une récupération stables. le deuxième niveau est nécessaire pour minimiser les interruptions de formation. Il s’agit du renforcement continu des capacités de calcul.

Encore une fois, lors du processus de déploiement de l'inférence de l'IA, le réseau doit avoir des caractéristiques de concurrence élastiques et élevées, qui peuvent orchestrer intelligemment des flux d'utilisateurs massifs et fournir la meilleure expérience d'atterrissage de l'IA. Il peut également résister à l'impact du réseau. dégradation et assurer une puissance de calcul d'IA fluide entre les différentes régions mobiles, cela réalise également le renforcement des capacités des « services d'IA inclusifs ».

Huawei a finalement lancé la solution réseau Galaxy AI, adhérant à cette idée révolutionnaire. Cette solution intègre des technologies d'IA dispersées et forme un réseau de type galaxie grâce à de puissantes capacités informatiques

Galaxy AI Network apporte une réponse de capacité à l'ère du grand modèle

Lors de la Huawei Full Connectivity Conference 2023, Huawei a partagé sa vision de développement visant à accélérer la création de grands modèles d'IA dotés d'une grande puissance de calcul, d'une grande capacité de stockage et d'une grande capacité de transport. La nouvelle génération de solution réseau Galaxy AI de Huawei peut être considérée comme la solution de Huawei pour une capacité de transport à grande échelle à l'ère de l'intelligence.

Pour les centres de données intelligents, Huawei Galaxy AI Network est la solution optimale basée sur la puissance du réseau.

Galaxy AI Network, la réponse à la capacité de transport à lère des grands modèles

Ses caractéristiques de réseau à très haut débit peuvent apporter une valeur importante pour améliorer le taux de charge du réseau et améliorer l'efficacité de la formation des clusters d'IA dans les centres informatiques intelligents. Plus précisément, les commutateurs informatiques intelligents du réseau Galaxy AI disposent des capacités de ports 400GE et 800GE les plus denses du secteur. Seul un réseau de commutation de couche 2 peut réaliser un réseau de cluster sans convergence de 18 000 cartes, prenant ainsi en charge la formation de grands modèles avec plus d'un billion de paramètres. Une fois les niveaux de mise en réseau réduits, cela signifie que le centre de données peut économiser beaucoup de coûts de modules optiques, tout en améliorant la prévisibilité des risques réseau et en obtenant des capacités de formation de grands modèles plus stables.

Le réseau Galaxy AI peut prendre en charge l'équilibrage de charge NSLB au niveau du réseau, augmentant le taux de charge de 50 % à 98 %, ce qui équivaut à réaliser une opération d'overclocking du cluster AI, augmentant ainsi l'efficacité de la formation de 20 %, répondant ainsi aux attentes d'une formation efficace

Galaxy AI Network, la réponse à la capacité de transport à lère des grands modèles

Pour les fabricants de services cloud, Galaxy AI Network peut fournir une garantie de puissance de calcul stable et fiable.

Dans les scénarios d'interconnexion de salles informatiques DCI, cette technologie peut fournir des fonctions telles que la planification intelligente multi-chemins, identifier automatiquement et s'adapter de manière proactive à l'impact du trafic professionnel de pointe. Il peut identifier les flux grands et petits parmi des millions de flux de données et les allouer raisonnablement à 100 000 chemins pour atteindre une congestion nulle dans le réseau et fournir une garantie élastique pour les services cloud informatiques intelligents à haute concurrence

Pour les utilisateurs gouvernementaux et professionnels, le réseau Galaxy AI peut faire face aux problèmes de dégradation du réseau et garantir une puissance de calcul universelle de l'IA.

Il peut prendre en charge des capacités anti-dégradation élastiques dans les scénarios de calcul DCA et utilise la technologie Fillp pour optimiser le protocole TCP, ce qui peut augmenter le taux de charge de la bande passante de 10 % à 60 % dans des conditions de taux de perte de paquets de 1 %, garantissant ainsi que des zones urbaines aux zones reculées La puissance de calcul dans la région circule de manière fluide, accélérant l'application inclusive des services d'IA.

De cette façon, les exigences réseau de tous les aspects des grands modèles, de la formation au déploiement, sont résolues. Des centres informatiques intelligents à des milliers d’industries, il existe un point d’appui pour le développement de l’informatique en réseau.

À l'ère de l'intelligence, une nouvelle ère technologique ouverte par les grands modèles vient de commencer. Galaxy AI Network apporte la réponse à la capacité de transport à l’ère intelligente

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!

Déclaration de ce site Web
Le contenu de cet article est volontairement contribué par les internautes et les droits d'auteur appartiennent à l'auteur original. Ce site n'assume aucune responsabilité légale correspondante. Si vous trouvez un contenu suspecté de plagiat ou de contrefaçon, veuillez contacter admin@php.cn

Outils d'IA chauds

Undresser.AI Undress

Undresser.AI Undress

Application basée sur l'IA pour créer des photos de nu réalistes

AI Clothes Remover

AI Clothes Remover

Outil d'IA en ligne pour supprimer les vêtements des photos.

Undress AI Tool

Undress AI Tool

Images de déshabillage gratuites

Clothoff.io

Clothoff.io

Dissolvant de vêtements AI

AI Hentai Generator

AI Hentai Generator

Générez AI Hentai gratuitement.

Article chaud

R.E.P.O. Crystals d'énergie expliqués et ce qu'ils font (cristal jaune)
2 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Repo: Comment relancer ses coéquipiers
4 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island Adventure: Comment obtenir des graines géantes
4 Il y a quelques semaines By 尊渡假赌尊渡假赌尊渡假赌
Combien de temps faut-il pour battre Split Fiction?
3 Il y a quelques semaines By DDD

Outils chauds

Bloc-notes++7.3.1

Bloc-notes++7.3.1

Éditeur de code facile à utiliser et gratuit

SublimeText3 version chinoise

SublimeText3 version chinoise

Version chinoise, très simple à utiliser

Envoyer Studio 13.0.1

Envoyer Studio 13.0.1

Puissant environnement de développement intégré PHP

Dreamweaver CS6

Dreamweaver CS6

Outils de développement Web visuel

SublimeText3 version Mac

SublimeText3 version Mac

Logiciel d'édition de code au niveau de Dieu (SublimeText3)

Comment ajuster la taille du MTU sur Windows 11 Comment ajuster la taille du MTU sur Windows 11 Aug 25, 2023 am 11:21 AM

Si vous rencontrez soudainement une connexion Internet lente sous Windows 11 et que vous avez essayé toutes les astuces du livre, cela n'a peut-être rien à voir avec votre réseau et tout à voir avec votre unité de transmission maximale (MTU). Des problèmes peuvent survenir si votre système envoie ou reçoit des données avec une taille MTU incorrecte. Dans cet article, nous apprendrons comment modifier la taille du MTU sous Windows 11 pour une connexion Internet fluide et ininterrompue. Quelle est la taille MTU par défaut dans Windows 11 ? La taille MTU par défaut dans Windows 11 est de 1 500, ce qui correspond au maximum autorisé. MTU signifie unité de transmission maximale. Il s'agit de la taille maximale des paquets pouvant être envoyés ou reçus sur le réseau. chaque réseau de soutien

Le module d'extension WLAN s'est arrêté [correctif] Le module d'extension WLAN s'est arrêté [correctif] Feb 19, 2024 pm 02:18 PM

S'il y a un problème avec le module d'extension WLAN sur votre ordinateur Windows, cela peut entraîner une déconnexion d'Internet. Cette situation est souvent frustrante, mais heureusement, cet article propose quelques suggestions simples qui peuvent vous aider à résoudre ce problème et à rétablir le bon fonctionnement de votre connexion sans fil. Réparer le module d'extensibilité WLAN s'est arrêté Si le module d'extensibilité WLAN a cessé de fonctionner sur votre ordinateur Windows, suivez ces suggestions pour le réparer : Exécutez l'utilitaire de résolution des problèmes réseau et Internet pour désactiver et réactiver les connexions réseau sans fil Redémarrez le service de configuration automatique WLAN Modifier les options d'alimentation Modifier Paramètres d'alimentation avancés Réinstaller le pilote de la carte réseau Exécuter certaines commandes réseau Examinons-le maintenant en détail

Comment résoudre l'erreur du serveur DNS Win11 Comment résoudre l'erreur du serveur DNS Win11 Jan 10, 2024 pm 09:02 PM

Nous devons utiliser le DNS correct lors de la connexion à Internet pour accéder à Internet. De la même manière, si nous utilisons des paramètres DNS incorrects, cela entraînera une erreur du serveur DNS. À ce stade, nous pouvons essayer de résoudre le problème en sélectionnant d'obtenir automatiquement le DNS dans les paramètres réseau. solutions. Comment résoudre l'erreur du serveur DNS du réseau Win11. Méthode 1 : Réinitialiser le DNS 1. Tout d'abord, cliquez sur Démarrer dans la barre des tâches pour entrer, recherchez et cliquez sur le bouton icône « Paramètres ». 2. Cliquez ensuite sur la commande d'option "Réseau et Internet" dans la colonne de gauche. 3. Recherchez ensuite l'option « Ethernet » sur la droite et cliquez pour entrer. 4. Après cela, cliquez sur "Modifier" dans l'attribution du serveur DNS et définissez enfin DNS sur "Automatique (D

Corrigez les téléchargements « Échec de l'erreur réseau » sur Chrome, Google Drive et Photos ! Corrigez les téléchargements « Échec de l'erreur réseau » sur Chrome, Google Drive et Photos ! Oct 27, 2023 pm 11:13 PM

Qu'est-ce que le problème « Échec du téléchargement de l'erreur réseau » ? Avant d’aborder les solutions, comprenons d’abord ce que signifie le problème « Échec du téléchargement de l’erreur réseau ». Cette erreur se produit généralement lorsque la connexion réseau est interrompue pendant le téléchargement. Cela peut se produire pour diverses raisons telles qu'une faible connexion Internet, une congestion du réseau ou des problèmes de serveur. Lorsque cette erreur se produit, le téléchargement s'arrêtera et un message d'erreur s'affichera. Comment réparer l’échec du téléchargement avec une erreur réseau ? Faire face à « Échec du téléchargement d'une erreur réseau » peut devenir un obstacle lors de l'accès ou du téléchargement des fichiers nécessaires. Que vous utilisiez des navigateurs comme Chrome ou des plateformes comme Google Drive et Google Photos, cette erreur apparaîtra, provoquant des désagréments. Vous trouverez ci-dessous des points pour vous aider à naviguer et à résoudre ce problème.

Correctif : WD My Cloud n'apparaît pas sur le réseau sous Windows 11 Correctif : WD My Cloud n'apparaît pas sur le réseau sous Windows 11 Oct 02, 2023 pm 11:21 PM

Si WDMyCloud n'apparaît pas sur le réseau sous Windows 11, cela peut être un gros problème, surtout si vous y stockez des sauvegardes ou d'autres fichiers importants. Cela peut constituer un gros problème pour les utilisateurs qui ont fréquemment besoin d'accéder au stockage réseau. Dans le guide d'aujourd'hui, nous allons donc vous montrer comment résoudre ce problème de manière permanente. Pourquoi WDMyCloud n'apparaît-il pas sur le réseau Windows 11 ? Votre appareil MyCloud, votre adaptateur réseau ou votre connexion Internet n'est pas configuré correctement. La fonction SMB n'est pas installée sur l'ordinateur. Un problème temporaire dans Winsock peut parfois être à l'origine de ce problème. Que dois-je faire si mon cloud n'apparaît pas sur le réseau ? Avant de commencer à résoudre le problème, vous pouvez effectuer quelques vérifications préliminaires :

Que dois-je faire si la Terre s'affiche dans le coin inférieur droit de Windows 10 alors que je ne peux pas accéder à Internet Diverses solutions au problème selon lequel la Terre ne peut pas accéder à Internet dans Win10 ? Que dois-je faire si la Terre s'affiche dans le coin inférieur droit de Windows 10 alors que je ne peux pas accéder à Internet Diverses solutions au problème selon lequel la Terre ne peut pas accéder à Internet dans Win10 ? Feb 29, 2024 am 09:52 AM

Cet article présentera la solution au problème selon lequel le symbole du globe s'affiche sur le réseau du système Win10 mais ne peut pas accéder à Internet. L'article fournira des étapes détaillées pour aider les lecteurs à résoudre le problème du réseau Win10 montrant que la Terre ne peut pas accéder à Internet. Méthode 1 : Redémarrez directement. Vérifiez d'abord si le câble réseau n'est pas correctement branché et si le haut débit est en retard. Dans ce cas, vous devez redémarrer le routeur ou le modem optique. Si aucune action importante n'est effectuée sur l'ordinateur, vous pouvez redémarrer l'ordinateur directement. La plupart des problèmes mineurs peuvent être rapidement résolus en redémarrant l'ordinateur. S’il est déterminé que le haut débit n’est pas en retard et que le réseau est normal, c’est une autre affaire. Méthode 2 : 1. Appuyez sur la touche [Win] ou cliquez sur [Menu Démarrer] dans le coin inférieur gauche. Dans l'élément de menu qui s'ouvre, cliquez sur l'icône d'engrenage au-dessus du bouton d'alimentation. Il s'agit de [Paramètres].

Comment activer/désactiver Wake on LAN dans Windows 11 Comment activer/désactiver Wake on LAN dans Windows 11 Sep 06, 2023 pm 02:49 PM

Wake on LAN est une fonctionnalité réseau sur Windows 11 qui vous permet de sortir votre ordinateur à distance de la veille prolongée ou du mode veille. Bien que les utilisateurs occasionnels ne l'utilisent pas souvent, cette fonctionnalité est utile pour les administrateurs réseau et les utilisateurs expérimentés utilisant des réseaux filaires, et aujourd'hui nous allons vous montrer comment la configurer. Comment savoir si mon ordinateur prend en charge Wake on LAN ? Pour utiliser cette fonctionnalité, votre ordinateur a besoin des éléments suivants : Le PC doit être connecté à une alimentation ATX afin que vous puissiez le sortir du mode veille à distance. Des listes de contrôle d'accès doivent être créées et ajoutées à tous les routeurs du réseau. La carte réseau doit prendre en charge la fonction Wake-up-on-LAN. Pour que cette fonctionnalité fonctionne, les deux ordinateurs doivent être sur le même réseau. Bien que la plupart des adaptateurs Ethernet utilisent

Comment vérifier les détails et l'état de la connexion réseau sous Windows 11 Comment vérifier les détails et l'état de la connexion réseau sous Windows 11 Sep 11, 2023 pm 02:17 PM

Afin de vous assurer que votre connexion réseau fonctionne correctement ou de résoudre le problème, vous devez parfois vérifier les détails de la connexion réseau sous Windows 11. En faisant cela, vous pouvez afficher diverses informations, notamment votre adresse IP, votre adresse MAC, la vitesse de la liaison, la version du pilote, etc., et dans ce guide, nous vous montrerons comment procéder. Comment trouver les détails de la connexion réseau sur Windows 11 ? 1. Utilisez l'application « Paramètres » et appuyez sur la touche + pour ouvrir les paramètres Windows. WindowsI Ensuite, accédez à Réseau et Internet dans le volet de gauche et sélectionnez votre type de réseau. Dans notre cas, il s'agit d'Ethernet. Si vous utilisez un réseau sans fil, sélectionnez plutôt un réseau Wi-Fi. Au bas de l'écran, vous devriez voir

See all articles