Instance de conteneur élastique Volcano Engine : un outil puissant pour passer d'une architecture centrée sur les nœuds à une architecture sans serveur

Avec la maturité croissante de Kubernetes et de la technologie des conteneurs, de plus en plus d'entreprises commencent à migrer leurs applications métier vers le cloud. En adoptant une architecture cloud native, ces entreprises peuvent mieux soutenir le développement rapide et le fonctionnement stable de leurs activités.

Avec le développement en profondeur du cloud computing dans le processus de développement, la maturité de l'architecture sans serveur a amené la technologie cloud native à une nouvelle étape - le sans serveur a maximisé l'évolutivité élastique du cloud public, la maintenance sans opération, l'accès rapide et autres fonctionnalités, réduisant considérablement le coût d'utilisation de l'utilisateur, permet aux utilisateurs et aux entreprises de se concentrer uniquement sur leur logique métier et de réaliser un développement agile au vrai sens du terme.

Afin de mieux accompagner les entreprises dans la mise en œuvre du nouveau concept cloud natif de Serverless dans les applications métier, l'équipe cloud native de Volcano Engine met à niveau et innove de manière complète les produits, couvrant de nombreux aspects tels que le concept, la conception du système et la conception de l'architecture. Ils s'engagent à exploiter pleinement les avantages et la valeur de la technologie sans serveur pour aider les entreprises à exécuter plus efficacement leurs applications métier.

Du centre de nœuds à l'architecture sans serveur

L'architecture Kubernetes traditionnelle prend généralement les nœuds comme noyau, ce qui signifie que l'équipe doit créer des clusters sur des nœuds de ressources tels que des serveurs cloud et effectuer la gestion de l'exploitation et de la maintenance. autour de ces nœuds. L'architecture de cluster Kubernetes traditionnelle nécessite la gestion du déploiement, de la surveillance et de la maintenance des applications de conteneur sur différents nœuds. Cette approche nécessite plus de main d'œuvre et d'investissement en temps pour maintenir la stabilité et la fiabilité de l'ensemble du cluster. Cependant, avec le développement de la technologie, un nouveau type d’architecture Kubernetes a vu le jour, à savoir une architecture basée sur le maillage de services. Dans une architecture basée sur une grille de services, les fonctions réseau sont abstraites et unifiées via des composants de grille de services spécialisés. À mesure que l'échelle de l'entreprise augmente et que le nombre de nœuds augmente, cette architecture est généralement moins efficace dans le déploiement et le fonctionnement des applications conteneurs. certains défis, comprenant principalement les aspects suivants :

Exploitation et maintenance des nœuds complexes
•  : les utilisateurs doivent gérer et entretenir les nœuds par eux-mêmes, y compris la configuration et l'initialisation des nœuds, les mises à jour et mises à niveau du système d'exploitation, la gestion de la sécurité, le fonctionnement des nœuds complexes et fastidieux. travaux d'exploitation et de maintenance tels que la surveillance, la collecte et l'analyse des journaux, la récupération des pannes, la gestion du réseau, la gestion du stockage, l'expansion et la contraction, la planification et l'allocation des ressources et la gestion des coûts des ressources
Faible utilisation des ressources
•  : réservation de nœuds Ressources fixes, même ; si la charge de travail réelle nécessite moins de ressources, ne peut pas réduire l'utilisation des ressources du nœud ; le taux de fragmentation des ressources du nœud est élevé et certaines ressources inutilisées distribuées sur différents nœuds sont difficiles à regrouper efficacement et ne peuvent pas être pleinement utilisées afin d'éviter une surallocation des ressources ; goulots d'étranglement, les ressources sont souvent planifiées en fonction de la charge maximale. Il est difficile de prédire la demande réelle et peut entraîner une grande quantité de ressources inutilisées ; Répondre à une charge accrue. Dans l'architecture traditionnelle centrée sur les nœuds, l'expansion des ressources informatiques nécessite souvent la création et la configuration de nouveaux nœuds de serveur cloud. Ce processus peut prendre plusieurs minutes et ne peut pas permettre une expansion instantanée.
Volcan Engine
• Elastic Container Instance (Volcengine Container Instance, appelée VCI) est une nouvelle solution cloud native lancée pour la situation ci-dessus. Elle est extraite de l'accumulation de technologies cloud natives au sein de ByteDance depuis de nombreuses années et est sans serveur. et solution conteneurisée. Service informatique -
Étroitement intégrée au service de conteneur Volcano Engine VKE via la technologie Virtual Kubelet, l'instance de conteneur élastique VCI peut fournir aux utilisateurs des fonctions informatiques flexibles et d'orchestration Kubernetes, prenant en charge un démarrage rapide, une création de concurrence élevée et un bac à sable sécurisé. isolement des conteneurs.

En intégrant les avantages du sans serveur et des conteneurs, Elastic Container Instance (VCI) peut fournir aux entreprises un environnement d'exploitation efficace, fiable et sécurisé, permettant aux utilisateurs de se concentrer sur le développement et l'exécution d'applications d'architecture cloud native sans se soucier de l'infrastructure sous-jacente. Gestion et maintenance, et paiement uniquement pour les ressources nécessaires au fonctionnement réel de l'entreprise, aidant ainsi les entreprises à contrôler plus raisonnablement les coûts du cloud.

Pas d'exploitation et de maintenance de l'infrastructure, pas de planification des ressources informatiques

Dans l'architecture de cluster Kubernetes traditionnelle auto-construite, qu'il s'agisse du plan de contrôle ou du plan de données, en tant que support pour l'exécution du groupe de conteneurs Pod, les nœuds sont situés au cœur de l'architecture Kubernetes, lorsque les ressources informatiques des nœuds sont insuffisantes, les ressources informatiques doivent être complétées par l'ajout de nœuds pour prendre en charge le déploiement ou l'expansion des charges de travail de l'entreprise.

Sur le cloud, divers services Kubernetes gérés représentés par Volcano Engine Container Service VKE remplaceront les utilisateurs dans la gestion et l'exploitation du plan de contrôle Kubernetes, en fournissant des services gérés avec des garanties SLA. Pour le plan de données qui exécute les charges de travail professionnelles réelles des utilisateurs, les utilisateurs doivent généralement exploiter et entretenir eux-mêmes les nœuds de travail, et les ressources informatiques fournies par les nœuds doivent être planifiées à l'avance en fonction des caractéristiques de l'entreprise, par exemple lorsque les pics d'activité l'exigent. expansion anticipée, les ralentissements commerciaux nécessitent une réduction des effectifs.

Par conséquent, dans l'architecture Kubernetes traditionnelle centrée sur les nœuds, l'exploitation et la maintenance des nœuds nécessitent souvent beaucoup d'énergie de la part de l'équipe technique, en même temps, comment équilibrer la question de la planification avancée des ressources et des coûts des ressources est également devenu un problème ; pour les entreprises entrant dans l'ère de « Utilisation raffinée du cloud » Des questions auxquelles je devrai réfléchir plus tard.

Elastic Container Instance VCI fournit des services informatiques sans serveur et conteneurisés. Chaque VCI fournira uniquement l'environnement d'exploitation et les ressources informatiques pour un seul pod. Les utilisateurs n'ont pas besoin de se soucier du fonctionnement, de la maintenance et de la planification de la capacité des nœuds sous-jacents, et uniquement. besoin de déployer des applications conteneurisées à la demande. Lorsque vous utilisez VCI pour déployer des applications de conteneur, vous pouvez utiliser la sémantique native de Kubernetes, qui n'est pas différente de l'architecture de centre de nœud.

Au niveau des ressources, l'instance de conteneur élastique VCI utilise l'infrastructure informatique Volcano Engine comme pool de ressources pour fournir des ressources informatiques de conteneur de plusieurs types de ressources afin de permettre aux utilisateurs de choisir de manière flexible en fonction des besoins de l'entreprise. Dans le même temps, les utilisateurs n'ont pas besoin de prêter attention aux problèmes de planification de la capacité des ressources. VCI fournit des ressources informatiques massives et ne provoquera pas de phénomènes tels que la dérive des pods et la reprogrammation qui sont courants dans les architectures traditionnelles centrées sur les nœuds, ce qui entraînerait davantage d'interruptions de service. , fluctuations des performances, problèmes tels que l'incohérence des données et les retards de planification.

Enfin, l'intégration transparente du service de conteneur VKE et de l'instance de conteneur élastique VCI réalise non seulement un hébergement complet du plan de contrôle du cluster Kubernetes, mais fournit également aux utilisateurs un hébergement complet sans serveur et un fonctionnement gratuit du plan de données (c'est-à-dire l'instance de conteneur élastique VCI) La maintenance et l'isolation de sécurité réduisent considérablement les coûts d'exploitation et de maintenance des utilisateurs sur l'infrastructure Kubernetes et éliminent la complexité de la planification de la capacité, permettant aux utilisateurs de se concentrer davantage sur leurs applications métier.

Élasticité ultime, vous obtenez ce dont vous avez besoin

Flexez et économisez

Selon les données d'enquête divulguées par Flexera dans le "2022 Cloud State Report", les entreprises interrogées ont auto-évalué que le gaspillage des coûts du cloud atteignait 32 % , "coût " est devenu l'un des défis cloud les plus préoccupants pour les entreprises pendant trois années consécutives - "l'utilisation raffinée du cloud" a commencé à recevoir de plus en plus d'attention de la part des entreprises. Comment économiser les coûts du cloud tout en répondant aux besoins de développement commercial est devenu. une entreprise Un défi important qui doit être résolu lors de l'utilisation du cloud.

Elastic Container Instance VCI s'est concentré sur les besoins de « contrôle des coûts du cloud » de l'entreprise dès le début de la conception de son produit, en mettant l'accent sur une facturation affinée basée sur la quantité réelle de ressources utilisées et en prenant en charge plusieurs modèles de facturation pour aider les entreprises à vraiment en faire bon usage. du nuage.

Facturation affinée : L'instance de conteneur élastique VCI est facturée en fonction des ressources réellement utilisées par le groupe de conteneurs d'utilisateurs (Pod). Les ressources de facturation incluent le vCPU, la mémoire, le GPU, etc. Dans le même temps, le temps de facturation de l'instance VCI est son temps d'exécution, qui est le temps utilisé par le pod utilisateur entre le téléchargement de l'image du conteneur et l'arrêt de son exécution. Il est précis au deuxième niveau, réalisant véritablement une facturation basée sur l'utilisation réelle. .

Amélioration du taux de compression : dans l'architecture cloud native, par rapport aux ressources informatiques traditionnelles, un autre avantage des instances de conteneurs élastiques est de réduire les ressources inutilisées et d'augmenter le taux de compression, réduisant ainsi les coûts d'utilisation des ressources informatiques de l'utilisateur. Plus précisément, lorsqu'un cluster Kubernetes utilise le serveur cloud ECS comme nœud de travail, il doit exécuter les composants système requis par Kubernetes sur le nœud, donc certaines ressources informatiques doivent être réservées, et il y a un certain coût supplémentaire et si élastique ; L'instance de conteneur VCI est utilisée comme ressource informatique, vous ne devez payer que pour les ressources réelles utilisées par les pods professionnels :

• Exemple : en exécutant 3 pods professionnels, les besoins en ressources pour le vCPU sont divisés en 16C, 8C, 8C.
• Utilisez ECS : Au moins 2 nœuds ECS sont requis avec 32C vCPU (besoin de réserver des ressources pour le système sur chaque nœud)
• Utilisez VCI : Créez 3 instances VCI égales aux ressources requises par le Pod, c'est-à-dire des ressources informatiques 32C (aucune ressource n'est inactive)

Méthodes de facturation riches : L'instance de conteneur élastique actuelle VCI a officiellement pris en charge la facturation à l'utilisation et lancera une invitation événement de test pour le modèle de paiement par instance préemptive (Spot), ainsi que pour les instances réservées et les réservations flexibles. Les modèles prépayés tels que les instances sont également pris en charge par les forfaits. En proposant plusieurs modèles de paiement, nous espérons aider les utilisateurs à optimiser davantage la gestion des coûts et la budgétisation des ressources informatiques, et à choisir différents modèles de paiement pour différents scénarios commerciaux, coordonnant ainsi mieux les besoins en ressources de l'entreprise et la planification des coûts du cloud.

Peut être joué

Elastic Container Instance VCI intègre entièrement l'infrastructure de ressources informatiques de Volcano Engine pour l'alimentation électrique et fournit une variété de familles de spécifications d'instance que les utilisateurs peuvent choisir en fonction de différentes capacités matérielles sous-jacentes, offrant des performances de calcul, de stockage et de réseau différenciées, prenant en charge les couvertures. une variété d'applications métier et de scénarios de services.

CPU Famille de spécifications à usage général : tels que le type informatique à usage général u1, le n3i à usage général, etc., qui fournissent des capacités de processeur virtuel, de mémoire et de réseau équilibrées pour répondre aux besoins de service dans la plupart des scénarios.

GPU Famille de spécifications de type informatique : telles que le type de calcul GPU gni2 (équipé d'une carte graphique GPU NVIDIA A10), le type de calcul GPU g1v (équipé d'une carte graphique GPU NVIDIA V100), etc., qui peuvent être utilisés dans formation sur de grands modèles, génération de texte et d'images, tâches Fournit une expérience rentable dans divers scénarios informatiques d'IA tels que le raisonnement.

Le dernier type informatique général u1 Famille de spécifications d'instance s'appuie sur la technologie de mise en commun des ressources Volcano Engine et sur un algorithme de planification intelligent pour la gestion dynamique des ressources, qui peut fournir aux entreprises un approvisionnement stable en puissance de calcul et prendre en charge une variété de traitement Rapport flexible entre le processeur et la mémoire du processeur, depuis les petites spécifications fines telles que 0,25C-0,5Gi, 0,5C-1Gi, 1C-2Gi jusqu'aux grandes spécifications telles que 24C-48Gi, 32C-256Gi, etc., avec des performances extrêmement élevées. Excellent rapport qualité/prix !

Soutenu par une énorme quantité de ressources informatiques, Elastic Container Instance VCI fournit également aux utilisateurs une Stratégie de planification élastique des priorités de ressources de pointe : combinée au service de conteneur VKE, nous aidons les utilisateurs à utiliser des politiques de ressources personnalisées (ResourcePolicy) pour planifier de manière élastique à différents types de pools de ressources informatiques tels que les serveurs cloud ECS, les instances de conteneurs élastiques VCI, etc., ainsi que la planification et l'allocation en fonction de seuils de pourcentage, le contrôle des priorités et d'autres stratégies en fonction de scénarios commerciaux réels.

Cela signifie que les utilisateurs peuvent combiner le pool de ressources informatiques ECS du serveur cloud et le pool de ressources informatiques VCI de l'instance de conteneur élastique pour profiter en même temps d'énormes ressources informatiques Volcano Engine, combinées à la capacité Cluster Autoscaler et VCI dans le cluster de conteneurs ; même le cluster de conteneurs Sans demander de ressources informatiques à l'avance, les utilisateurs peuvent obtenir des ressources élastiques en temps opportun pour prendre en charge efficacement les applications métier.

Rebondir rapidement

Face aux pics de trafic imprévisibles dans les entreprises en ligne, il est crucial de garantir un fonctionnement commercial et une expérience utilisateur stables aux moments critiques du développement commercial, il est également essentiel de faire apparaître rapidement les ressources informatiques et activer rapidement les applications métiers. Les instances de conteneurs élastiques conviennent également naturellement à ces scénarios.

D'une part, la capacité élastique de l'instance de conteneur élastique (VCI) de Volcano Engine peut répondre à la demande de des dizaines de milliers de cœurs par minute ressources informatiques vCPU, garantissant qu'une quantité suffisante de ressources informatiques peut être rapidement éjectée. quand les entreprises en ont besoin. Lorsque le pic de trafic est passé et que la charge de travail de l'entreprise diminue, les ressources informatiques élastiques peuvent être rapidement libérées, ce qui rend les coûts du cloud plus économiques.

D'un autre côté, l'extraction d'images de conteneurs prend souvent beaucoup de temps, ce qui est encore plus grave lorsque des pods à grande échelle sont démarrés simultanément. L'instance de conteneur élastique VCI dispose non seulement d'une variété de capacités d'accélération d'image de conteneur fournies par VKE, telles que le chargement différé d'image de conteneur (chargement différé d'image), la distribution d'image de conteneur P2P, etc., mais possède également des capacités d'accélération uniques telles que des capacités de mise en cache d'image de conteneur. Selon les données de test réelles, la mise en cache des images de conteneur peut contrôler le temps de démarrage global des pods avec des images de conteneur (volume de données inférieur à 100 G) jusqu'au niveau de dix secondes, aidant ainsi les utilisateurs à améliorer considérablement l'efficacité et à réduire les coûts du cloud.

Conclusion

Depuis son lancement officiel en 2022, Elastic Container Instance VCI a servi de nombreuses grandes et moyennes entreprises clientes et a été entièrement testé dans les scénarios commerciaux internes et externes de ByteDance. L'équipe native du cloud Volcano Engine peaufine également en permanence les capacités des produits en fonction de l'expérience du service client et continue d'améliorer la qualité et la stabilité des services produits :

• En termes d'intégration écologique, Elastic Container Instance VCI continue non seulement d'améliorer son intégration avec l'écosystème Kubernetes, mais peut également être intégré de manière transparente avec Volcano Engine Container Service VKE, permettant ainsi aux clients de déployer et de gérer plus facilement des applications de conteneurs dans un environnement cloud natif ;
• En termes d'accélération du démarrage des images de conteneurs distribués, VCI collabore avec Volcano Engine Image Warehouse CR et d'autres produits pour améliorer l'architecture Dragonfly, améliorant ainsi l'efficacité et la fiabilité de la distribution d'images vers
• VCI ; capacité d'accélération du cache d'images de conteneur, plus Il résout efficacement les problèmes de vitesse de démarrage lente des pods et de faible taux de réussite d'extraction d'images dans les scénarios de concurrence à grande échelle et d'images de conteneurs de grande taille, réduisant ainsi la pression sur l'entrepôt d'images
• En termes de diversité informatique ; Spécifications des ressources, VCI sera lancé en 2023. Plus de ressources optionnelles, telles que la nouvelle instance informatique à usage général n3i basée sur l'architecture DPU entièrement déchargée développée par Volcano Engine, protégeant les différences entre les serveurs back-end, et l'instance informatique à usage général u1. avec des pools de ressources théoriquement illimités, etc.

L'équipe cloud native de Volcano Engine est principalement responsable de la construction du système de produits PaaS dans le cloud public Volcano Engine et des scénarios privatisés. Elle combine les années d'expérience de ByteDance en matière de pile technologique native du cloud et les meilleures pratiques pour aider les entreprises à accélérer leur transformation numérique et. innovation. . Les produits incluent des services de conteneurs, des entrepôts d'images, des plates-formes cloud natives distribuées, des services de fonctions, des grilles de services, une livraison continue, des services observables, etc.

À l'horizon 2024, Elastic Container Instance VCI continuera à s'améliorer et à explorer sous l'architecture et la forme du produit Serverless Kubernetes, offrant à davantage de clients internes et externes des produits conteneurisés sans serveur qui ne nécessitent aucune opération ni maintenance de l'infrastructure, aucune planification des ressources informatiques et une flexibilité extrême et des services pour mieux répondre aux différents besoins de puissance de calcul des clients en matière de GPU et de CPU dans des scénarios commerciaux tels que l'AIGC, le calcul scientifique bioinformatique et le commerce électronique social.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!