Higress

Qu'est-ce que Higress?

Higress est une passerelle API native AI basée sur Istio et Envoy. Il fournit des fonctionnalités telles que la passerelle AI, l'hébergement MCP Server, le contrôleur d'entrée de Kubernetes, la passerelle Microservice et la passerelle de sécurité, qui peut être étendue avec des plugins WASM écrits dans Go / Rust / JS.

Comment utiliser Higress?

Pour utiliser Higress, intégrez-le avec votre environnement Kubernetes, déployez vos API et configurez-le pour les fonctionnalités requises telles que la gestion du trafic, la sécurité et la gestion des modèles.

Les fonctionnalités principales de Higress

Commutation multi-modes flexible

Sécurité du contenu pour les grands modèles

Cache sémantique

Équilibrage des clés multi-API

Gestion des quotas de jetons

Étranglement de la circulation

Audit des coûts pour les modèles

Les cas d'utilisation de Higress

Gérer les appels API LLM

Développer des agents d'IA

Gestion du trafic dans les microservices

Higress Company

Nom de la société Higress: Higress.