Higress

Higress는 무엇입니까?

Higress는 Istio와 Envoy를 기반으로 한 AI 기본 API 게이트웨이입니다. AI 게이트웨이, MCP 서버 호스팅, Kubernetes Ingress 컨트롤러, 마이크로 서비스 게이트웨이 및 보안 게이트웨이와 같은 기능을 제공하며 Go/Rust/JS로 작성된 WASM 플러그인으로 확장 할 수 있습니다.

Higress를 사용하는 방법?

Higress를 사용하려면 Kubernetes 환경과 통합하고 API를 배포하여 트래픽 관리, 보안 및 모델 관리와 같은 필요한 기능에 맞게 구성하십시오.

Higress의 핵심 기능

유연한 멀티 모델 스위칭

대형 모델의 컨텐츠 보안

시맨틱 캐싱

멀티 API 키 밸런싱

토큰 할당량 관리

교통 조열

모델에 대한 비용 감사

Higress의 사용 사례

LLM API 통화 관리

AI 에이전트 개발

마이크로 서비스의 트래픽 관리

Higress Company

Higress Company 이름 : Higress.