Higress

이스티오·엔보이 기반 AI 게이트웨이

docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest

이스티오와 엔보이 위에 올린 클라우드 네이티브 API 게이트웨이로, Go·Rust·JS 로 짠 Wasm 플러그인으로 확장합니다. 국내외 주요 모델 제공자를 한 인터페이스로 묶고, 플러그인 방식으로 MCP 서버를 호스팅합니다. OpenAPI 명세를 원격 MCP 서버로 변환하는 도구를 함께 제공합니다.

판단

이럴 때 씁니다

  • 여러 모델 제공자를 하나의 진입점으로 묶고 키와 한도를 중앙에서 관리할 때
  • 이미 쿠버네티스와 이스티오를 쓰고 있어 같은 계층에 AI 트래픽을 얹고 싶을 때
  • OpenAPI 명세를 가진 사내 API 를 원격 MCP 서버로 열고 싶을 때
  • 게이트웨이 동작을 Wasm 플러그인으로 직접 확장해야 할 때

이럴 땐 쓰지 마세요

  • 노트북에서 프록시 하나만 띄우면 되는 규모일 때
  • 쿠버네티스나 엔보이 운영 경험이 팀에 없을 때
  • 모델 라우팅 자체가 목적이면 더 얇은 라우터가 손이 덜 갑니다

차별점

  • LLM API 와 MCP API 를 한 게이트웨이에서 함께 관리합니다.
  • OpenAPI 명세를 원격 MCP 서버로 변환하는 도구를 함께 제공합니다.
  • Go·Rust·JS 로 짠 Wasm 플러그인으로 확장합니다.
  • 국내외 주요 모델 제공자를 폭넓게 지원합니다.

워크플로

  1. 01올인원 컨테이너로 띄워 콘솔에서 먼저 구조를 봅니다.
  2. 02ai-proxy 플러그인에 모델 제공자와 자격 증명을 등록합니다.
  3. 03라우트를 만들어 애플리케이션이 게이트웨이 주소만 보게 합니다.
  4. 04openapi-to-mcpserver 로 기존 API 명세를 MCP 서버로 바꿔 호스팅합니다.
  5. 05필요하면 Go·Rust·JS 로 Wasm 플러그인을 써서 동작을 확장합니다.

주요 명령

명령설명
docker run -d --rm --name higress-ai -v ${PWD}:/data -p 8001:8001 -p 8080:8080 higress-registry.cn-hangzhou.cr.aliyuncs.com/higress/all-in-one:latest콘솔까지 포함한 올인원 이미지를 띄웁니다.

함정

설치 전에 확인하세요

  • 이스티오와 엔보이 위에 올라갑니다. 운영 부담이 단순 프록시와 다릅니다.
  • 기본 이미지 저장소가 알리바바 클라우드 레지스트리입니다. 망 환경에 따라 미러가 필요합니다.
  • 플러그인이 Wasm 이라 확장 시 빌드 체인이 따로 붙습니다.
  • 릴리스 단위가 큽니다. v2.2.4 한 번에 96건이 들어갔습니다.

비교

agentgateway 가 MCP 와 A2A 를 중심에 둔 신생 프록시라면, Higress 는 이미 검증된 이스티오·엔보이 스택 위에 AI 기능을 얹은 쪽입니다. 쿠버네티스를 이미 굴리고 있고 일반 API 와 AI 트래픽을 한 곳에서 보고 싶으면 Higress 가, 에이전트 트래픽만 다루면 더 가벼운 선택지가 맞습니다.

최근 변경

2026-08-13 v2.2.4 는 96건이 들어간 큰 릴리스로 신규 기능 21건과 버그 수정 56건이 포함됐습니다. 플러그인 스냅샷도 이 버전에 맞춰 갱신됐습니다.

공식 변경 내역