GoModel
자원 효율을 앞세운 고 기반 모델 게이트웨이
curl -fsSL https://gomodel.enterpilot.io/install.sh | sh여러 제공자를 OpenAI 호환과 앤스로픽 호환 두 규약으로 묶는 고 언어 게이트웨이입니다. 캐시로 같은 응답을 다시 쓰고 지출을 추적하며 프롬프트 압축과 판단형 라우팅 같은 기능으로 비용을 줄입니다. 관측과 가드레일, 스트리밍, 세션 고정, 장애 전환, 실시간 로그와 사용량 추적이 들어 있습니다. 속도와 자원 효율을 앞세우고 그 근거로 스스로 재현할 수 있는 벤치마크를 공개합니다. 설치 스크립트나 도커로 바로 띄우고 관리 화면에서 가상 모델의 대상 순서를 끌어 옮겨 정합니다.
판단
이럴 때 씁니다
- 게이트웨이 자체의 자원 사용을 줄여야 할 때
- 두 가지 규약을 동시에 노출해야 할 때
- 캐시와 지출 추적을 게이트웨이에서 처리하고 싶을 때
이럴 땐 쓰지 마세요
- 판이 0.1.x 대라 구성이 바뀔 수 있습니다
- 제공자 하나만 쓰면 계층이 늘 뿐입니다
- 비교 주장은 제작사 관점이므로 직접 확인이 필요합니다
차별점
- OpenAI 호환과 앤스로픽 호환 두 규약을 함께 노출합니다.
- 자원 효율을 앞세우고 재현 가능한 벤치마크를 공개합니다.
- 캐시와 지출 추적, 프롬프트 압축, 판단형 라우팅이 한 곳에 들어 있습니다.
- 관리 화면에서 가상 모델의 대상 순서를 직접 옮겨 정합니다.
워크플로
- 01설치 스크립트나 도커로 띄웁니다.
- 02제공자 키를 넣습니다.
- 03가상 모델을 만들고 대상과 순서를 정합니다.
- 04클라이언트의 주소를 게이트웨이로 바꿉니다.
- 05실시간 로그와 사용량으로 동작을 확인합니다.
주요 명령
| 명령 | 설명 |
|---|---|
curl -fsSL https://gomodel.enterpilot.io/install.sh | sh | 설치합니다. |
gomodel | 게이트웨이를 띄웁니다. |
docker run --rm -p 8080:8080 -e OPENAI_API_KEY=... gomodel | 도커로 띄웁니다. |
함정
설치 전에 확인하세요
- 저장소 설명이 경쟁 도구의 보안 사고와 유지 중단을 직접 언급합니다. 비교 근거로 삼기 전에 직접 확인하는 편이 낫습니다.
- 판이 0.1.x 대인데 기능 범위는 넓습니다. 구성 방식이 바뀔 수 있으므로 판을 고정하는 편이 안전합니다.
- 관리 API 권한이 키 사용자 경로로 좁혀진 것이 최근입니다. 오래된 판에서는 범위가 넓었습니다.
- 프롬프트 압축 같은 기능은 응답 품질에 영향을 줍니다. 켜기 전에 대상 작업에서 확인해야 합니다.
비교
게이트웨이는 기능 목록이 비슷해지는 영역이라 남는 차이가 운영 비용입니다. 이쪽은 고로 만들어 자원 사용을 앞세우고 그 근거를 벤치마크로 냅니다. 판이 아직 낮으므로 기능 폭과 안정성을 함께 저울질해야 합니다.
최근 변경
관리 API 와 수명 주기 객체가 키 사용자 경로로 범위가 좁혀졌고 관리 화면에서 가상 모델 대상을 끌어 옮겨 순서를 바꿀 수 있게 됐습니다.