ClawRouter
요청마다 가장 싼 모델을 1밀리초 안에 고르는 라우터
npm install -g @blockrun/clawrouter들어온 요청을 열다섯 가지 기준으로 분석해 감당 가능한 모델 중 가장 싼 쪽으로 보내는 라우터입니다. 판단이 전부 로컬에서 끝나 1밀리초 안에 결정되고, 아홉 개 제공자의 76개 모델을 한 엔드포인트로 묶습니다. 특이한 점은 결제 방식입니다. 카드로 키를 발급받아 쓰는 보통 경로 외에, 지갑 서명 자체를 계정으로 삼고 USDC 소액 결제로 요금을 내는 경로가 있습니다. 사람이 가입 절차를 대신 밟아 주지 않아도 에이전트 혼자 돌아가게 하려는 설계입니다. 지갑도 키도 없이 쓸 수 있는 무료 모델 일곱 개가 기본으로 들어 있습니다.
판단
이럴 때 씁니다
- 요청 성격에 따라 싼 모델로 자동으로 내리고 싶을 때
- 사람이 결제 계정을 관리하지 않는 자율 에이전트를 굴릴 때
- 키도 가입도 없이 모델을 시험해 보고 싶을 때
이럴 땐 쓰지 마세요
- 품질이 균일해야 하는 작업에서는 자동 하향이 문제를 만듭니다
- 암호화폐 결제 경로는 회계와 규정 확인이 먼저입니다
- 제공자 하나만 쓰면 라우터 한 겹이 늘 뿐입니다
차별점
- 라우팅 판단이 전부 로컬에서 1밀리초 안에 끝납니다.
- 지갑 서명을 계정으로 삼아 사람의 가입 없이 에이전트가 스스로 결제합니다.
- 카드 결제와 암호화폐 결제, 무료 모델 세 경로를 같은 라우터에서 씁니다.
- 아홉 개 제공자의 76개 모델을 한 엔드포인트로 묶습니다.
워크플로
- 01패키지를 설치합니다.
- 02지갑 없이 무료 모델로 먼저 동작을 확인합니다.
- 03유료 모델을 쓰려면 카드로 키를 발급받거나 지갑에 잔액을 채웁니다.
- 04로컬 프록시 주소를 기존 클라이언트의 엔드포인트로 지정합니다.
- 05지출 한도와 라우팅 동작을 확인하고 필요하면 모델을 고정합니다.
주요 명령
| 명령 | 설명 |
|---|---|
npm install -g @blockrun/clawrouter | 라우터를 설치합니다. |
clawrouter login brk_live_... | 카드로 발급한 키로 로그인해 계정 잔액에서 결제합니다. |
BLOCKRUN_PROXY_PORT=8402 | 로컬 프록시 포트입니다. 기본값이 8402 입니다. |
CLAWROUTER_DISABLED=true | 자동 라우팅을 끄고 지정한 모델로만 보냅니다. |
함정
설치 전에 확인하세요
- 키를 넣지 않으면 지갑이 자동으로 만들어집니다. 그 개인키가 곧 잔액이므로 어디에 저장되는지 확인해야 합니다.
- 자동 라우팅은 요청을 열다섯 가지 기준으로 판단해 더 싼 모델로 내립니다. 품질이 균일해야 하는 작업에서는 라우팅을 끄거나 모델을 고정해야 합니다.
- 지출 한도가 서명 경로마다 따로 관리되던 문제가 있었습니다. 최신 판에서 하나의 장부로 합쳐졌으므로 오래된 판을 쓰고 있다면 올려야 합니다.
- 무료 모델 일곱 개는 가입도 키도 없이 도는 대신 성능이 제한적입니다. 성능 비교의 기준으로 삼기에는 적절하지 않습니다.
비교
모델 게이트웨이는 보통 사람이 만든 계정과 키를 전제로 합니다. 이쪽은 그 전제를 빼고 지갑 서명만으로 결제가 되게 만든 점이 다릅니다. 비용 절감 자체는 다른 라우터도 하지만, 사람이 개입하지 않는 장기 실행 에이전트에서는 결제 경로가 실제 제약이 됩니다.
최근 변경
프록시와 도구, 진단 명령이 각자 지출 관리 객체를 만들면서 한도가 경로마다 따로 걸리고 기록이 마지막 저장으로 덮이던 문제를 고쳐, 하나의 지출 장부로 합쳤습니다.