Ailin Collective Intelligence
여러 모델을 한 요청 안에서 협업시키는 자체 호스팅 엔진
git clone https://github.com/ailinone/collective-intelligence.git && cd collective-intelligence/docker && docker compose up -d api postgres redis요청 하나를 여러 모델이 나눠 맡고 토론과 비평, 종합을 거쳐 답을 만듭니다. 저장소는 2026년 8월 기준 10만 3224개 모델과 32개 조율 전략을 쓴다고 밝힙니다. 라우팅이나 게이트웨이와 다르다고 선을 긋는 지점이 여기입니다. 하나를 골라 넘기는 대신 여러 개를 붙여 놓고 품질 관문과 검증기로 걸러냅니다. 모든 요청에 어떤 팀이 어떻게 답을 만들었는지 기록이 남습니다. 오픈AI 규격 API 라 기존 클라이언트에서 주소만 바꾸면 됩니다. 자체 호스팅이 전제이고 도커와 8기가 남는 메모리가 필요합니다.
판단
이럴 때 씁니다
- 한 모델의 편향이나 실패가 그대로 결과가 되는 것이 문제일 때
- 어떤 근거로 답이 나왔는지 기록이 필요할 때
- 모델 하나에 묶이지 않는 계층을 두고 싶을 때
이럴 땐 쓰지 마세요
- 빠른 응답이 중요한 곳에는 맞지 않습니다
- 여러 모델을 부르므로 비용이 배로 듭니다
- AGPL 이라 서비스로 제공할 때 조건을 확인해야 합니다
차별점
- 요청 하나를 여러 모델이 나눠 맡고 토론과 종합을 거칩니다.
- 품질 관문과 결정적 검증기가 최종 응답을 거릅니다.
- 어떤 팀이 어떻게 답을 만들었는지 기록이 응답에 붙습니다.
- 탐색 엔진이 모델 목록을 계속 갱신해 하드코딩된 모델이 없습니다.
워크플로
- 01저장소를 받고 도커 구성 폴더로 들어갑니다.
- 02환경 파일에 강한 비밀키와 제공자 키를 넣습니다.
- 03스택을 띄우고 첫 부팅 로그를 봅니다.
- 04계정을 등록해 토큰을 받습니다.
- 05쓰던 클라이언트의 주소만 바꿔 붙입니다.
주요 명령
| 명령 | 설명 |
|---|---|
docker compose up -d api postgres redis | 스택을 띄웁니다. 조율 구성 요소도 함께 올라옵니다. |
docker compose logs -f api | 첫 부팅의 마이그레이션과 모델 탐색을 지켜봅니다. 1분에서 5분 걸립니다. |
curl http://localhost:3000/health | 상태를 확인합니다. |
함정
설치 전에 확인하세요
- 약한 기본 비밀키를 쓰면 앱이 아예 뜨지 않습니다. 무작위 값을 직접 만들어 넣어야 합니다.
- 메모리 8기가와 3000, 5432, 6379 포트가 비어 있어야 합니다.
- 윈도우에서는 깃 배시나 WSL 로 돌려야 합니다. 설정 블록이 히어독과 오픈SSL 을 씁니다.
- AGPL 3.0 입니다. 서비스로 제공할 계획이면 조건을 먼저 확인해야 합니다.
비교
게이트웨이는 요청 하나를 모델 하나에 넘깁니다. 이쪽은 넘기지 않고 여러 개를 붙여 놓는다는 점에서 성격이 다릅니다. 신뢰도와 감사 가능성을 얻는 대신 응답 시간과 비용을 내줍니다. 빠른 응답이 필요한 자리에는 맞지 않습니다.
최근 변경
저장소가 릴리스 노트를 따로 남기지 않아 변경 내역은 판 태그로 확인합니다. 배포판은 2.3.0 이고 2026년 8월 기준 운영 중인 모델 수를 10만 3224개로 공개했습니다.