AirLLM vs 테라코타 AI

AirLLM 장단점

• 매우 적은 GPU 메모리로 대형 언어 모델 실행 가능
• 다양한 최신 오픈소스 모델 계열 지원
• Transformers와 유사한 간단한 Python 사용 방식
• Apache License 2.0 기반의 공개 소스

• 레이어를 저장 장치에서 읽어 실행하므로 추론 속도가 느릴 수 있음
• 모델 변환과 캐시 생성에 상당한 디스크 공간이 필요할 수 있음
• CUDA, PyTorch, Transformers 등 환경 의존성이 존재함

테라코타 AI 장단점

• 가장 큰 장점은 인프라 상태(State)와 실제 클라우드 환경을 동시에 분석하여 '무엇이 실제로 바뀔 것인가'를 자연어로 명확하게 설명해 준다는 점입니다. 단순한 리포트가 아니라 PR에 직접 수정 제안을 남겨주어 시니어 엔지니어의 리뷰 시간을 최대 60%까지 단축할 수 있습니다. 특히 OpenTofu 및 CDK-TF와 같은 최신 프레임워크를 빠르게 지원하며, 배포 전 '시뮬레이션' 기능을 통해 리소스 재생성으로 인한 가동 중단(Downtime) 리스크를 사전에 파악할 수 있어 운영 안정성이 크게 향상됩니다. 또한 HCP Terraform(Terraform Cloud) Run Tasks와 같은 엔터프라이즈 워크플로우와의 연동이 매우 매끄럽습니다.

• AI 기반 툴 특성상 복잡한 커스텀 모듈이나 고도로 얽힌 의존성 관계에서는 간혹 실제와 다른 'AI 환각(Hallucination)'이 발생할 가능성이 있어 최종 승인 단계에서 인간의 검토가 여전히 필수적입니다. 또한 Checkov나 Trivy처럼 오픈소스 커뮤니티가 매우 크고 무료 룰셋이 방대한 도구들에 비해, 고도의 컨텍스트 분석을 위해 유료 플랜이나 API 연동이 필요할 수 있어 초기 도입 비용이 부담될 수 있습니다. 현재는 인프라 리뷰라는 특정 전문 영역에 집중되어 있어, 애플리케이션 보안(SAST)이나 컨테이너 스캔까지 한꺼번에 해결하려는 조직에게는 통합 플랫폼으로서의 기능이 부족하게 느껴질 수 있습니다.

AirLLM 주요 기능

• 레이어 단위 모델 스트리밍으로 GPU 메모리 사용량 절감
• 단일 4GB GPU에서 70B급 모델 추론 지원
• Hugging Face 모델 ID 기반 AutoModel 인터페이스
• 4비트·8비트 블록 단위 모델 압축
• CPU 추론 및 Apple Silicon macOS 지원
• Llama, Qwen, DeepSeek, Mistral 등 다양한 모델 계열 지원

테라코타 AI 주요 기능

• PR 단계 AI 기반 컨텍스트 인지형 인프라 코드 리뷰
• 자연어 기반 AI 가드레일 (Rego·Sentinel 불필요)
• 실시간 클라우드 리소스 드리프트 감지 및 시뮬레이션
• HCP Terraform Run Tasks 및 API/CLI 연동
• 인프라 아키텍처 맵 자동 생성
• Kubernetes 매니페스트 보안 및 구성 분석