DSPy
수동 프롬프트 엔지니어링을 알고리즘 기반 자동 최적화로 대체하는 Stanford 개발 프레임워크
무료APICLI오픈소스LLM 기반멀티모달
웹사이트 방문하기dspy.ai
jcode와(과) 비교하기DSPy 대안 모아보기소개
활용 워크플로우
입력
dspy.Signature (입출력 구조 정의)소량의 훈련 데이터셋 (Training Examples)검증용 메트릭 함수 (Validation Metric)LLM 및 RM(Retrieval Model) 설정 파라미터
DSPy
dspy.Module을 이용한 선언적 파이프라인 구성Teleprompter 최적화 알고리즘을 통한 프롬프트 부트스트래핑메트릭 기반의 자동 프롬프트 후보군 평가 및 선택최종 가중치 및 명령어를 포함한 프로그램 컴파일(Compile)
출력
컴파일된 dspy.Program (최적화된 로직)최적의 성능을 내는 Few-shot 프롬프트 세트모델 및 하이퍼파라미터 설정 구성 파일파이프라인 단계별 성능 분석 데이터
dspy.Assert & Suggest 분기
런타임 중 LLM 출력이 특정 제약 조건을 위반할 경우, LLM에게 자가 수정 지시를 보내거나 로직을 재실행하여 출력의 무결성 보장
MIPRO 기반 프롬프트 튜닝
베이지안 최적화를 사용하여 수천 개의 지시문 조합 중 메트릭을 극대화하는 최적의 프롬프트 명령어를 통계적으로 탐색
멀티스테이지 RAG 최적화
검색 모듈(dspy.Retrieve)과 생성 모듈을 결합하여 지식 검색 단계와 답변 생성 단계를 동시에 최적화하는 워크플로우
핵심 차별점: 프롬프트 문자열을 직접 수정하는 '노가다' 대신, 수학적 최적화 알고리즘을 통해 모델과 데이터에 맞는 최적의 명령어를 자동 생성하는 컴파일러 지향 접근법
주요 기능
- 모듈/시그니처 기반 AI 프로그래밍 구조
- MIPROv2·BootstrapFinetune 옵티마이저 자동 튜닝
- OpenAI·Anthropic·Gemini·Databricks 멀티 모델 지원
- LiteLLM 호환 다양한 모델 연동
- PyTorch 유사 프로그래밍 모델
장점 & 단점
웹검색을 통해 수집된 사용자 피드백 정보입니다
장점
- 모델을 교체하거나 데이터셋이 바뀌어도 프롬프트를 일일이 수정할 필요가 없어 유지보수 효율이 극대화됩니다. 수동 프롬프트보다 훨씬 높은 성능을 안정적으로 도출할 수 있으며, AI 파이프라인을 체계적으로 관리할 수 있습니다.
단점
- 개념이 생소하여 초기 학습 곡선이 매우 높습니다. 최적화 과정에서 많은 API 호출 비용이 발생할 수 있으며, 소규모 프로젝트에서는 오히려 과한 설정이 될 수 있습니다.
가격 정보
무료시작 가격: 무료
스탠포드 대학교에서 개발한 오픈 소스 프레임워크로, MIT 라이선스에 따라 무료로 제공됩니다. 상용 서비스나 유료 플랜 없이 깃허브를 통해 자유롭게 이용할 수 있는 순수 오픈 소스 프로젝트입니다.
정보 확인일:
활용 사례
- 데이터 기반의 고정밀 RAG 시스템 구축
- 모델 변경 시 자동 프롬프트 재최적화
- 대규모 텍스트 데이터의 자동 라벨링 및 구조화
- LLM 파이프라인의 체계적 관리 및 유지보수
대상 사용자
AI·ML 연구원LLM 파이프라인 엔지니어프롬프트 엔지니어링 자동화에 관심 있는 개발자
연동 서비스
LangChainLlamaIndexOpenAI APIHugging Face Transformers
태그
프롬프트 최적화LLM 프로그래밍MLOps스탠포드오픈소스
최근 소식
확인된 변경 내역
- 2026-05-28 DSPy 3.3.0b1 프리릴리즈 버전이 PyPI에 공개되었습니다.
- 2026-05-05 DSPy 3.2.1 출시 — litellm 상한 제거, 비동기 스트리밍 LM 호출 커스텀 헤더 전달 수정, dspy.Embedder per-call caching=False 동작 수정.
사용자 리뷰
리뷰를 불러오는 중...
대안 도구
이 도구 대신 사용할 수 있는 대안
