Chain-of-Thought

AI 개념
약 1분 읽기

AI가 최종 답변을 내놓기 전, 중간의 논리적 추론 단계를 거치도록 유도하여 복잡한 문제의 해결 정확도를 높이는 프롬프팅 및 추론 기법입니다.

다른 이름
CoT사고 사슬Chain-of-Thought Prompting

상세 설명

Chain-of-Thought(CoT)는 대규모 언어 모델(LLM)이 인간의 사고 방식처럼 문제를 단계별로 분해하여 처리하도록 만드는 기술입니다. 단순 질의응답 방식보다 수학적 계산, 상식적 추론, 복잡한 의사결정에서 월등한 성능을 보입니다. 초기의 '단계별로 생각해보세요'라는 지시어 기반(Zero-shot CoT)을 넘어, 최근에는 OpenAI o1과 같이 모델 학습 단계에서 추론 과정을 내재화하여 복잡한 과제를 해결하는 '추론형 모델'의 핵심 메커니즘으로 진화했습니다. 이는 모델이 중간 과정을 검토함으로써 논리적 비약을 줄이고 정답률을 높이는 데 기여합니다.

도구 선택에서 중요한 이유

단순 정보 요약이 아닌, 비즈니스 로직 설계나 복잡한 코드 작성, 데이터 분석이 목적이라면 CoT 성능이 검증된 모델을 선택해야 합니다. 특히 최근의 추론 전용 모델은 CoT를 내부화하여 사용자가 별도의 프롬프트를 짜지 않아도 스스로 사고 과정을 거치며, 이는 업무 자동화의 신뢰도를 결정짓는 핵심 요소가 됩니다.

확인할 점

  • 모델이 답변 시 논리적 근거를 함께 제시하는가?
  • 복잡한 수식이나 다단계 논리 문제에서 정답률이 안정적인가?
  • 추론 과정(CoT)을 노출하는 모델인가, 혹은 내부적으로 처리하여 결과만 주는 모델인가?
  • CoT 활성화 시 발생하는 추가 토큰 비용과 응답 시간(Latency)을 감당할 수 있는가?

예시

질문: '철수는 사과 5개를 가졌고, 영희에게 2개를 준 뒤 다시 4개를 샀다. 현재 사과는 몇 개인가?' 일반 답변: '7개입니다.' CoT 적용 답변: '1. 처음 사과: 5개 / 2. 영희에게 준 후: 5-2 = 3개 / 3. 다시 산 후: 3+4 = 7개 / 최종 답변: 7개'

헷갈리기 쉬운 용어

Standard Prompting

중간 과정 없이 질문에 대한 최종 답변만 즉각 요구하는 방식입니다.

Self-Consistency

CoT로 여러 개의 추론 경로를 생성한 뒤, 가장 많이 나온 답을 선택하는 보완 기법입니다.

관련 용어

zero-shot-cotself-consistency추론 모델프롬프트 엔지니어링