환각

AI 개념
약 1분 읽기

AI 모델이 통계적 확률에 기반해 다음 단어를 예측하는 과정에서, 사실이 아니거나 근거 없는 정보를 마치 진실인 것처럼 논리적이고 자신감 있게 생성하는 현상입니다.

다른 이름
HallucinationAI 환각할루시네이션

상세 설명

환각은 LLM이 학습 데이터의 패턴에만 의존하여 발생하며, 단순한 오답을 넘어 허구의 내용을 매우 그럴듯한 문장 구조로 제시하는 것이 특징입니다. 이는 크게 모델이 제공된 맥락을 무시하거나 모순되는 '내재적 환각(Intrinsic)'과, 맥락에는 없지만 실제 사실과도 다른 정보를 꾸며내는 '외재적 환각(Extrinsic)'으로 구분됩니다. 최신 연구에 따르면 고도화된 추론 모델일수록 더 복잡한 형태의 환각을 보일 수 있어, 비즈니스 환경에서는 RAG(검색 증강 생성)나 가드레일(Guardrails) 같은 기술적 보완 장치를 통해 이를 관리하는 것이 필수적입니다.

도구 선택에서 중요한 이유

기업용 AI 도구를 선택할 때 환각률은 단순한 성능 지표가 아닌 '신뢰 비용'과 직결됩니다. 환각은 법적 리스크, 브랜드 신뢰도 하락, 의사결정 오류를 초래할 수 있습니다. 특히 2025년 기준 지식 노동자가 AI 답변 검증에 매주 평균 4시간 이상을 소비한다는 조사 결과가 있는 만큼, 환각을 억제하고 답변의 근거를 명확히 제시(Citations)할 수 있는 도구를 선택하는 것이 생산성 향상의 핵심입니다.

도구 도입 시 확인할 점

  • 답변의 각 문장에 대해 구체적인 출처(Source Citation)와 링크를 제공하는가?
  • 실시간 데이터 기반의 RAG(검색 증강 생성) 아키텍처를 기본적으로 지원하는가?
  • 신뢰도가 낮은 답변에 대해 스스로 '모른다'고 답변하거나 거부할 수 있는 설정이 있는가?
  • 환각을 탐지하고 차단하기 위한 전용 가드레일(Guardrails) 시스템이 내장되어 있는가?

주요 환각 유형 예시

- 내재적 환각: 입력한 회의록에는 '매출 10억'이라 적혀 있는데, 요약본에는 '매출 100억'으로 잘못 기재하는 경우 - 외재적 환각: 존재하지 않는 논문의 제목이나 법률 판례 번호를 지어내어 근거로 제시하는 경우

헷갈리기 쉬운 용어

Confabulation (작화증)

심리학 용어로, 기억의 빈틈을 메우기 위해 무의식적으로 허구를 지어내는 현상이며 AI의 환각과 메커니즘이 매우 유사해 대체 용어로 제안되기도 함.

Bias (편향)

사실 여부를 떠나 특정 집단이나 관점에 치우친 정보를 제공하는 현상으로, 정보의 '공정성' 문제에 해당함.

관련 용어

RAGGroundingknowledge-cutoffguardrailsconfabulation