환각

AI 개념
약 1분 읽기

AI 모델이 사실이 아닌 정보를 마치 사실인 것처럼 생성하는 현상입니다.

다른 이름
HallucinationAI 환각할루시네이션

상세 설명

환각(Hallucination)은 AI 모델이 실제로 존재하지 않는 정보나 사실이 아닌 내용을 자신감 있게 생성하는 현상을 말합니다. LLM은 확률 기반으로 텍스트를 생성하기 때문에, 그럴듯하지만 틀린 정보를 만들어낼 수 있습니다. 이는 AI의 가장 큰 한계 중 하나로, RAG, Grounding, Fact-checking 등의 기법을 통해 줄일 수 있지만 완전히 제거하기는 어렵습니다. 특히 의료, 법률, 금융 등 정확성이 중요한 분야에서 주의가 필요합니다.

관련 용어

LLMRAGGrounding