幻覚

AI概念
約1分で読めます

AIモデルが統計的な確率に基づいて次の単語を予測する過程において、事実ではない情報や根拠のない情報を、まるで真実であるかのように論理的かつ自信に満ちた様子で生成する現象です。

別名
HallucinationAI幻覚ハルシネーション

詳しい説明

ハルシネーションは、LLMが学習データのパターンのみに依存することによって発生し、単なる誤答を超えて、架空の内容を非常にそれらしい文章構造で提示するのが特徴です。これは大きく、提示されたコンテキストを無視または矛盾する「内在的ハルシネーション（Intrinsic）」と、コンテキストにはないが実際の事実とは異なる情報をでっち上げる「外在的ハルシネーション（Extrinsic）」に分類されます。最新の研究によると、高度化された推論モデルほど、より複雑な形のハルシネーションを示す可能性があるため、ビジネス環境ではRAG（検索拡張生成）やガードレール（Guardrails）などの技術的な補完対策を通じて管理することが必須となっています。

ツール選定において重要な理由

企業向けAIツールを選定する際、ハルシネーション率は単なる性能指標ではなく、「信頼コスト」に直結します。ハルシネーションは、法的リスク、ブランド信頼度の低下、意思決定の誤りを招く可能性があります。特に2025年時点で、知識労働者がAIの回答検証に毎週平均4時間以上を費やしているという調査結果もあるため、ハルシネーションを抑制し、回答の根拠を明確に提示（Citations）できるツールを選択することが、生産性向上の核心です。

ツール導入時の確認事項

  • 回答の各文章について、具体的な出所（Source Citation）やリンクを提供しているか？
  • リアルタイムデータに基づくRAG（検索拡張生成）アーキテクチャを標準でサポートしているか？
  • 信頼度の低い回答に対して、自ら「わからない」と答えたり、回答を拒否したりできる設定があるか？
  • ハルシネーションを検知・遮断するための専用のガードレール（Guardrails）システムが組み込まれているか？

主なハルシネーションのタイプの例

- 内在的ハルシネーション：入力した会議録には「売上10億」と書かれているのに、要約には「売上100億」と誤って記載されるケース - 外在的ハルシネーション：存在しない論文のタイトルや法律の判例番号をでっち上げて根拠として提示するケース

混同しやすい用語

Confabulation (作話症)

心理学の用語で、記憶の隙間を埋めるために無意識に作り話を創作する現象。AIのハルシネーションとメカニズムが非常に類似しているため、代替用語として提案されることもある。

Bias (バイアス)

事実関係とは無関係に、特定の集団や観点に偏った情報を提供する現象であり、情報の「公平性」の問題に該当する。

関連用語

RAGGrounding