コンテキストウィンドウ

AI概念
約1分で読めます

AIモデルが1回のリクエスト（プロンプト）で同時に処理および記憶できるデータ（トークン）の最大範囲です。モデルの「短期記憶」であり、作業スペースの大きさを意味します。

別名
Context Windowコンテキスト長Context Length

詳しい説明

コンテキストウィンドウは、巨大言語モデル（LLM）が情報を理解して回答を生成する際に、一度に考慮できるトークンの総数です。この範囲内にあるテキスト、コード、画像情報のみをモデルは「記憶」し、論理的に関連付けることができます。ウィンドウサイズを超えるデータが入力されると、以前の情報が失われ、会話の一貫性が損なわれたりエラーが発生したりします。近年、Gemini 1.5 Pro（200万トークン）やClaude 3.5（20万トークン）といった技術の進歩により、数百ページに及ぶ文書やソースコード全体を一度に分析できるようになりました。ただし、単に容量が大きいことよりも、膨大なデータの中から特定の情報を正確に見つけ出す「想起能力（Retrieval Accuracy）」が実質的なパフォーマンスを左右します。

ツール選定において重要な理由

コンテキストウィンドウは、AIが実行可能な「業務の深さ」を決定します。ウィンドウが小さいと、数十通のメールを分析したり長い報告書を要約したりする際に、前半部分を忘れてしまう「金魚効果（短期記憶の喪失）」が発生します。一方で、ウィンドウが大きいと、数万行のコードベースを丸ごと理解したり、数時間に及ぶ録音データを分析したりする高次元の作業が可能になります。

確認事項

  • Needle in a Haystack（干し草の山から針を探す）性能：巨大なデータの中から特定の情報をどれだけ正確に見つけ出せるか？
  • 費用対効果：コンテキストが長くなるほど入力コストが急増するため、「コンテキストキャッシュ」機能があるかを確認
  • 遅延時間（レイテンシ）：ウィンドウを上限まで満たすと、回答生成速度が低下する可能性がある

実際の活用例

法律の専門家が200ページにおよぶ契約書5冊を一度にアップロードし、「すべての契約書に共通して見られる不利な条項」を探すように指示する場合、少なくとも20万トークン以上のコンテキストウィンドウを持つモデルが必要です。

混同しやすい用語

トークン (Token)

コンテキストウィンドウのサイズを測定する単位です（単語の断片）。

RAG (検索拡張生成)

コンテキストウィンドウの限界を克服するために、数万件のドキュメントの中から必要な部分だけを選択してAIに伝達する補完技術です。

関連用語

トークンRAG幻覚プロンプトエンジニアリング