温度 (Temperature)

AI概念
約1分で読めます

LLMが次の単語を選択する際のランダム性の度合いを調整する値で、出力の一貫性と創造性を左右します。

別名
Temperatureサンプリング温度温度パラメータ

詳しい説明

温度(Temperature)は、LLMが次のトークンを選択する際に確率分布をどの程度平坦にするかを決定する値であり、出力のランダム性を制御します。値が低い場合(例:0〜0.3)は、最も確率の高いトークンに集中するため、回答が一貫して予測可能になり、事実重視의タスクに適しています。値が高い場合(例:0.8〜1.2)は、確率の低いトークンも選択されるため、表現が多様で創造的になりますが、脈絡から外れたり事実と矛盾したりするリスクが高まります。同じプロンプトであっても温度によって結果が大きく異なるため、タスクの性質に合わせて調整することが重要です。多くの場合、top-p(累積確率)などの他のサンプリングオプションと併用されます。

ツール選定において重要な理由

AIツールの出力が毎回ばらついたり、ありきたりな表現ばかりになったりする場合、温度の設定が原因であるケースが多々あります。ツールが温度の調整機能をユーザーに公開しているか、タスク別のプリセットを提供しているかによって、出力を意図通りにコントロールできるかが決まります。事実の正確性が求められる業務には低い温度、アイデア発想には高い温度が適しています。

ツールを選ぶ際に確認すべき点

  • 温度やランダム性の設定をユーザーが調整できるか
  • 事実に基づくタスク向けに、低温度モードを提供または推奨しているか
  • top-pなど、他のサンプリングオプションも併せて調整できるか
  • 同じ入力に対する結果の再現(固定シード値など)が必要なタスクをサポートしているか

実際の適用例

規定を案内するチャットボットでは、温度を0に近づけることで毎回同じ事実を一貫して回答するようにし、広告コピーのアイデア発想ツールでは温度を高く設定して多様な表現を導き出します。同一のモデルであっても、この値を一つ変えるだけで出力の性質が変わるため、用途に合った設定機能が用意されているかが重要になります。

関連用語

LLMプロンプトエンジニアリング幻覚