Temperatureとは？

詳しい解説

Temperature は LLM が次のトークンを選ぶ際の確率分布を、どの程度なだらかにするかを制御するパラメータです。 0 に近いほどモデルは最も確率の高いトークンを選びやすくなり、出力が決定論的・再現性高くなります。 1 を超えると確率分布がフラット化し、出力が多様で創造的になりますが、的外れな回答も増える傾向があります。

要約・抽出・コード生成など正確性が重要なタスクでは 0.0〜0.3、ブログ記事・キャッチコピー・小説などクリエイティブな出力には 0.7〜1.0 を選ぶのが一般的です。 Top-p / Top-k といったサンプリングパラメータと組み合わせて調整します。

実務での使いどころ

API で生成AIを組み込むときに設定します。要約・データ抽出・分類のように正解が決まっている処理では低く（0〜0.3）、キャッチコピーや企画案の発散では高め（0.7〜1.0）にするのが一般的です。

同じ入力で毎回違う答えが返ってきて困る場合、まず確認すべきがこの値です。業務システムに組み込む処理では低く固定しておくと、検証がしやすくなります。

混同しやすい用語との違い

Temperature と Top-p はどちらも出力の多様性を調整しますが、仕組みが違います。両方を同時にいじると挙動が読めなくなるため、実務ではどちらか一方だけを動かし、もう片方は既定値のままにするのが定石です。