Top-p (Nucleus Sampling)とは？
読み: トップピー英語: Top-p / Nucleus Sampling
LLMが次のトークンを選ぶときに、累積確率がpを超えるまでの上位候補だけからサンプリングする手法。
詳しい解説
Top-p (Nucleus Sampling) は、LLM が次のトークンを選ぶ際、確率の高い順にトークンを並べ、累積確率が p に達するまでの上位候補だけを選択肢として残す手法です。
例えば p=0.9 なら、累積確率が 90% に達するまでの少数の候補だけが残り、極端に確率の低い (突飛な) トークンは除外されます。 結果として「適度に多様だが破綻しにくい」出力が得られるため、Temperature とセットで品質チューニングに使われます。
一般的には Temperature を主軸に調整し、Top-p は 0.9〜1.0 で固定するか、両方併用しないでどちらか片方で制御する設計が推奨されます。
この分野を学べる生成AIスクール
Top-p (Nucleus Sampling)を含む生成AIのスキルを体系的に身につけたい方は、AI HACK のスクールランキングをご活用ください。