温度（Temperature）

温度（Temperature）とは、自然言語処理（NLP）や生成AIにおけるテキスト生成時のランダム性や創造性を調整するためのパラメータです。 特に、ChatGPTやGPT-4、Bardなどの大規模言語モデルにおいて、次に出力する単語（トークン）を決める際の確率分布に影響を与える役割を持ちます。 温度は通常、0.0〜2.0程度の範囲で設定され、値に応じて以下のような挙動が変わります： • 低い温度（例：0.2〜0.5） 　確率の高い語に強く偏った選択が行われ、出力はより決定的（deterministic）で一貫性のあるものになります。 　→ 正確さ・安定性が重視される用途（翻訳、要約、コード生成など）に適しています。 • 高い温度（例：1.0〜1.5） 　低確率の語も選ばれやすくなり、出力は多様で創造的になりますが、一貫性や論理性が低下する場合があります。 　→ アイデア出し、ストーリー生成、詩の作成などの用途に適しています。 • 中程度の温度（例：0.7〜1.0） 　精度と創造性のバランスが取れた応答が得られやすく、多くのチャットボットや生成AIサービスの初期設定にも採用されています。 技術的には、温度は確率分布の「シャープさ（鋭さ）」をコントロールする数値であり、softmax関数でのスケーリングに用いられます： P(word) = softmax(logits / temperature) この式からもわかるように、温度を上げることで分布は平坦になり（＝ランダム性が増す）、下げると分布は尖り（＝確実性が高まる）ます。 トップkサンプリングやトップpサンプリングと併用することで、生成されるテキストの多様性と品質を微調整できるため、温度は生成AIにおける非常に重要なチューニングパラメータです。