大模型生成结果的随机性并不是无规律的，它由解码阶段的采样策略共同决定。Temperature作为其中最直观的参数，直接影响softmax输出的概率分布形态。想要在创意写作和事实问答之间灵活切换，就必须先理解这个参数的作用边界和调优方式。
一、Temperature的数学机制：同一个分布的不同形状
在标准softmax函数中，每个logit都会经过指数运算后被归一化为概率。当引入温度系数T后，计算公式变为：p_i = exp(z_i / T) / sum_j exp(z_j / T)。T的取值会直接改变概率分布的集中程度。
T等于1时，模型按照原始logits计算概率；T小于1时，较大的logit会被进一步放大，导致概率分布更加尖锐，模型倾向于选择原本得分最高的token；T大于1时，logits之间的差距被压缩，原本低概率的token获得更高的采样机会。这个非线性缩放是温度参数能够平衡创造性和确定性的数学基础。
import numpy as np
def softmax_with_temperature(logits, temperature=1.0):
logits = np.array(logits, dtype=np.float32)
scaled = logits / temperature
exp_scaled = np.exp(scaled - np.max(scaled))
return exp_scaled / exp_scaled.sum()
logits = [2.0, 1.0, 0.1, 0.05]
for t in [0.1, 0.5, 1.0, 1.5]:
probs = softmax_with_temperature(logits, t)
print(f"T={t}: {[round(p, 4) for p in probs]}")
从上面的输出可以看出，当T从0.1增大到1.5时，最高概率token与最低概率token之间的差距迅速缩小。特别在T=1.5时，原本几乎不会被选中的token也获得了可见的概率。这种平坦化让生成结果出现更多意外组合，但对于需要精确输出的任务则可能引入噪声。
二、创造性任务：让低概率token获得机会
在文案创作、故事续写、头脑风暴等场景中，适度的随机性是产生新颖表达的关键。将Temperature设置在0.8到1.2之间通常可以带来更好的多样性。更高的值如1.3以上会让文本开始偏离主题，出现语义跳跃或逻辑断裂，因此不建议单独使用高温，而应配合top_p或top_k进行约束。
例如在生成广告语时，temperature=0.7可能会反复输出常见句式；temperature=1.0能产生更有张力的动词搭配；temperature=1.2则会提供更多意料之外的角度，但可能需要人工筛选。具体选择还取决于模型的基础训练分布，同一个数值在不同模型上的效果并不完全一致。
import openai
client = openai.OpenAI()
response = client.chat.completions.create(
model="your-model",
messages=[
{"role": "user", "content": "请为智能手表写五条宣传文案"}
],
temperature=0.9,
top_p=0.9,
max_tokens=300
)
这段代码展示了同时使用temperature和top_p的方式。top_p只保留累计概率达到设定值的token集合，再配合温度缩放，可以在保持主题相关性的同时提升措辞的丰富度。对于需要创造性但又不希望跑题的任务，这种组合比单独调高温度更稳定。
三、确定性任务：低温与贪心策略的边界
代码生成、数学计算、知识问答等场景对确定性要求更高。此时温度可以设置在0.0到0.3之间，甚至直接采用贪心解码。T=0意味着每个位置都选择概率最高的token，虽然输出可复现，但生成内容容易变得机械，长文本中还会出现重复片段。
很多人误以为T=0就是最优的确定性方案，实际上过低的温度会放大模型内部的偏置。当几个候选token的logits非常接近时，低温会让模型坚定地选择其中某一个，而这种选择并不一定符合上下文语义。一个更稳妥的做法是使用低温配合beam search，或在关键推理步骤使用temperature=0.2，而在非关键连接部分略微提高到0.4，避免生成过程太过僵硬。
def dynamic_temperature(step, max_steps, base_temp=0.7, final_temp=1.2):
progress = step / max_steps
if progress < 0.3:
return 0.4
elif progress < 0.7:
return base_temp
else:
return final_temp
上面的动态策略按照生成阶段调整温度：前30%的步骤保持低温以确定整体方向，中间阶段适当升高增加局部多样性，最后阶段再次降低以保证结尾稳定。这种分段控制适用于长文摘要、技术文档生成和结构化输出场景。
四、动态Temperature：兼顾过程与结果的工程方案
实际生产环境中，固定温度往往无法覆盖任务的全过程。可以在生成的不同阶段动态设置不同的Temperature值。例如先以低温生成提纲或关键实体，再以中高温展开细节，最后以低温收束结论。
实现动态温度并不复杂。可以根据已生成的token数量或步数，通过线性或分段函数改变temperature值。也可以在循环采样时根据当前token的熵实时调整：当某一步的分布过于集中时适当提高temperature，当分布过于发散时降低temperature。这种反馈式调整能有效降低长文本中的退化现象。
调优Temperature的最终目标并不是找到一个万能数值，而是根据业务指标建立评估闭环。可以先在小批量样本上测试0.3、0.7、1.0、1.2等不同档位，记录多样性指标和准确率指标，再结合人工评审确定各场景的推荐范围。温度参数只是采样系统中的一个变量，与top_p、top_k、重复惩罚、停止条件等共同作用，才能实现创造性与确定性的平衡。
Temperature模型温度采样策略修改时间：2026-10-04 16:34:26