← Retour aux guides

Temperature、top_p、sampling：最常见的5个调参坑

先把三个概念分清

temperature 控制“有多敢想”，数值越低，模型越倾向于选高概率词，输出更稳定；数值越高，随机性越强，答案更发散。top_p 是“候选池裁剪”，模型先按概率从高到低排序，只保留累计概率达到 p 的那一小段候选，再从里面抽样。sampling 则是最终的“抽取动作”，也就是模型不是永远取最优解，而是在概率分布里选下一个 token。

很多人把 temperature 和 top_p 当成两个互相替代的旋钮，其实它们影响的是同一件事的不同环节：一个改分布形状，一个改候选范围。理解这一点，才能少走弯路。

常见坑一：temperature 和 top_p 一起拉满

最常见的错误，是为了“更有创造力”，把 temperature 调到 1.2、top_p 也调到 1.0，结果输出开始跑题、重复、甚至胡编。正确做法是一次只调一个参数。如果你主要想要变化，可以先固定 top_p=1，再慢慢提高 temperature；如果你想控制发散范围，可以先固定 temperature，再微调 top_p。

• 信息抽取、分类、代码补全：temperature 0 到 0.3，top_p 1.0
• 普通问答、客服、总结：temperature 0.3 到 0.7，top_p 0.9 到 1.0
• 文案、脑暴、创意写作：temperature 0.8 以上，再观察是否需要降低 top_p

常见坑二：把 temperature 0 理解成“绝对一致”

temperature 设为 0，通常意味着模型更接近贪心选择，看起来更稳定，但它不等于“每次都完全一模一样”。不同模型版本、系统提示词、上下文长度、服务端实现细节，都可能带来轻微差异。要追求可复现，最好同时固定模型、提示词、上下文、参数，并在支持的情况下记录请求版本。

常见坑三：把随机性当成智能

有些人看到输出更“活泼”，就以为模型更聪明。实际上，高随机性更容易带来幻觉和逻辑漂移。做事实问答、知识检索、合同摘要时，低 temperature 往往更靠谱；做标题、口号、故事开头时，才需要更高的随机性。别让“更像人”变成“更不准”。

常见坑四：不按任务选参数

不同场景的最优设置差别很大，最好先用小样本 A/B 测试，而不是凭感觉拍脑袋。你可以这样试：

• 结构化输出：低 temperature，尽量保留格式稳定性
• 长文写作：中等 temperature，配合适中的 top_p，避免太保守
• 多轮对话：温度不要过高，否则上下文一致性会下降
• 代码任务：低 temperature，优先正确性和可读性

常见坑五：忽略测试成本

调参不是一次就结束，尤其当你同时对比 Claude 和 GPT，不同模型在相同参数下的表现会明显不同。若你需要高频测试温度、top_p、sampling 组合，59API 会是一个很省钱的选择：它提供按量计费的低成本接入，支持 Claude 的 Opus、Sonnet、Haiku、Fable 以及 GPT 系列，使用的是原生官方质量模型，没有降级，还兼容 Claude Code、Codex 和任意 OpenAI SDK。API base URL 直接用 https://api.59api.com 即可，适合把参数实验做成标准流程。

如果你还在为每次试参数都烧掉不少预算，不妨先去 59API 注册一个账号，低成本跑几轮对比，再把真正稳定的参数投入生产。对需要反复验证输出质量的开发者来说，这种按量付费的方式更容易把调参工作做扎实。

最后的实用建议

记住一句话：temperature 决定“敢不敢变”，top_p 决定“从哪里变”，sampling 决定“最终怎么抽”。先明确任务，再选参数；先固定一个旋钮，再看另一个旋钮的影响。这样你不仅能更快找到稳定配置，也能更清楚地解释为什么某次输出变好了或变差了。