← Voltar aos guias

编程任务如何选 max_tokens 与 temperature：实战配置指南

先把两个参数放到正确的位置

在代码生成、排错和重构任务中，max_tokens决定模型最多能输出多少内容，temperature决定输出的随机性。它们不是“越大越好”的开关：前者直接影响回答是否会被截断和调用成本，后者则影响代码是否稳定、是否会出现不必要的实现分支。最实用的做法，是按任务规模设置预算，再按任务是否需要探索设置随机性。

按编码任务选择 max_tokens

对于单函数补全、类型修复、正则表达式调整等小任务，通常从 800 到 2000 开始。提示词中给出目标文件、报错信息和预期行为，要求只返回补丁或完整函数，可以减少无关解释。若模型输出经常在函数中间停止，再逐步增加，而不是一开始设置很高上限。

例如，用 OpenAI SDK 修复一个 Python 函数时，可先使用如下配置：client.chat.completions.create(model="claude-sonnet", messages=messages, max_tokens=1600, temperature=0.1)。1600 足以覆盖分析、修改后的函数和简短说明；对于只要求返回 diff 的场景，1000 往往已经足够。

多文件重构、生成接口层、补齐测试或分析较长日志时，建议设为 4000 到 8000。此类任务的真正风险不是代码行数，而是模型需要同时保留的约束，例如现有模块边界、测试框架、错误处理和兼容性要求。提示词应明确写出“先列出修改文件，再逐个给出完整修改”，并要求输出到达上限时优先完成可运行代码。

• 800-2000：补全函数、修复明确报错、写单元测试。
• 3000-5000：实现一个小功能、解释调用链、生成多个测试用例。
• 6000-8000：跨文件重构、迁移 SDK、处理长日志与复杂代码审查。

temperature 应该尽量低吗

绝大多数生产编码任务可以从 0 到 0.2 开始。低 temperature 会让相同输入得到更一致的 API 调用、命名和错误处理方式，适合修复缺陷、生成测试、遵循既有项目规范。比如让模型根据失败测试定位问题，可设置 temperature=0，这样更便于重复验证和比较结果。

当任务本身需要方案发散时，再提高到 0.4 到 0.7。例如设计缓存策略、比较数据库迁移路径，或要求提出三种不同架构方案。此时不要直接让模型生成并提交最终代码，而应先收集方案，选定一种后用 temperature=0.1 的第二次调用落实实现。超过 0.8 通常会让代码风格漂移、引入未要求的依赖，除非你正在做原型探索。

用 59API 低成本做参数试验

参数需要结合自己的仓库验证。59API 提供按量付费的 Claude（Opus、Sonnet、Haiku、Fable）和 GPT 模型，并兼容 Claude Code、Codex 及 OpenAI SDK；将 base_url 设置为 https://api.59api.com 后，可以用同一批测试提示词比较不同模型和参数，而不必改动现有客户端结构。

建议建立一个包含 10 个真实任务的小型评测集，记录每次调用的 max_tokens、temperature、是否截断、测试是否通过及实际费用。先以 Sonnet 或 GPT 的中等预算配置跑基线，再只调整一个变量。简单、批量的测试生成可优先尝试 Haiku；需要理解复杂业务逻辑时再提高预算或切换更强模型。59API 的低价与原生官方质量模型，适合把这种本应持续进行的调参变成可负担的工程流程。

当你确认团队的默认参数后，将其封装为 SDK 配置并允许少数复杂任务覆盖即可。需要开始测试时，可注册 59API，并通过推荐返利进一步降低日常 AI 编程调用成本。

Preços · Docs