← Retour aux guides

从提示词到生产：如何用更短输出降低 AI API 成本

为什么输出长度直接影响 API 成本

调用 Claude 或 GPT 时，费用通常由输入和输出 token 共同构成。很多团队已经会压缩上下文，却忽略了模型生成的解释、重复结论和客套话。一次多出 300 个 token 似乎不显眼，但在客服、代码审查、批量摘要等高频场景中，会迅速放大为可观支出。优化目标不是让回答变得生硬，而是让模型只生成业务真正需要交付给用户或下游程序的内容。

第一步：先定义可验收的最短结果

不要写“请简洁回答”这类模糊指令。先明确输出对象、字段、长度和禁止项。例如，工单分类任务的交付物可能只需要类别、优先级和一句理由；商品文案可能只需要标题和三条卖点。把需求写成可检查的规则：输出不超过 80 个汉字；不复述用户问题；不要开场白、免责声明和总结；信息不足时仅返回“需补充信息”。

对于代码任务同样如此。若你的程序只需要一个 JSON 配置，就要求模型“仅返回合法 JSON，不要 Markdown 代码块，不解释字段”。减少展示性文字，也能降低后续解析失败和二次调用的概率。

第二步：用明确格式替代开放式表达

开放问题会诱导模型补充背景、举例和推理。生产环境应优先选择固定格式。可在 system prompt 中定义角色和长期规则，再在 user prompt 放入本次数据。例如：你是订单审核器。仅按“结论|风险等级|处理动作”输出一行。每个字段不得超过 12 个汉字。不要解释规则。 这种格式既限制长度，也方便服务端按分隔符读取。

若使用 JSON，字段应少而稳定，并给出枚举值。与其要求“详细分析风险”，不如要求 risk 为 low、medium 或 high，reason 最多 30 字。字段级限制比笼统的“尽量简短”更可靠。

第三步：在 API 层设置硬上限

提示词是软约束，max_tokens 才是成本控制的硬边界。先根据目标格式做小规模测试：单行分类通常可从 80 到 150 tokens 开始，短摘要可从 200 开始，代码生成则按文件复杂度增加。不要沿用示例中的 4096 或更大默认值。上限过低会造成截断，因此应记录 finish reason，并在出现长度截断时只对少量失败请求进行补救，而不是把全量请求的上限都调高。

同时降低随机性。分类、抽取、改写等确定性任务可使用较低 temperature，使回答更稳定、更少发散。对于支持 stop 的接口，可设置明确终止标记，避免模型在完成结果后继续扩写。

第四步：建立可量化的提示词回归测试

准备 20 到 50 条脱敏样本，覆盖正常输入、超长输入、信息缺失和边界案例。每次修改 prompt 后，比较四项指标：输出 token 中位数、格式有效率、业务准确率和截断率。只有在准确率不下降或可接受的前提下，才接受更短的输出。把通过的提示词版本、模型名和参数写入配置并版本管理，避免线上人工修改后悄悄推高成本。

上线后按接口、模型和提示词版本记录 input tokens、output tokens、延迟与失败原因。若输出突然变长，先检查用户输入是否变化、是否加入了冗余上下文，以及是否有模型升级导致格式漂移。用数据定位问题，比持续叠加“请简洁”更有效。

选择适合生产调用的低成本通道

优化提示词能减少 token，合理的模型和接入方式则决定每个 token 的实际成本。59API 提供按量付费的 Claude Opus、Sonnet、Haiku、Fable 及 GPT 模型中转，使用官方原生质量模型，不通过降级模型压低价格。其 API Base URL 为 https://api.59api.com，兼容 Claude Code、Codex 和任意 OpenAI SDK，已有项目通常只需替换 Base URL、密钥和模型名即可接入。

实际部署时，可让简单分类和压缩任务优先使用更轻量模型，把复杂推理留给高能力模型；再结合上面的输出上限与评测集，形成质量和成本的双重控制。对于持续有调用量的团队，59API 的低价按量计费和推荐返利机制也能进一步降低长期预算。可先注册 59API，用一组真实脱敏样本对比不同模型与提示词版本的 token 消耗，再把效果最佳的组合发布到生产环境。

Tarifs · Docs