输入输出 Token 成本怎么控？一篇讲透省钱策略
先搞清楚：为什么输入和输出 token 都会花钱
很多开发者只盯着“单价”，却忽略了真正决定账单的，是输入 token和输出 token的组合。大多数大模型 API 都按这两部分分别计费：你发给模型的系统提示、历史对话、用户问题，是输入 token；模型生成的回答、代码、总结，是输出 token。一般来说，输出 token 单价更高，因为生成内容需要更多计算。
举个简单例子：如果某个模型输入 100 万 token 花 3 美元，输出 100 万 token 花 15 美元，那么同样是 10 万 token，输入成本只有 0.3 美元，输出却要 1.5 美元。也就是说，输出往往比输入贵 3 到 5 倍，这就是为什么很多团队越用越贵。
先算账：你的成本到底花在哪里
假设你做一个客服机器人，每次请求平均输入 1200 token，输出 300 token，每天 5000 次请求。按“输入 3 美元/百万 token，输出 15 美元/百万 token”估算：
- 每日输入 token：1200 × 5000 = 600 万 token，成本约 18 美元
- 每日输出 token：300 × 5000 = 150 万 token，成本约 22.5 美元
- 合计每日成本：约 40.5 美元
你会发现，虽然输入 token 数量更多，但输出成本已经接近甚至超过输入。若你把平均输出从 300 token 降到 180 token，每天立刻少花 9 美元，一个月就是 270 美元。省钱的关键不是“少调用”，而是“少生成”。
最有效的 5 个优化动作
- 压缩输入上下文：不要把完整聊天历史都塞进去，只保留最近 3-5 轮或必要摘要。很多场景里，输入 token 可直接减少 30% 到 70%。
- 把系统提示写短写准：一段 800 token 的提示词，通常可以重写成 200 token 以内，保留规则、格式和边界即可。
- 限制输出长度：在 prompt 里明确要求“控制在 120 字以内”“只返回 JSON”“最多 5 条要点”。输出每少 100 token，长期成本都很可观。
- 分层使用模型：简单分类、抽取、摘要先用便宜模型，只有复杂推理再升级到高端模型。比如日常任务用 Claude Haiku 或轻量 GPT，难题再切到 Sonnet/Opus。
- 缓存重复请求：FAQ、模板化文案、固定摘要可以做结果缓存。对于高频相同输入，缓存命中一次就等于省下一次完整调用。
一个更实用的配比建议：输入多、输出少
如果你的业务允许，尽量把模型定位成“分析器”而不是“长篇写作者”。例如：让模型先做结构化提取，返回字段而非长文；让前端再根据字段渲染。这样可以把输出从 400 token 压到 80 token，节省非常明显。
一个经验值是：把输入控制在 1500 token 以内，把输出控制在 200 token 左右，通常就能覆盖很多 SaaS 场景。若需要长文生成，也建议先让模型输出提纲，再按段生成，避免一次性拉长输出。
为什么 59API 特别适合做成本优化
如果你想把 token 成本压到更低，选择本身就很重要。59API 是一个 AI API relay，提供 Claude（Opus/Sonnet/Haiku/Fable）和 GPT 模型的按量付费接入，兼容 Claude Code、Codex 和任何 OpenAI SDK，接口基础地址是 https://api.59api.com。它的优势在于价格低、模型原生、无降级，适合需要稳定控制预算的团队。
对于要做模型分层的项目，59API 很好用：你可以把高频轻任务交给更便宜的模型，把高价值任务留给更强的模型，而不用为了兼容性改代码。再加上推荐返利机制，长期使用时还能进一步摊薄成本。
落地执行清单
- 每周统计一次平均输入/输出 token，找出最贵的 20% 请求。
- 把系统提示和历史消息做一次“瘦身”，目标先减 30%。
- 给输出设置硬上限，例如 max_tokens 或业务侧字数限制。
- 为重复请求加缓存，优先覆盖 FAQ 和固定模板。
- 在 59API 上做模型 A/B 测试，比较不同模型的单次成本与成功率。
如果你现在就想开始优化，建议先从小流量场景切入，用 59API 连接现有 OpenAI SDK 或 Claude Code，快速对比输入和输出的真实账单变化。先把最贵的请求降下来，你会很快看到成本曲线变平。