← Voltar aos guias

提示词越长越该缓存？开发者降低输入成本的快速指南

先判断：你是否反复发送同一段长提示词？

如果每次请求都携带相同的系统规则、工具定义或参考文档，缓存读取通常比继续压缩提示词更值得先试。它让服务复用已经处理过的输入前缀，并可能按更低的缓存读取价格计费。关键不是单次提示词有多长，而是相同前缀能否在有效期内被重复使用。

注意：提示词缓存不是答案缓存。模型仍会处理新问题并生成回答；它不会直接返回上一次的答案，也不保证两次输出一致。

哪些场景值得用，哪些先别折腾？

• 适合：代码助手反复携带项目规范；客服使用固定产品手册；文档问答针对同一份材料连续提问；多个任务共享较大的工具定义。
• 不划算：请求很短、每次参考材料都不同，或两次调用间隔超过缓存有效期。若创建缓存有额外费用，只调用一次反而可能更贵。
• 需要验证：多轮对话中，只有保持一致的已有前缀可能复用；修改开头的系统指令，可能影响后续内容的命中。

不要把“平台支持某个模型”等同于“该模型在当前路由支持缓存”。例如选择 Claude Sonnet 5.5 时，应先核对对应接口的缓存能力、最低长度、有效期和计费说明。

十分钟改造：固定内容在前，变量放后

• 第一步，拆分请求。把系统指令、工具定义、固定资料放在前面，把用户问题、当前时间和本次检索结果放在后面。
• 第二步，稳定序列化。保持消息顺序、工具列表顺序和固定文本一致。不要在公共前缀里插入随机请求编号或不断变化的时间戳。
• 第三步，按接口启用。有的接口自动识别可缓存前缀，有的需要显式指定缓存边界或创建缓存资源。只使用该模型、该路由明确支持的参数。
• 第四步，连续测试。先发送一次请求，再在有效期内保持前缀不变，仅修改末尾问题，检查第二次是否产生缓存读取量。

缓存通常有最小输入长度要求，具体门槛因模型而异。不要为了跨过门槛添加无用文本：新增输入本身也有成本。

别凭感觉省钱：看用量字段和账单

在兼容接口中，缓存命中可能体现为 usage.prompt_tokens_details.cached_tokens；其他接口可能返回 cache_read_input_tokens 和 cache_creation_input_tokens。字段名称、返回位置和含义以实际接口为准，缺少字段不应直接解释为零命中。

记录每次请求的普通输入、缓存写入、缓存读取、输出用量和费用，并对照账单确认折扣是否真正生效。延迟可以辅助观察，但回复变快不能证明获得了缓存价格。

用一个小算式判断是否值得

设固定前缀长度为 L，共调用 N 次，普通输入单价为 P，首次写入单价为 W，后续读取单价为 R。忽略动态输入和输出，不缓存的成本是 L×N×P；全部后续请求命中时，缓存成本是 L×W＋L×(N－1)×R。

举个纯假设、并非59API报价的例子：前缀为一万词元，调用五次，写入价是普通价的1.25倍，读取价是0.1倍。固定前缀成本就从五万份普通词元费用降到一万六千五百份，约省67%。但若缓存失效或前缀变化，实际节省会减少；输出费用也不会因此消失。

在59API上，从一个高重复任务开始

59API提供按量付费的多模型接入，API基础地址为 https://api.59api.com，并兼容OpenAI SDK、Claude Code、Codex和Gemini CLI。其低价中转定位与原生官方品质、不降级的模型接入，适合开发者先降低基础调用成本，再验证缓存带来的增量收益。

接入时按文档配置具体路径，并确认缓存参数是否透传、读取如何计价；不要假设所有模型共享同一套规则。也不要将敏感资料放进可跨用户共享的公共前缀，缓存复用不能替代权限隔离。

可以先注册59API，选一个重复前缀占比较高的真实任务做小额对照测试。平台另有推荐返利机制，具体条件以活动规则为准。最终只保留同时满足命中稳定、账单更低、效果不受损的配置。

Preços · Docs