← सभी गाइड पर लौटें

何时启用 Cache Read：用提示词缓存降低 AI API 成本的 7 个判断

何时值得用 Cache Read

Cache Read 指模型复用此前已写入缓存的提示词前缀，并按更低价格读取它。它不是每次请求都自动省钱：只有大量请求共享一段足够长、足够稳定的上下文时，缓存写入成本才会被后续读取成本摊薄。对使用 Claude 等支持提示词缓存能力的模型的团队来说，正确判断场景，比盲目给所有请求加缓存更重要。

• 1. 系统提示词很长且长期不变。例如把产品规则、语气规范、工具说明、权限边界和 JSON 输出约束合并成数千 token 的系统提示词。只要多数请求都复用该前缀，就应将稳定部分放在缓存断点之前；用户问题、时间信息和一次性变量放在后面。
• 2. 同一份资料要被反复检索或问答。客服知识库摘要、合同全文、代码仓库说明、投研材料和课程讲义，若一次上传后要回答几十个问题，适合先缓存资料主体。不要把每轮新问题插入资料中间，否则会改变前缀，导致无法命中已有缓存。
• 3. Agent 会进行多轮工具调用。编码代理常在同一任务中反复携带项目约定、目录结构、任务目标和工具定义。将这些固定上下文缓存后，每轮只追加工具结果与最新指令，尤其适合 Claude Code、Codex 或自建 Agent 的循环调用。
• 4. 你在做批量评测或内容生产。用同一评分标准评估上千条回答，或按照同一品牌规范生成大量商品文案时，公共 rubric 应缓存。每条样本的输入和输出独立放在后面，既能控制成本，也避免样本之间互相污染。
• 5. 请求有明显的重复前缀。先记录每类请求的 token 构成：固定系统指令、固定资料、会话历史、用户输入。若固定部分占输入 token 的大头，并且同一前缀会在缓存有效期内重复使用多次，Cache Read 通常值得开启；只有短提示词或低频请求时，收益可能有限。
• 6. 先观察命中率，再扩大范围。在日志中分别记录缓存写入 token、缓存读取 token、普通输入 token、总延迟和请求失败率。缓存写入后仍持续出现普通长输入，通常说明前缀顺序变化、动态字段混入固定区，或请求没有落到同一模型与相同配置。
• 7. 不要缓存敏感且无复用价值的数据。一次性身份证明、支付信息、临时授权令牌和每位用户独有的长文本，不应为了缓存而并入共享前缀。缓存设计应遵循最小化原则，并与现有数据保留、安全审计策略一致。

实操：把提示词拆成三层

最稳妥的结构是：第一层放系统角色、工具定义和输出格式；第二层放稳定的领域资料；第三层放会话历史、用户输入和工具结果。仅在前两层设置缓存控制，并保证字段顺序、文本内容、模型版本和工具 schema 保持一致。修改一条规则时，接受该前缀需要重新写入缓存，不要期待旧缓存继续命中。

用 59API 控制模型接入成本

59API 提供按量付费的 Claude（Opus、Sonnet、Haiku、Fable）与 GPT 模型访问，API 基础地址为 https://api.59api.com，并兼容 Claude Code、Codex 和 OpenAI SDK。对于已有缓存策略的应用，可优先保持原有请求结构和模型参数，再将接口切换到 59API，结合原生官方质量模型与较低的中转成本进行测试。上线前用真实流量比较缓存命中率、首请求成本和后续读取成本；确认适配后，可注册 59API，并通过其推荐返利进一步优化长期支出。

मूल्य · दस्तावेज़