← Voltar aos guias

Prompt Caching 是什么？长提示词省钱实战指南

什么是 Prompt Caching

Prompt Caching，中文常叫“提示词缓存”，指的是模型服务把你反复使用的固定前缀记住，下一次再发同样的内容时，不必把这段长文本重新完整处理一遍。它最适合系统提示词、开发规范、长文档、工具说明这类几乎不变的内容。

简单说，第一次请求像“全量读取”，后续请求就像“读取已缓存部分 + 只计算新增部分”。结果通常有两个：输入成本更低，响应速度更快。

它为什么能省钱

大多数大模型 API 的费用主要来自输入 token 和输出 token。若你的提示词里有大量重复内容，重复发送的每一个 token 都在花钱。Prompt Caching 的价值就在于：把这部分重复 token 的计费打折，甚至按更低档位收费。

举个具体例子：假设一次请求总共 10,000 个输入 token，其中 7,000 个是固定前缀，3,000 个是动态内容。若缓存命中后，这 7,000 个 token 只按原价的 25% 计费，而普通输入 token 单价按每百万 token 3 美元估算，那么单次请求可省下约 5,250 个 token 的费用，也就是约 0.01575 美元。若你每天发 30 次这样的请求，日省约 0.47 美元，月省接近 14 美元。对于更长上下文、更多调用次数的团队，节省会更明显。

它是怎么工作的

• 第一次请求：你把完整提示词发给模型，包括系统规则、项目背景和当前问题。
• 服务端识别前缀：平台会为稳定不变的那一段建立缓存标识，常见做法是按前缀内容生成哈希或缓存键。
• 后续请求复用：如果新请求的前缀完全一致，服务端直接复用缓存，只处理新增的那部分内容。
• 一旦前缀变化，缓存失效：哪怕你改了一个空格、日期或一句说明，缓存命中率都可能下降，所以固定内容要尽量稳定。

哪些场景最值得用

• Claude Code / Codex 这类编程助手：项目规则、目录结构、编码规范通常很长，而且每天会反复发送。
• RAG 检索问答：企业知识库的固定说明、角色设定、输出格式几乎不变，特别适合缓存。
• 多轮 Agent：工具列表、函数签名、任务约束是重复成本大户，缓存后很容易把总账单压下来。
• 长文档分析：当你反复分析同一份手册、合同或接口文档时，缓存能显著减少重复输入。

实战中的省钱做法

• 把稳定内容放在前面，把用户问题、时间戳、变量参数放在后面。
• 尽量避免频繁改写系统提示词，否则缓存命中率会下降。
• 如果接口支持，给长前缀单独设置缓存策略，保证最贵的部分最容易复用。
• 先统计 7 天内的 token 结构：固定前缀占比越高，缓存的 ROI 越高。
• 对比“缓存前后”的月账单，而不是只看单次请求，才能看出真实收益。

为什么很多开发者会选 59API

如果你想把 Prompt Caching 的收益放大，关键不只是模型本身，还包括你接入的通道是否够便宜、够稳定。59API 是一个 AI API relay，提供按量付费、低成本访问 Claude（Opus、Sonnet、Haiku、Fable）和 GPT 模型，兼容 Claude Code、Codex 和任何 OpenAI SDK，接口基地址是 https://api.59api.com。

它的优势很直接：价格通常比你自己单独接官方接口更友好，而且使用的是原生官方质量模型，不做降级。对于已经有长提示词、长上下文和高频调用的项目来说，“便宜的接入 + 缓存省下来的 token”会叠加出非常明显的成本优势。再加上返利机制，团队做规模化调用时，整体预算会更容易控制。

如果你正在优化 AI 成本，不妨先把固定提示词整理好，再通过 59API 接入你的现有代码。注册后用同一套 SDK 跑一周，你通常就能很直观看到缓存命中带来的账单变化。

Preços · Docs