OpenAI API 提示缓存可选 12 小时:写入价是普通输入的 2.5 倍,读取仍只要 0.1 倍
提示缓存的原理是:多次请求共用同一段开头(系统指令、工具定义、参考资料)时,模型不必重新计算这段内容,复用保存下来的中间状态,输入按更低的缓存价收费。过去的问题是缓存存活时间短,隔上半小时再来就失效了。
01具体变了什么
按 OpenAI 官方文档,适用于 GPT-5.6 及之后的模型,且是在 Responses API 里设置 `prompt_cache_options.ttl`:
| 生命周期 | 最短保留 | 写入价(相对普通输入) | 读取价 |
|---|---|---|---|
| "30m"(默认) | 30 分钟 | 1.25 倍 | 0.1 倍(GPT-6.1 Sol 为 0.05 倍) |
| "12h" | 12 小时 | 2.5 倍 | 同上,与生命周期无关 |
几点限制需要留意:可缓存的前缀至少 1,024 个输入 token;12h 是“最短保留时间”,OpenAI 可能保留更久,但它不改变数据保留政策;也可以只给某个显式断点单独设 12h,其余内容仍用 30 分钟。更早的模型继续用旧的 `prompt_cache_retention` 参数,不受这次设置影响。
02什么时候值得开
以同一段前缀、每次使用间隔都超过 30 分钟为例(价格按普通输入计为 1,这是本站按文档倍率做的推算,不是官方示例):
| 使用次数 | 用 30m(每次重新写入) | 用 12h(写一次再读取) |
|---|---|---|
| 2 次 | 2.5 | 2.6 |
| 3 次 | 3.75 | 2.7 |
| 10 次 | 12.5 | 3.4 |
也就是说,只用两次时 12h 略贵,第三次起就划算;前提是这些使用都落在 12 小时内。如果前缀本来就几分钟内被连续调用,默认的 30 分钟已经够用,没必要多付 2.5 倍的写入费。
03关于 Codex 与 Work 的缓存
OpenAI 开发者团队成员在 X 上还提到,登录用户在 Codex 和 Work 中回到旧对话不会再有缓存惩罚。这一点在上述 API 文档里查不到,本站未能在官方页面核实,请以 OpenAI 后续正式说明为准。


Claude Code
Hy-Memory
Octop