zovo.imzovo.im
首页›AI 快讯›正文

OpenAI API 提示缓存可选 12 小时:写入价是普通输入的 2.5 倍,读取仍只要 0.1 倍

zovo2026-10-21约 2 分钟读完
OpenAI 的提示缓存文档现在列出了 12 小时的缓存生命周期。它适合“系统提示和资料很长、但每隔几小时才被用一次”的场景:多付一次写入费,换来之后每次读取都按缓存价计费。

提示缓存的原理是:多次请求共用同一段开头(系统指令、工具定义、参考资料)时,模型不必重新计算这段内容,复用保存下来的中间状态,输入按更低的缓存价收费。过去的问题是缓存存活时间短,隔上半小时再来就失效了。

01具体变了什么

按 OpenAI 官方文档,适用于 GPT-5.6 及之后的模型,且是在 Responses API 里设置 `prompt_cache_options.ttl`:

生命周期最短保留写入价(相对普通输入)读取价
"30m"(默认)30 分钟1.25 倍0.1 倍(GPT-6.1 Sol 为 0.05 倍)
"12h"12 小时2.5 倍同上,与生命周期无关

几点限制需要留意:可缓存的前缀至少 1,024 个输入 token;12h 是“最短保留时间”,OpenAI 可能保留更久,但它不改变数据保留政策;也可以只给某个显式断点单独设 12h,其余内容仍用 30 分钟。更早的模型继续用旧的 `prompt_cache_retention` 参数,不受这次设置影响。

02什么时候值得开

以同一段前缀、每次使用间隔都超过 30 分钟为例(价格按普通输入计为 1,这是本站按文档倍率做的推算,不是官方示例):

使用次数用 30m(每次重新写入)用 12h(写一次再读取)
2 次2.52.6
3 次3.752.7
10 次12.53.4

也就是说,只用两次时 12h 略贵,第三次起就划算;前提是这些使用都落在 12 小时内。如果前缀本来就几分钟内被连续调用,默认的 30 分钟已经够用,没必要多付 2.5 倍的写入费。

提示本站没有实际调用 API 验证。上线后用响应里的 usage.input_tokens_details.cache_write_tokens_details(分别记录 ttl_30m_tokens 与 ttl_12h_tokens)核对实际写入和读取的 token 数。

03关于 Codex 与 Work 的缓存

OpenAI 开发者团队成员在 X 上还提到,登录用户在 Codex 和 Work 中回到旧对话不会再有缓存惩罚。这一点在上述 API 文档里查不到,本站未能在官方页面核实,请以 OpenAI 后续正式说明为准。

资料来源(2026-10-21 核对)
标签:
本文由 zovo 编辑撰写,转载请注明出处。

相关文章