PuppyIP 资源中心
AI 平台动态 7 分钟 发布于 2026-10-21

OpenAI API提示缓存新增12小时选项:适用范围、费率与成本核对

OpenAI为Responses API文档列出12小时提示缓存选项,支持范围限于启用该字段的模型请求。开发者应先核对模型与接口,再分别查看缓存写入、读取和总费用;12小时不保证命中,也不代表到点删除。

OpenAI API 提示缓存 Responses API 缓存写入费率 API成本

服务对象与地域限制

PuppyIP 仅面向海外合规企业及其授权人员提供服务,不面向中国大陆地区开放或提供代理服务。本服务仅限用于中国大陆境外的合法业务活动,严禁在中国大陆境内使用本服务。

代理 IP 或服务器位于境外,不改变上述限制。不得通过中转、转接、共享或转售向中国大陆境内的最终使用者提供本服务。使用前请阅读用户服务协议。

本文要点

  • OpenAI 的 10 月 20 日 API changelog 将 12 小时提示缓存列为 Responses API 更新。
  • 当前指南说明 GPT-5.6 及以后支持的 Responses API 请求可设置 ttl;12 小时缓存写入按未缓存输入费率的 2.5 倍计。
  • 2.5倍是适用缓存写入的费率,不是叠加在普通输入价格上的额外附加费;实际结果取决于缓存读取与写入token。
  • 30分钟和12小时是最低缓存生命周期,不是命中保证或精确删除时间;实际成本要结合用量字段与当前模型价格核算。

这次新增了什么

OpenAI 的 API changelog 于 2026 年 10 月 20 日在 Responses API 项下公布 12 小时 prompt caching。官方描述的用途是让共享指令、工具和上下文在间隔数小时的请求之间继续留在缓存中,以便复用时使用较低的缓存输入价格;同一条目同时注明 12 小时缓存写入按输入 token 价格的 2.5 倍计费。

这次更新针对 API 提示缓存设置,不会改变所有 API 模型或产品界面。使用前应核对具体模型、请求类型与字段支持。

12 小时缓存怎样计费

当前提示缓存指南把可配置的 prompt_cache_options.ttl 限定在 GPT-5.6 及以后支持的 Responses API。默认 30 分钟选项的缓存写入费率是未缓存输入 token 费率的 1.25 倍;12 小时选项则是 2.5 倍。应先确认模型与接口支持该字段,不要把这组规则套到其他 API、模型或 ChatGPT/Codex 界面。

倍数描述的是写入缓存 token 的费率,并非先按普通输入计一次、再加收 2.5 倍。它也不是整条请求的倍率:未缓存输入、缓存读取、缓存写入、输出和工具费用应分开核对。只凭缓存保存时长或这个倍率,不能得出某个工作负载一定省钱的结论。

12 小时不等于必定命中或到点删除

官方将 30 分钟和 12 小时定义为最低缓存生命周期,并说明缓存行为、保留设置与前缀复用依模型而异。缓存不是无限期保存;12 小时表示所选写入的最低保留期,不是承诺请求必定读取到缓存,也不是要求 OpenAI 在第 12 小时立即删除缓存的期限。

稳定的共享前缀有助于复用,但文档明确指出维持会话本身也不能保证命中。开发者可按请求记录所选 ttl,再查看响应中的 cached_tokens 与 cache_write_tokens,并结合延迟和模型费率比较;这些通用用量字段本身不能证明 12 小时设置带来的实际命中率、性能提升或节省。

开发者可以怎样验证成本

先确认请求使用的是支持 ttl 的模型和 Responses API,再只对稳定、会跨较长间隔复用的前缀考虑 12 小时选项。保留模型、请求类型、ttl、请求时间与现有 usage 数据,避免同时改变多个变量后把成本变化归因给缓存时长。

比较一段具有代表性的实际用量:区分未缓存输入、缓存读取和缓存写入,检查 30 分钟与 12 小时写入 token 分类,并按该模型的当前价格计算总额。若前缀不稳定、请求很少复用或缓存写入量增加,较长保留期不一定带来更低总费用。本文没有运行 API 调用、检查账号资格或测量缓存命中率;搜索需求也没有可用的实际查询行,仍待验证。

资料来源

常见问题

12 小时提示缓存适用于所有 OpenAI 模型吗?

不能这样推断。当前指南把 prompt_cache_options.ttl 的 30 分钟与 12 小时设置列给支持它的 GPT-5.6 及以后 Responses API 请求。使用前要核对具体模型和接口。

2.5 倍会让整条 API 请求价格都乘以 2.5 吗?

不会。2.5 倍是 12 小时缓存写入 token 相对未缓存输入 token 的费率。未缓存输入、缓存读取、输出和其他费用仍需分别按实际用量与适用价格计算。

设置 12 小时就能保证请求命中缓存吗?

不能。12 小时是所选设置的最低缓存生命周期,不是命中保证。应查看响应 usage 中的缓存读取和写入 token,并评估真实前缀复用情况。

延长缓存一定会降低总成本或延迟吗?

不能保证。12 小时选项的缓存写入费率较高,是否划算取决于缓存读取、写入、前缀复用和请求总量。请用实际 usage 与当前模型费率比较。