OpenAI的12小时提示缓存用于复用稳定的提示前缀,适合一天内相隔数小时仍要重复读取的规则或材料。当前新模型路径使用prompt_cache_options.ttl设置12h,缓存写入按普通输入的2.5倍计费;它是否省钱取决于真正复用几次,而不是保留时间越长越好。
启用条件与参数
先核对所用模型支持的缓存接口。官方将GPT-5.6及后续模型的prompt_cache_options与较早模型的prompt_cache_retention分开说明,不能把旧参数改成12h后直接假设生效。共享前缀还须达到该模型的最小可缓存长度。
from openai import OpenAI
client = OpenAI()
r = client.responses.create(
model="gpt-6.1-sol",
prompt_cache_options={"mode":"explicit", "ttl":"12h"},
input=[{"role":"developer","content":[{
"type":"input_text", "text":shared_rules,
"prompt_cache_breakpoint":{"mode":"explicit","ttl":"12h"}
}]}, {"role":"user","content":"根据上述资料回答本次问题。"}])
print(r.usage)shared_rules应先由程序读取真实、稳定且达到最小长度的规则资料;不能拿几句话的短演示判断命中。这里展示参数位置,本次未执行OpenAI计费调用。
12小时与默认缓存怎样收费?
| 设置 | 最小保留期 | 写入总费率 |
|---|---|---|
| 30m | 30分钟 | 普通输入的1.25倍 |
| 12h | 12小时 | 普通输入的2.5倍 |
这是写入总价而非再叠加普通输入的附加费;读取单价依模型。12小时是请求的最小保留期,不是到点删除承诺,也不等于Agent拥有12小时业务记忆。
用 GPT-6.1 Sol 算回本
按本次模型页面普通输入2美元/百万token、缓存读取0.10美元/百万token计算。假设同一100万token稳定前缀完整写入一次12h缓存,之后都完整命中;暂不计输出、工具和变动问题。
| 总使用次数 | 不复用,美元 | 12h写入一次后读取,美元 |
|---|---|---|
| 1 | 2.00 | 5.00 |
| 2 | 4.00 | 5.10 |
| 3 | 6.00 | 5.20 |
| 10 | 20.00 | 5.90 |
在这个理想假设里,第三次才开始比每次普通输入便宜。如果换制度版本、前缀变化或间隔超出有效期,需要重新计算写入。不能用这张表直接承诺真实项目节省比例。
怎样判断实际命中了?
检查usage.input_tokens_details中的cached_tokens和cache_write_tokens,将普通输入、读取、写入分开计量。若本来期望命中却不断写入,先检查前缀顺序、版本与缓存边界;若材料每天只用一次,12h未必划算。
什么时候值得用?
固定规则配合多次不同问题、跨上午下午的批处理值得试验;每次资料都不同或只有单次请求时,先保持默认策略。先记录一组真实请求,再比较完整费用和任务结果,避免为了缓存命中率把过期规则留在输入中。
继续阅读
MiniMax M3.1 Flash 怎么用?官方入口、API 计费与开源状态;上下文工程是什么?与提示词工程的区别及上下文整理示例
资料与更新说明
资料核验于2026年10月22日。下列演示输入、费用算例和任务拆分由本文设计;未标明实测的外部模型调用不代表本次已运行。产品开放范围与费用以官方当前页面及账号为准。