跳到主要内容

OpenAI 12 小时提示缓存怎么用?启用条件、计费与回本算例

作者:速优AI内容团队 最近更新:2026-10-21 13:13:50 阅读数:1 关键词:12-hour prompt caching,Sonnet 5.5 cache-read price update

OpenAI的12小时提示缓存用于复用稳定的提示前缀,适合一天内相隔数小时仍要重复读取的规则或材料。当前新模型路径使用prompt_cache_options.ttl设置12h,缓存写入按普通输入的2.5倍计费;它是否省钱取决于真正复用几次,而不是保留时间越长越好。

启用条件与参数

先核对所用模型支持的缓存接口。官方将GPT-5.6及后续模型的prompt_cache_options与较早模型的prompt_cache_retention分开说明,不能把旧参数改成12h后直接假设生效。共享前缀还须达到该模型的最小可缓存长度。

from openai import OpenAI
client = OpenAI()
r = client.responses.create(
    model="gpt-6.1-sol",
    prompt_cache_options={"mode":"explicit", "ttl":"12h"},
    input=[{"role":"developer","content":[{
        "type":"input_text", "text":shared_rules,
        "prompt_cache_breakpoint":{"mode":"explicit","ttl":"12h"}
    }]}, {"role":"user","content":"根据上述资料回答本次问题。"}])
print(r.usage)

shared_rules应先由程序读取真实、稳定且达到最小长度的规则资料;不能拿几句话的短演示判断命中。这里展示参数位置,本次未执行OpenAI计费调用。

12小时与默认缓存怎样收费?

设置最小保留期写入总费率
30m30分钟普通输入的1.25倍
12h12小时普通输入的2.5倍

这是写入总价而非再叠加普通输入的附加费;读取单价依模型。12小时是请求的最小保留期,不是到点删除承诺,也不等于Agent拥有12小时业务记忆。

用 GPT-6.1 Sol 算回本

按本次模型页面普通输入2美元/百万token、缓存读取0.10美元/百万token计算。假设同一100万token稳定前缀完整写入一次12h缓存,之后都完整命中;暂不计输出、工具和变动问题。

总使用次数不复用,美元12h写入一次后读取,美元
12.005.00
24.005.10
36.005.20
1020.005.90

在这个理想假设里,第三次才开始比每次普通输入便宜。如果换制度版本、前缀变化或间隔超出有效期,需要重新计算写入。不能用这张表直接承诺真实项目节省比例。

怎样判断实际命中了?

检查usage.input_tokens_details中的cached_tokens和cache_write_tokens,将普通输入、读取、写入分开计量。若本来期望命中却不断写入,先检查前缀顺序、版本与缓存边界;若材料每天只用一次,12h未必划算。

什么时候值得用?

固定规则配合多次不同问题、跨上午下午的批处理值得试验;每次资料都不同或只有单次请求时,先保持默认策略。先记录一组真实请求,再比较完整费用和任务结果,避免为了缓存命中率把过期规则留在输入中。

继续阅读

MiniMax M3.1 Flash 怎么用?官方入口、API 计费与开源状态;上下文工程是什么?与提示词工程的区别及上下文整理示例

资料与更新说明

资料核验于2026年10月22日。下列演示输入、费用算例和任务拆分由本文设计;未标明实测的外部模型调用不代表本次已运行。产品开放范围与费用以官方当前页面及账号为准。

相关标签

最新资讯