AIGC SIGNAL

追踪产品、模型与功能更新,所有重要信息标注原始来源

查看更新流 →
成本优化

GPT-5.6 支持显式提示缓存断点

发生了什么

除自动缓存外,GPT-5.6 允许开发者显式标记哪些提示前缀应被缓存。

为什么重要

长系统提示、固定工具定义和稳定文档前缀可以复用,但缓存写入与读取的计费不同,因此需要观察命中率和实际成本。

实践建议

把真正稳定的前缀放在前面,避免频繁变化的内容造成重复写入,并用代表性流量计算净收益。

查看官方来源 ↗