AWS 博客介绍 Bedrock 上 OpenAI 模型的提示缓存模式

2026年10月27日，AWS Machine Learning Blog 发文介绍在 Amazon Bedrock 上调用 OpenAI 模型时的提示词缓存模式，用于降低 AI 智能体每轮重复发送工具、指令和历史带来的重复上下文成本。文章区分隐式缓存与显式缓存两种方式，并给出使用条件：可缓存前缀需至少 1,024 tokens，缓存 TTL 至少 30 分钟，缓存写入按正常输入价格的 1.25 倍计费。在六轮测试中，GPT-6 Astra 的隐式缓存使输入成本降低约 62%，显式滚动断点降低约 61%。目前该文为事件的最新报道，尚无后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。