技术参考
提示词缓存
提示词缓存是指模型供应商可以跨对话轮次复用未改变的提示词前缀(通常是系统/开发者指令和其他稳定上下文),而不必每次都重新处理。首次匹配的请求会写入缓存令牌(cacheWrite),后续匹配的请求可以读取它们(cacheRead)。
这为什么重要?更低的令牌成本、更快的响应速度,以及长时间运行的会话有更可预测的性能表现。没有缓存的话,即使大部分输入都没变,每次轮次仍然要支付完整的提示词成本。本页涵盖所有影响提示词复用和令牌成本的缓存相关配置项。
有关 Anthropic 定价详情,请参阅:https://docs.anthropic.com/docs/build-with-claude/prompt-caching