OpenAI Blog精选84

GPT-6 的提示缓存优化

Better prompt caching for GPT-6

· 21天前

精选理由

帮助开发者提升缓存命中率,降低GPT-6应用延迟与成本。

AI 摘要

了解 GPT-6 如何通过提高缓存命中率、新增诊断功能、明确的断点以及降低延迟和成本的控制选项来改进提示缓存。

查看原文(OpenAI Blog)