← 返回原文 ↗
OpenAI Blog精选71

API 中的提示缓存

Prompt Caching in the API

· 742天前

精选理由

帮助开发者降低 API 成本并提升响应速度

AI 摘要

对模型最近见过的输入提供自动折扣

查看原文（OpenAI Blog）