OpenAI API 推出 Prompt Caching，对近期见过的输入自动折扣

Prompt Caching in the API

AI 导读

OpenAI 在 API 中推出 Prompt Caching 功能，对模型最近见过的输入内容自动提供折扣。该功能面向 API 用户，可降低重复前缀类请求的输入成本。