跳到正文
原文
OpenAI News·· 2024-10-01精选AI 评分67

OpenAI API 推出 Prompt Caching,对模型近期见过的输入自动折扣

Prompt Caching in the API

AI 导读

OpenAI 在 API 中推出 Prompt Caching 功能,对模型最近处理过的输入自动提供折扣。该功能为自动生效,面向使用 API 的开发者降低重复输入的成本。

来源:OpenAI News · openai.com