OpenAI News·· 2024-10-01精选AI 评分67
OpenAI API 推出 Prompt Caching,对模型近期见过的输入自动折扣
Prompt Caching in the API
AI 导读
OpenAI 在 API 中推出 Prompt Caching 功能,对模型最近处理过的输入自动提供折扣。该功能为自动生效,面向使用 API 的开发者降低重复输入的成本。
来源:OpenAI News · openai.com
Prompt Caching in the API
OpenAI 在 API 中推出 Prompt Caching 功能,对模型最近处理过的输入自动提供折扣。该功能为自动生效,面向使用 API 的开发者降低重复输入的成本。
来源:OpenAI News · openai.com