跳到正文
原文
OpenAI·· 2024-10-01精选AI 评分77

OpenAI API 上线 Prompt Caching 功能

Prompt Caching in the API

AI 导读

OpenAI 在 API 中推出 Prompt Caching 功能。该功能将对模型最近见过的输入内容自动提供折扣,降低包含重复上下文的调用成本。

来源:OpenAI · openai.com