AWS Machine Learning· Claudio Mazzoni·· 4 小时前AI 评分52
在 Amazon Bedrock 上使用 OpenAI 模型的 Prompt 缓存模式指南
Groundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
AI 导读
AWS 介绍了在 Amazon Bedrock 上调用 OpenAI 模型时的 Prompt 缓存工程模式，用于解决智能体在多轮交互中重复读取历史与工具定义导致的成本和延迟问题。
来源：AWS Machine Learning · aws.amazon.com