AWS Machine Learning· Anshika Saxena·· 3 小时前精选AI 评分69
Amazon Bedrock 为 Anthropic Claude 模型支持结构化输出
Structured outputs for Anthropic Claude models on Amazon Bedrock
AI 导读
Amazon Bedrock 现已针对所有 Anthropic Claude 模型正式支持结构化输出，覆盖 bedrock-runtime 和 bedrock-mantle 端点。该功能通过受限解码在 token 生成阶段强制执行 JSON Schema，并支持严格工具调用，避免解析报错与重试逻辑。功能兼容流式输出、批量推理与跨区域推理，编译后的语法缓存有效期为 24 小时。
推荐理由
原文给出了约束解码机制与语法缓存细节，读者可以据此判断集成结构化输出对延迟和重试成本的改善。
来源：AWS Machine Learning · aws.amazon.com