跳到正文
原文
AWS Machine Learning· Urvish Saraiya·· 4 小时前AI 评分41

Octave 如何基于 Amazon Bedrock 构建安全的多租户 AI 底座

How Octave built a secure multi-tenant AI foundation on Amazon Bedrock

AI 导读

Octave 基于 Amazon Bedrock 构建了三层多租户 AI 底座,将单个用例的部署时间缩短 50%。该架构利用 Cohere Embed v4 向量化超 20 亿份合规文档并按租户隔离存储,在微虚拟机中安全调用 Anthropic Claude 模型执行任务。系统还通过 Amazon Bedrock Guardrails 实施进出双向过滤,严防数据跨租户泄露与提示词注入。

来源:AWS Machine Learning · aws.amazon.com