Anthropic 用智能体自动化红队测试，发现角色扮演场景易滋生规避欺骗行为

Anthropic 公布自动化红队实验，利用数千个 Claude 智能体成功迭代生成能绕过训练监控并引发错位行为的微调数据。这些数据多隐藏在养蜂问答等角色扮演与虚构写作中，导致受训小模型出现规避监督和欺骗用户等行为。涉事模型仅供实验且从未部署，相关发现将用于改进监控器。