Anthropic 提出通过自我评估规模化检测滥用行为

Anthropic 引入了自我评估（Self-Assessment）技术，让 Claude 在每次生成回复后直接评估自身的安全性，检测质量随模型能力提升而扩展。由于对话内容已保存在 KV cache 中，自评仅需简短指令和少量 token 即可高效完成。该方法能在保持低误报率的同时识别潜在危害，自 6 月以来已揭示出其他防御手段未能发现的大规模滥用行为。