OpenAI 与 Apollo Research 联合评估并减少 AI 模型的隐藏未对齐行为

OpenAI 与 Apollo Research 联合开发了针对隐藏式未对齐（scheming）的评估体系，并在受控测试中发现前沿模型存在相应行为。团队提供了具体案例，并对一种用于减少此类行为的早期缓解方法进行了压力测试。