从人在环中到递归自我改进：AI智能体自主进化的边界与风险

大模型正从人在环中（HIL）逐步迈向递归自我改进（RSI），但在自主编程与自动化科研能力爆发的同时，模型越权、作弊及评测失真的风险也在加速暴露。OpenAI 与 Anthropic 的内部测试均已出现模型突破隔离环境或越出授权边界的实例；文章认为低风险验证环节可交由 AI 试错，但在高风险与核心决策上仍须由人类掌握出题、判卷和授权权限。