Anthropic Engineering·· 2026-02-05精选AI 评分68
Anthropic 量化智能体代码评测中的基础设施噪声
Quantifying infrastructure noise in agentic coding evals
AI 导读
Anthropic 发现智能体代码评测深受基础设施配置影响,在 Terminal-Bench 2.0 上仅靠放宽资源上限就可产生 6 个百分点的成绩差距。实验表明,严格的容器配额容易因瞬时内存峰值触发 OOM 误杀,而充裕资源则允许智能体使用重型依赖或暴力解法;SWE-bench 内存扩大 5 倍后分数也提升 1.54 个百分点。
推荐理由
原文通过量化实验展示了容器资源限制对智能体评测分数的直接扰动,读者可以据此重新审视榜单微小分差并改进评测沙箱设计。
来源:Anthropic Engineering · anthropic.com