跳到正文
原文
Hugging Face·· 2023-12-01精选AI 评分61

Hugging Face 深度解析 Open LLM Leaderboard 上的 DROP 基准问题并宣布下架

Open LLM Leaderboard: DROP deep dive

AI 导读

Hugging Face 宣布从 Open LLM Leaderboard 中暂时下架 DROP 评测基准,因排查发现大部分模型得分异常偏低源于实现缺陷。调查表明,DROP 的文本归一化步骤无法正确匹配紧跟换行符的数字,且使用句点作为停止词导致浮点数被强行截断、长回答模型得分受损。由于重新跑完超 50% 错误样本需要消耗巨额 GPU 时间,官方决定等待评测逻辑修复后再行恢复。

推荐理由

原文拆解了评测实现细节对分数造成的失真影响,展示了基准测试中停用词与归一化逻辑的设计陷阱。

来源:Hugging Face · huggingface.co