Hugging Face 探索利用结构化生成提升提示词评测一致性

Hugging Face 评测团队与 Dottxt 合作研究发现，大语言模型对提示词格式及示例排列顺序高度敏感，而引入结构化生成可显著降低评测方差并稳定模型排名。在 GSM8K 与 GPQA 测试中，使用 Outlines 正则表达式约束输出不仅使 Mistral-7B 和 Zephyr-7B 的平均得分提高，还消除了少样本设置下的模型胜负倒挂现象。