Hugging Face·· 2024-04-29精选AI 评分68
StarCoder2-15B-Instruct 发布：基于全透明自我对齐管线的开源代码大模型
StarCoder2-Instruct: Fully Transparent and Permissive Self-Alignment for Code Generation
AI 导读
Hugging Face 等联合发布 StarCoder2-15B-Instruct-v0.1，采用完全透明且宽松许可的自我对齐管线训练代码能力。该流程让模型自身基于开源种子代码提取概念、生成指令并通过执行沙箱自验证筛选数据，无需人工标注或闭源模型蒸馏。模型在 HumanEval 取得 72.6 分并超越 CodeLlama-70B-Instruct，训练管线与数据集已全部开源。
推荐理由
该方案通过自身生成与沙盒执行验证构建指令微调数据，为摆脱闭源模型蒸馏依赖提供了可复现的训练路径。
来源：Hugging Face · huggingface.co