Hugging Face·· 2023-05-09精选AI 评分74
Hugging Face 详解基于 StarCoder 微调对话式代码助手 StarChat
Creating a Coding Assistant with StarCoder
AI 导读
Hugging Face 介绍了将 16B 参数代码基座模型 StarCoder 微调为对话助手 StarChat-alpha 的完整方案，并开源了相关代码、数据集与模型。
推荐理由
文章梳理了从 ChatML 格式化、用户标签掩码到 DeepSpeed ZeRO-3 训练的流程，为代码基座模型的对话改造提供了可复现方法。
来源：Hugging Face · huggingface.co