用 New Bing 2023 语料训练的小模型

开发者基于 New Bing 2023 语料训练了一款小模型并开放试玩，目前正持续迭代模型检查点。由于当前版本蒸馏了 8B 规模的 llama-3-Sydney 合成数据且未清洗干净，生成仍存在部分问题。后续训练将仅采用红迪原始截图数据，预计明天的检查点会去除所有 LLaMA 的合成数据。