Hugging Face·· 15 小时前精选AI 评分81
Reflection 推出开源 501B MoE 模型 Beam 并上线 Hugging Face
Welcome Beam: a 501B open model you can own, customize, and scale
AI 导读
美国实验室 Reflection 在 Hugging Face 开源首个混合专家模型 Beam，总参数量达 501B 且每 token 仅激活 23B，支持 1M 上下文并采用 Apache 2.0 协议。
推荐理由
原文完整公开了 501B 稀疏 MoE 架构细节与全套微调配方，读者可以据此评估本地部署超大规模开源模型的硬件可行性。
来源：Hugging Face · huggingface.co