Hugging Face·· 2023-12-11精选AI 评分88
Hugging Face 全面集成并支持 Mistral 8x7B 开源 MoE 模型
Welcome Mixtral - a SOTA Mixture of Experts on Hugging Face
AI 导读
Hugging Face 宣布全面集成 Mistral 发布的开源 MoE 模型 Mixtral 8x7B，并在 Hub、Transformers 及 TGI 中提供完整支持。
推荐理由
文章系统梳理了该 MoE 模型的显存配置要求与量化部署路径，为开源模型的低成本微调及工程落地提供了参考。
来源：Hugging Face · huggingface.co