Hugging Face·· 2025-05-21精选AI 评分71
开源混合架构大模型 Falcon-H1 系列发布
Falcon-H1: A Family of Hybrid-Head Language Models Redefining Efficiency and Performance
AI 导读
Falcon-LLM 团队推出 Falcon-H1 系列开源大语言模型，涵盖 0.5B 至 34B 六种尺寸规格并包含 Base 与 Instruct 版本。模型采用并行结合 Attention 与 Mamba-2 机制的混合头架构，原生支持 18 种语言并支持最高 256K 上下文窗口。
推荐理由
该系列展示了并行混合注意力与状态空间模型的设计细节，为探索长上下文高吞吐与端侧部署的开源架构提供了具体参考。
来源：Hugging Face · huggingface.co