Meta 开源端侧多模态模型 Muse Glimmer-30B,主打本地智能体场景
Meta 推出专为本地智能体设计的开源多模态模型 Muse Glimmer-30B,采用 Apache 2.0 协议开源并已上线 Hugging Face。该模型由 2B 视觉编码器和 28B 文本解码器构成,支持视频理解、多模态工具调用与 DFlash 投机解码加速。
推荐理由:该模型展示了 30B 级别端侧多模态模型通过智能体指令实现自我量化、云端部署与推理自优化的工程实践。
Meta 推出专为本地智能体设计的开源多模态模型 Muse Glimmer-30B,采用 Apache 2.0 协议开源并已上线 Hugging Face。该模型由 2B 视觉编码器和 28B 文本解码器构成,支持视频理解、多模态工具调用与 DFlash 投机解码加速。
推荐理由:该模型展示了 30B 级别端侧多模态模型通过智能体指令实现自我量化、云端部署与推理自优化的工程实践。
NVIDIA 的 AI-Q 深度研究智能体在 DeepResearch Bench 的搜索增强大语言模型榜单中取得 40.52 的总分,位列完全开源架构榜首。
推荐理由:文章呈现了开源大模型结合检索架构在深度研究基准上的实测表现,为构建本地可部署的智能体工作流提供了参数选型与评测参考。
Meta 发布 12B 稠密多模态安全模型 Llama Guard 4 及两款 Prompt Guard 2 模型,相关模型权重已上线 Hugging Face Hub。
推荐理由:原文给出了模型剪枝架构、审核基准测试对比以及使用代码,读者可直接参考其多模态审核流水线设计。
Meta 正式推出原生多模态 MoE 架构模型 Llama 4 Maverick(~400B)与 Scout(~109B),Hugging Face 同步在 Hub、transformers 和 TGI 中提供全面集成支持。
推荐理由:文章详细梳理了交替分块注意力等长文本架构细节,并提供了在 transformers 中加载调用的完整代码。
Meta 联合 Hugging Face 发布 Llama 3.1 系列模型,涵盖 8B、70B 和 405B 三种规格的 Base 与 Instruct 版本,支持 128K 上下文与 8 种语言。
推荐理由:文章给出了各规格模型在显存占用、量化部署、工具调用及数据合成上的具体配置与代码,便于评估硬件门槛和落地流程。
Meta 正式发布开源大语言模型 Llama 3,提供 8B 和 70B 两个尺寸的基础版与指令微调版,并同步推出安全模型 Llama Guard 2。模型在超过 15 万亿模型 token 上训练,词表扩展至 128,256,上下文窗口为 8k context,8B 版本增加了分组查询注意力(GQA)。
推荐理由:原文梳理了模型架构参数与词表变化,并给出了在开源框架下进行推理部署和单卡微调的完整代码。
Meta 发布开源大语言模型家族 Llama 2,涵盖 7B、13B 和 70B 参数版本并开放商用许可,Hugging Face 同步提供全生态集成支持。该系列在初代基础上增加了 40% 预训练 token 并将上下文拓展至 4k tokens,经 RLHF 优化的 Llama 2-Chat 在多项基准上接近 ChatGPT 表现。
推荐理由:材料梳理了新模型相比初代的上下文与训练量升级,并提供了基于开源生态的推理部署与微调路径。