Hugging Face·· 9 天前AI 评分52
Liquid AI 发布视觉语言草稿模型 LFM2.5-VL-DSpark
Accelerating vision-language models with LFM2.5-VL-DSpark
AI 导读
Liquid AI 正式发布适用于视觉语言模型 LFM2.5-VL-3B 的实验性投机解码草稿模型 LFM2.5-VL-DSpark。该草稿模型仅有 280M 参数,在增加 8.9% 显存开销的前提下,在设备端实现最高 3.13x 的解码加速与 2.62x 端到端提升,在 H100 上解码加速达 2.66x。
来源:Hugging Face · huggingface.co