跳到正文
原文
Hugging Face·· 2026-03-17精选AI 评分61

H Company 发布高吞吐计算机操作模型 Holotron-12B

Holotron-12B - High Throughput Computer Use Agent

AI 导读

H Company 正式发布多模态计算机操作模型 Holotron-12B,基于 NVIDIA 开源模型后训练构建并已上线 Hugging Face。该模型采用混合 SSM 与注意力架构以减少显存占用,在单张 H100 搭配 vLLM 运行且并发达到 100 时吞吐量达到 8.9k tokens/s,并在 WebVoyager 基准测试中取得 80.5% 的表现。

推荐理由

该模型结合混合状态空间模型架构优化并发推理,展现了降低显存占用并提升智能体长上下文吞吐量的方法。

来源:Hugging Face · huggingface.co