跳到正文
原文
V2EX 热门· 1up·· 3 小时前AI 评分63

开源项目 Strata 支持在普通电脑上本地部署 125B 模型

[人工智能] Strata 这项目你们怎么看?本地部署,显卡内存继续涨?

AI 导读

开源项目 Strata 可支持在普通游戏电脑上运行 125B 参数级别的 Qwen3.8-Flash-Next,无需 48GB 或 80GB 高规格显存。该项目最低硬件要求为 12GB 显存显卡配合 32GB 以上内存,64GB 内存可覆盖主要量化版本,在 RTX 4090 24G 上的实测生成速度达到平均 136.0 tok/s。

来源:V2EX 热门 · v2ex.com