LINUX DO 最新· monkeygeorge·· 3 小时前AI 评分33
用 Qwen3.8 把老机器填满
开心,用Qwen3.8把家里的老机器**填满**了
AI 导读
用户借助 Strata 工具,在配有 64GB 内存与 Nv4060 显卡的旧设备上成功运行了 Qwen3.8 的 IQ3_XX3 模型,实现 200k 上下文且硬件全满载。该方案主要通过系统内存代替显存来适配大内存弱 GPU 机器,实测速度约为输出 20 t/s、填充 150 t/s,显存与内存总和超过 48GB 即可运行 IQ2 模型。
来源:LINUX DO 最新 · linux.do