跳到正文
热点事件持续更新

Strata支持在16GB显存设备运行552B DeepSeek-V4.1-Flash

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月24日,Strata宣布支持552B规模的DeepSeek-V4.1-Flash大模型。该方案配合ISTA发布的GSQ-RCO 1bit和2bit量化版本,使得消费级显卡可以加载并运行该模型。实际测试结果显示,RTX 5070与RTX 3060的输出速度约为5至10 tokens/s;同时,该方案受限于CPU内存控制器带宽,且无法开启超过8GB的MTP层。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月24日
  1. LINUX DO 最新
    Strata 支持在 16GB 显存设备运行 552B DeepSeek-V4.1-Flash

    Strata 宣布支持 552B 规模的 DeepSeek-V4.1-Flash,配合 ISTA 发布的 GSQ-RCO 1bit 和 2bit 量化版本,使消费级显卡可加载运行该大模型。实测 RTX 5070 与 RTX 3060 输出速度约为 5-10 tokens/s,但受限于 CPU 内存控制器带宽且无法开启超 8GB 的 MTP 层。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。