Hugging Face·· 2026-07-23精选AI 评分67
Diffusers 原生支持 Nunchaku 4-bit 扩散模型推理
Bringing Nunchaku 4-bit Diffusion Inference to Diffusers
AI 导读
Diffusers 现已原生集成基于 SVDQuant 的 Nunchaku Lite 4-bit 推理方案，无需单独安装推理引擎或本地编译 CUDA 内核即可通过 from_pretrained() 直接加载量化模型。
推荐理由
介绍了如何直接通过 Diffusers 原生调用 W4A4 量化推理，开发者无需本地编译即可大幅降低显存并提升生成速度。
来源：Hugging Face · huggingface.co