Hugging Face·· 2024-10-22精选AI 评分83
Diffusers 支持 Stable Diffusion 3.5 Large:推理与量化训练指南
Diffusers welcomes Stable Diffusion 3.5 Large
AI 导读
Hugging Face 宣布 Diffusers 正式接入 Stable Diffusion 3.5 Large,支持 8B 基础模型与少步数蒸馏版本。文章介绍了 SD3.5 引入 QK 归一化与双注意力层的架构调整,并给出了通过 bitsandbytes 进行 NF4 量化推理以及在 24GB 显存消费级 GPU 上微调 LoRA 的具体代码。
推荐理由
原文给出了在消费级显卡上通过量化运行推理和微调 LoRA 的完整配置,适合需要低门槛接入 SD3.5 的开发者参考。
来源:Hugging Face · huggingface.co