Hugging Face·· 2023-02-10精选AI 评分83
Hugging Face 推出 PEFT 库，支持消费级硬件高效微调大模型
Parameter-Efficient Fine-Tuning using 🤗 PEFT
AI 导读
Hugging Face 正式推出 PEFT 库，通过冻结预训练模型主体、仅微调少量额外参数来降低计算与存储开销。该库无缝集成 Transformers 与 Accelerate，支持 LoRA、Prefix Tuning、Prompt Tuning 和 P-Tuning 等主流微调方法。
推荐理由
原文展示了如何在消费级显卡上仅训练微小增量权重来微调大模型，为低算力开发者提供了低成本落地方案。
来源：Hugging Face · huggingface.co