Hugging Face 推出 PEFT 库,支持消费级硬件高效微调大模型
Hugging Face 正式推出 PEFT 库,通过冻结预训练模型主体、仅微调少量额外参数来降低计算与存储开销。该库无缝集成 Transformers 与 Accelerate,支持 LoRA、Prefix Tuning、Prompt Tuning 和 P-Tuning 等主流微调方法。
推荐理由:原文展示了如何在消费级显卡上仅训练微小增量权重来微调大模型,为低算力开发者提供了低成本落地方案。
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
Hugging Face 正式推出 PEFT 库,通过冻结预训练模型主体、仅微调少量额外参数来降低计算与存储开销。该库无缝集成 Transformers 与 Accelerate,支持 LoRA、Prefix Tuning、Prompt Tuning 和 P-Tuning 等主流微调方法。
推荐理由:原文展示了如何在消费级显卡上仅训练微小增量权重来微调大模型,为低算力开发者提供了低成本落地方案。
Hugging Face 发文系统拆解了人类反馈强化学习(RLHF)的核心技术流程与实现细节。文章将 RLHF 拆解为预训练语言模型、收集人类偏好数据训练奖励模型,以及使用 PPO 算法结合 KL 散度惩罚进行微调三个阶段。文中还梳理了 TRL、TRLX 和 RL4LMs 等开源工具库,并分析了数据标注成本高与主观评估分歧等落地挑战。
推荐理由:文章系统拆解了语言模型对齐的核心三步流程与开源工具链,帮助读者理解人类偏好如何转化为强化学习奖励信号。
Hugging Face 宣布与 arXiv 达成合作,通过 arXivLabs 在 arXiv 论文页面新增 Demo 标签页。用户无需在本地配置环境或运行代码,即可直接在浏览器中试用社区或作者基于 Gradio、Streamlit 构建的开源交互式应用。这一功能提升了学术论文的可复现性与传播度,便于更广泛的人群探索和验证模型效果。
推荐理由:arXiv 论文页面直接集成 Hugging Face Spaces 演示,方便研究者和开发者无需配置环境即可在线验证模型效果。
OpenAI 宣布开源名为 Whisper 的神经网络模型,该模型在英语语音识别上达到了接近人类水平的鲁棒性与准确度。
推荐理由:OpenAI 开源了语音识别模型 Whisper,在英语语音识别任务上达到了接近人类水平的鲁棒性与准确度。
Hugging Face 与 BigScience 团队详细公开了 176B 参数大语言模型 BLOOM 训练的技术与工程细节,整个训练在法国国家超算 Jean Zay 上耗时 3.5 个月(约 100 万计算时)完成。
推荐理由:文章拆解了百亿级多语言模型在数百张 GPU 上的 3D 并行拓扑与数值稳定性方案,适合需要攻克超大规模模型分布式预训练工程细节的团队参考。
BigScience 联合 Hugging Face 正式开源 1760 亿参数的多语言大语言模型 BLOOM,支持生成 46 种自然语言和 13 种编程语言的文本。
推荐理由:该项目完全公开了百亿级多语言模型的权重、训练检查点与优化器状态,为开源社区研究前沿模型底层机制提供了完整范本。
Hugging Face 宣布完成由 Lux Capital 领投的 1 亿美元 C 轮融资,红杉资本、Coatue 等机构参投。该笔资金将用于继续投入开源研究与产品开发,推进聚集超 1,000 名研究人员的 BigScience 开源多语言大语言模型训练,并持续扩张团队规模。
推荐理由:原文披露了融资领投方及平台托管规模等数据,展示了开源机器学习社区在商业化与生态建设上的关键节点。
Hugging Face 宣布收购机器学习演示工具 Gradio,Gradio 团队将正式加入 Hugging Face。Gradio 始于 2019 年斯坦福大学的研究协作需求,支持通过简易界面分享文本、语音和视频等多模态模型 Demo,目前已有超过 30 万个演示应用基于其构建。团队加入后将继续推进 Gradio 的开源生态,让任何具备浏览器的人都能更便捷地访问和测试机器学习模型。
推荐理由:该收购将交互界面工具与模型托管生态整合,使开发者能够更低门槛地向非技术人员分享与测试模型。
Hugging Face 介绍了利用 Gradio 在 Hugging Face Spaces 中托管与展示机器学习 Demo 的完整流程,允许开发者通过几行代码调用 Inference API 快速上线交互界面。
推荐理由:文章给出了通过 Gradio 在 Hugging Face Spaces 部署模型的具体步骤,开发者可直接参考代码模板搭建轻量交互应用。
Hugging Face 联合多所机构提出跨互联网协作分布式训练方法 DeDLOC,并联合 40 名志愿者成功预训练出孟加拉语模型 sahajBERT。该方法通过在各节点累加大批次梯度并根据网络条件自适应分配聚合负载,解决了家用宽带带宽受限和节点易掉线的问题。
推荐理由:原文展示了如何通过去中心化自适应聚合让普通设备协作预训练,为缺乏大算力集群的研究团队提供了低成本替代方案。
Hugging Face 正式推出开源训练库 Accelerate,让开发者仅需在原生 PyTorch 训练脚本中增加数行代码,即可在 CPU、多 GPU、TPU 以及混合精度等不同硬件配置下无缝运行。该库通过统一的 API 自动接管设备放置、模型包装与 DataLoader 分发,同时提供简化的 CLI 工具以统一各环境的启动流程。
推荐理由:原文展示了仅需改动数行代码即可适配多卡与混合精度的方案,读者可参考其封装方式降低原生训练循环的跨硬件维护成本。