Hugging Face 宣布原生支持 AMD GPU 加速大语言模型
Hugging Face 宣布与 AMD 合作实现大语言模型在 AMD Instinct GPU 上的开箱即用加速,用户无需修改代码即可直接运行 Transformers 模型。
推荐理由:Transformers 和 TGI 实现了无需修改代码适配 AMD 硬件,开发者可以直接参考其针对大显存与 ROCm 算子的部署方案。
开源模型、框架与仓库动态:权重开放、社区项目爆火、开源与闭源的力量消长。
Hugging Face 宣布与 AMD 合作实现大语言模型在 AMD Instinct GPU 上的开箱即用加速,用户无需修改代码即可直接运行 Transformers 模型。
推荐理由:Transformers 和 TGI 实现了无需修改代码适配 AMD 硬件,开发者可以直接参考其针对大显存与 ROCm 算子的部署方案。
Hugging Face 发布了基于专属代码库训练代码助手 HugCoder 的完整端到端实践教程。内容涵盖从本地仓库提取与过滤代码、基于单张 A100 40GB 运行 QLoRA 与 8 卡 FSDP 全量微调的成本对比,以及利用 PEFT 融合对话与补全两种 LoRA 权重的方法。
推荐理由:教程给出了从私有代码清洗、QLoRA微调到本地IDE部署的完整实现,开发者可直接参考搭建专属编程助手。
Hugging Face 研究团队复现了 OpenAI 2019 年的 RLHF 代码库,并发布了开源复现代码与工程实现细节清单。文章拆解了奖励模型归一化、拒绝采样、每步 KL 惩罚等机制,重点发现 PyTorch 与 TensorFlow 在 Adam 优化器公式实现上的差异会导致 PyTorch 在训练初期梯度更新过于激进,并在较大模型中引发严重的 KL 散度震荡。
推荐理由:文章拆解了复现早期RLHF算法的核心工程细节,指出了PyTorch与TensorFlow优化器差异对训练稳定性的影响。
Hugging Face 推出 JavaScript 库 Gradio-Lite(`@gradio/lite`),利用 WebAssembly 运行时 Pyodide 让 Gradio 应用直接在浏览器内免服务器运行。
推荐理由:文章展示了通过 WebAssembly 将应用搬进浏览器的具体实现,开发者无需后端服务器即可低成本部署与分发交互原型。
Hugging Face 为 Transformers 中的 tokenizer 引入 chat_template 属性,通过 Jinja 模板将对话历史转换为与模型训练完全一致的输入字符串。
推荐理由:原文解释了格式不匹配导致模型性能严重受损的机制,并给出通过 Jinja 模板标准化对话输入的统一方案。
Hugging Face 在 TRL 库中集成了 DDPOTrainer,支持通过去噪扩散策略优化(DDPO)使用强化学习微调 Stable Diffusion 模型。该方法将去噪过程建模为多步马尔可夫决策过程,配合美学评分奖励模型提升生成质量。训练要求至少单张 A100 GPU,官方提供了配套脚本与 LoRA 超参数调优建议。
推荐理由:文章给出了用强化学习对齐图像扩散模型的工程配置与调优经验,为改善生成画质提供了现成范式。
Hugging Face 与 T2I-Adapter 作者合作在 diffusers 中正式支持面向 SDXL 的 T2I-Adapter,并开源了线稿、素描、Canny、深度和 OpenPose 等条件控制权重。
推荐理由:原文详细对比了适配器与ControlNet的参数及计算差异,为轻量化图像生成控制提供了具体实现与配置参考。
TII 正式在 Hugging Face 推出开源大语言模型 Falcon 180B,包含基础版与聊天版,拥有 1800 亿参数。该模型基于 RefinedWeb 等 3.5 万亿 token 预训练,规模达 Llama 2 的 2.5 倍,在 MMLU 等基准测试中超越 Llama 2 70B 与 GPT-3.5。
推荐理由:文章提供了 180B 超大开源模型的评测基准成绩以及量化部署所需的显存配置细节。
Hugging Face 宣布在 Hub、Transformers 4.33 和 TGI 等生态组件中全面支持 Meta 发布的代码大模型 Code Llama。
推荐理由:文章梳理了代码大模型 Code Llama 的规格特性与填充机制,并提供了在开源框架下量化部署与调用的具体范式。
Hugging Face 宣布在 Transformers 库中原生集成 AutoGPTQ,支持使用 GPTQ 算法将大语言模型量化至 8、4、3 甚至 2-bit 精度。
推荐理由:原文给出了量化原理与完整集成调用方式,读者可以据此判断如何在消费级 GPU 上部署和微调大模型。
Hugging Face 推出开源视觉语言模型 IDEFICS,该模型是对 DeepMind 闭源 Flamingo 的公开复现,支持图文交错序列输入并输出连贯文本。
推荐理由:该模型完整复现了闭源 Flamingo 的图文交错输入能力并开源训练数据,为多模态模型研究提供了透明的基础底座。
Hugging Face 在 TRL 库中集成了 Direct Preference Optimization(DPO)训练器,并提供了微调 Llama 2 7B 模型的完整教程与代码。
推荐理由:给出了省去独立奖励模型的 DPO 对齐实操方案,读者可直接参考代码降低大语言模型的对齐成本。
Hugging Face 发布开源软件包 Swift Transformers,旨在为苹果生态开发者提供类似 Transformers 的 API,以在 Mac 等设备上通过 Core ML 运行端侧大语言模型。
推荐理由:文章梳理了将大模型转换为 Core ML 的实操流程与工程避坑点,为苹果生态开发者提供了端侧部署语言模型的现成工具链。
Hugging Face 推出开源库 Agents.js,允许开发者在浏览器或 Node.js 环境中通过 JavaScript 为大语言模型接入工具。该库开箱即用支持多种多模态工具,允许自由扩展自定义工具和模型,并通过 npm 包 `@huggingface/agents` 分发。官方同时提醒,因运行依赖动态执行模型生成的代码,在不可信环境中建议先通过代码生成接口审查内容后再行评估。
推荐理由:该库为前端和 Node.js 开发者在 JavaScript 环境中调度多模态工具与大语言模型提供了轻量且可扩展的实现方案。
Hugging Face 联合 GitHub、Eleuther AI、Creative Commons、LAION 和 Open Future 发布立场文件,呼吁欧盟《人工智能法案》(EU AI Act)充分考量开源机器学习的协作需求。
推荐理由:这份联合建议展示了开源社区面对重大AI监管立法时,如何围绕代码托管免责、研发豁免和基础模型相称性争取合规边界。
Meta 发布开源大语言模型家族 Llama 2,涵盖 7B、13B 和 70B 参数版本并开放商用许可,Hugging Face 同步提供全生态集成支持。该系列在初代基础上增加了 40% 预训练 token 并将上下文拓展至 4k tokens,经 RLHF 优化的 Llama 2-Chat 在多项基准上接近 ChatGPT 表现。
推荐理由:材料梳理了新模型相比初代的上下文与训练量升级,并提供了基于开源生态的推理部署与微调路径。
Hugging Face 推出实验性演示项目 AI WebTV,通过整合开源生成模型展示端到端自动化视频流媒体直播的搭建方案。该方案使用 ChatGPT 扩写分镜提示词,调用 Zeroscope V2 两阶段生成并放大至 1024x576 分辨率视频,经 FILM 算法插帧平滑并混入 MusicGen 生成的配乐,最后通过 FFmpeg 将播放列表推流至 RTMP 服务器。
推荐理由:原文串联了开源文生视频与音频模型及推流工具,为搭建自动化多媒体管线提供了完整的工程参考。
Hugging Face 发布了基于 Transformers.js 构建纯浏览器端运行机器学习网页游戏 Doodle Dash 的完整教程与开源代码。项目微调了 5.6M 参数量的 apple/mobilevit-small 模型并导出为 ONNX 格式,通过 Web Worker 在独立线程中执行实时推理,预测帧率超过每秒 60 次且无需服务器支持。
推荐理由:教程展示了轻量视觉模型微调、ONNX 转换及在 Web Worker 中无服务端运行的完整链路,读者可直接复用于端侧交互应用开发。
AMD 正式加入 Hugging Face 硬件合作伙伴计划,双方将针对 AMD 旗下的 CPU、GPU 及 AI 加速芯片深度优化 Transformer 模型的训练与推理性能。
推荐理由:合作打破了深度学习硬件生态的单一依赖,为开发者在训练与推理端提供了基于 AMD 平台的替代方案与成本参考。
Hugging Face 全面支持阿布扎比技术创新研究所(TII)开源的 Falcon 系列大模型(Falcon-7B 与 Falcon-40B),并提供推理、量化与微调工具链。
推荐理由:原文给出了 Falcon 系列模型在消费级与企业级硬件上的量化推理配置,以及结合 QLoRA 单卡微调的完整代码范式。