Hugging Face 推出大模型零样本评测功能,支持最高 66B 参数免代码评估
Hugging Face 在 Evaluation on the Hub 中上线零样本分类评测功能,支持社区用户无需编写代码即可免费评估平台上的因果大语言模型。
推荐理由:平台通过升级底层计算设施将大模型评测门槛降至免代码操作,使研究者能低成本对比不同规模模型的偏见表现。
Hugging Face 开源社区动态:热门模型与数据集、排行榜变化与开源生态的晴雨表。
Hugging Face 在 Evaluation on the Hub 中上线零样本分类评测功能,支持社区用户无需编写代码即可免费评估平台上的因果大语言模型。
推荐理由:平台通过升级底层计算设施将大模型评测门槛降至免代码操作,使研究者能低成本对比不同规模模型的偏见表现。
Hugging Face 介绍了在 8x80GB A100 等硬件上对 176B 参数 BLOOM 模型进行高速推理的方案与基准测试。结合 DeepSpeed-Inference 的张量并行与融合 CUDA 内核,在批大小为 128 时实现了单 token 低于 1 毫秒的吞吐,并支持 int8 量化使显存需求减半。
推荐理由:文章给出了基于 DeepSpeed 和 Accelerate 部署 176B 模型的实测吞吐数据与多卡并行脚本,读者可直接参考其显存优化方案。
Hugging Face 官方发布扩散模型库 Diffusers 0.3 版本,新增图生图、Textual Inversion、局部重绘流水线以及首版官方文档。新版本通过注意力切片技术将 Stable Diffusion 的显存占用降低至 3.2GB,支持苹果 M1/M2 芯片通过 PyTorch mps 运行,并加入了实验性 ONNX 导出支持。
推荐理由:Diffusers 0.3 降低了 Stable Diffusion 的显存门槛并扩展到 Mac 平台,为本地部署和二次开发提供了标准化调用范式。
Hugging Face 撰文解读 OpenRAIL 许可框架,旨在平衡 AI 模型的开放共享与负责任使用,解决传统开源软件许可证无法约束模型滥用风险的问题。该许可在允许免版税分发和衍生开发的同时嵌入行为限制条款,并要求下游衍生版本继续继承该限制。目前该方案已应用于 BigScience BLOOM 和 Stable Diffusion 等开源发布中,以对接全球 AI 监管与合规要求。
推荐理由:文章解析了模型权重分发与传统开源代码在法律属性上的差异,有助于开发者理解为何需要行为限制条款来约束下游滥用。
Hugging Face 官方发文详解如何通过 Diffusers 库运行和定制文本生成图像模型 Stable Diffusion。模型基于潜在扩散架构,由 VAE、U-Net 与 CLIP 文本编码器组成,通过 64 倍空间压缩大幅降低了显存与计算开销。文章演示了基础推理流程、fp16 显存优化与参数调节,并展示了如何手动编写去噪循环与替换 K-LMS 调度器来实现自定义管线。
推荐理由:文章详细拆解了潜在扩散模型的核心组件与推理流程,展示了如何通过模块化替换调度器实现自定义图像生成流水线。
Hugging Face 宣布在 transformers 和 accelerate 库中完整集成 bitsandbytes 的 LLM.int8() 技术,支持在不损失精度的前提下将大模型推理显存降低约 50%。
推荐理由:原文展示了8位量化在不损耗精度下将显存减半的机制与集成细节,为低算力部署大模型提供了实用参考。
Hugging Face 与 BigScience 团队详细公开了 176B 参数大语言模型 BLOOM 训练的技术与工程细节,整个训练在法国国家超算 Jean Zay 上耗时 3.5 个月(约 100 万计算时)完成。
推荐理由:文章拆解了百亿级多语言模型在数百张 GPU 上的 3D 并行拓扑与数值稳定性方案,适合需要攻克超大规模模型分布式预训练工程细节的团队参考。
BigScience 联合 Hugging Face 正式开源 1760 亿参数的多语言大语言模型 BLOOM,支持生成 46 种自然语言和 13 种编程语言的文本。
推荐理由:该项目完全公开了百亿级多语言模型的权重、训练检查点与优化器状态,为开源社区研究前沿模型底层机制提供了完整范本。
Hugging Face 推出基于 AutoTrain 的评测工具 Evaluation on the Hub,支持用户无需编写代码即可在 Hub 上的任意数据集上评测任意模型。该工具通过 Spaces 界面提供配置与排行榜展示,评测任务完成后会自动向对应模型的 Model Card 提交 Pull Request,将验证后的指标直接写入模型元数据中。
推荐理由:该功能将评测流水线与模型卡片元数据打通,读者可以借此实现免代码的一致性复现和榜单对比。
Hugging Face 发布扩散模型代码解析教程,使用 PyTorch 逐步实现经典 DDPM(去噪扩散概率模型)。教程结合数学公式拆解了前向加噪与反向去噪过程,并从零构建包含正弦位置编码、ResNet 块与注意力机制的 U-Net 网络。文中还展示了在 Fashion-MNIST 数据集上的完整训练与采样生成流程,梳理了扩散模型的核心运行逻辑。
推荐理由:文章带代码拆解了 DDPM 的数学推导与 PyTorch 实现,读者可直接参考其模块构建扩散模型原型。
Hugging Face Hub 正式上线 Pull Requests 与 Discussions 协作功能,全面覆盖模型、数据集与 Spaces 仓库。该机制针对机器学习资产的协作进行了简化,底层通过源仓库存储的 refs 自定义分支运作而无需 fork 仓库,允许社区成员直接提交单文件贡献、补充模型权重以及围绕伦理规范展开讨论。
推荐理由:原文解析了免 fork 的 ref 分支设计与讨论集成机制,便于理解开源模型资产的轻量协作模式。
Gradio 正式推出 3.0 版本,全面重写前端底层并新增灵活布局的 Blocks API。新版本前端改用 Svelte 构建以减小体积并加快页面加载速度,同时更新了 Dataframe 拖拽交互并新增 Gallery 组件与 TabbedInterface 多标签支持;低阶 Blocks API 允许开发者直接使用 Python 自定义界面布局、实现多模型串联的数据流转与动态组件控制。
推荐理由:提供了 Blocks 低阶 API 和前端重构细节,开发者可以据此评估如何定制多模型串联与复杂交互界面。
Hugging Face 宣布完成由 Lux Capital 领投的 1 亿美元 C 轮融资,红杉资本、Coatue 等机构参投。该笔资金将用于继续投入开源研究与产品开发,推进聚集超 1,000 名研究人员的 BigScience 开源多语言大语言模型训练,并持续扩张团队规模。
推荐理由:原文披露了融资领投方及平台托管规模等数据,展示了开源机器学习社区在商业化与生态建设上的关键节点。
Hugging Face 阐明了 Transformers 库违背传统软件工程 DRY 原则的核心原因,即全面采用所有前向传播逻辑独立集中于一处的“单模型文件策略”。
推荐理由:原文深入剖析了在模型快速迭代背景下反 DRY 原则的工程取舍,可为开源与算法库架构设计提供直观参考。
Hugging Face 在 Transformers 库中引入约束束搜索功能,允许用户在模型生成阶段强制包含特定词组或可选词表。该机制通过向 generate 函数传入 force_words_ids 或自定义 Constraint 对象控制生成过程,无需在后处理阶段反复过滤候选结果。
推荐理由:原文解析了在文本生成中注入强制词汇与析取约束的机制,并给出通过 Banks 轮询平衡约束与语义通顺的具体实现方案。
Hugging Face 宣布收购机器学习演示工具 Gradio,Gradio 团队将正式加入 Hugging Face。Gradio 始于 2019 年斯坦福大学的研究协作需求,支持通过简易界面分享文本、语音和视频等多模态模型 Demo,目前已有超过 30 万个演示应用基于其构建。团队加入后将继续推进 Gradio 的开源生态,让任何具备浏览器的人都能更便捷地访问和测试机器学习模型。
推荐理由:该收购将交互界面工具与模型托管生态整合,使开发者能够更低门槛地向非技术人员分享与测试模型。
Hugging Face 在 Transformers 库中正式集成了 Perceiver IO 模型,能够统一处理文本、图像、音频、视频和光流等多种模态。该架构通过在固定维度的潜在变量上进行自注意力计算,将计算和显存开销与输入尺寸解耦,消除了传统 Transformer 计算复杂度随输入二次方增长的限制。官方同时上线了相关任务的代码实现类、在线演示与教程 Notebook。
推荐理由:Perceiver IO 借助固定潜在变量打破了传统注意力机制的输入维度瓶颈,读者可参考其在多模态统一处理上的工程实现。
Hugging Face 详细介绍了如何从零预训练 Python 代码生成模型 CodeParrot,并开源了配套的 50GB 清洗后数据集与模型权重。
推荐理由:提供了从数据去重、分词到分布式预训练的完整工程实现,读者可直接复用其流式训练与多卡加速脚本。
Hugging Face 介绍了利用 Gradio 在 Hugging Face Spaces 中托管与展示机器学习 Demo 的完整流程,允许开发者通过几行代码调用 Inference API 快速上线交互界面。
推荐理由:文章给出了通过 Gradio 在 Hugging Face Spaces 部署模型的具体步骤,开发者可直接参考代码模板搭建轻量交互应用。
Hugging Face 官方演示了如何利用 Streamlit 在 Hugging Face Spaces 上搭建并托管机器学习模型与数据集的交互应用。教程以复现 Write with Transformer 文本补全为例,展示了通过侧边栏控件调整生成参数以及结合 Datasets 流式加载和可视化库展示数据的方法。
推荐理由:文章给出了结合 Streamlit 在 Spaces 上搭建模型交互界面与可视化数据集的完整代码,便于快速上手部署应用。