跳到正文

教程实践

拿来就能用的实操内容:提示词技巧、工作流搭建、工具用法与踩坑经验。

180条精选相关主题AI 编码Agent 智能体产品更新

最新精选

第 161–180 条 · 共 180 条
12月9日周五
  1. Hugging Face76

    Hugging Face 图解人类反馈强化学习(RLHF)核心流程

    Hugging Face 发文系统拆解了人类反馈强化学习(RLHF)的核心技术流程与实现细节。文章将 RLHF 拆解为预训练语言模型、收集人类偏好数据训练奖励模型,以及使用 PPO 算法结合 KL 散度惩罚进行微调三个阶段。文中还梳理了 TRL、TRLX 和 RL4LMs 等开源工具库,并分析了数据标注成本高与主观评估分歧等落地挑战。

    推荐理由:文章系统拆解了语言模型对齐的核心三步流程与开源工具链,帮助读者理解人类偏好如何转化为强化学习奖励信号。

12月1日周四
  1. Hugging Face80

    在 Apple Silicon 上通过 Core ML 运行 Stable Diffusion 指南

    Hugging Face 提供了在 Apple Silicon 上使用 Core ML 运行 Stable Diffusion 的完整实战指南,并将预转换的模型权重托管至 Hugging Face Hub。该方案支持 CPU、GPU 及神经引擎等计算单元,适配 Python 与原生 Swift 推理,并在 M1 Max 设备上实现了 18 秒单张图像的生成速度。

    推荐理由:原文提供了将扩散模型适配至苹果硬件的完整步骤,开发者可直接复用代码在本地实现端侧推理加速。

11月21日周一
  1. Hugging Face67

    Hugging Face 发布文档智能指南:用开源多模态模型加速企业文档处理

    Hugging Face 梳理了文档智能领域的开源技术方案,涵盖 OCR、图像分类、版面分析、文档解析、表格识别和视觉问答六大核心场景。文章系统对比了 LayoutLM 系列流水线方案与 Donut、PaliGemma 等端到端视觉语言模型的性能表现与商用许可差异。团队建议企业从微调开源预训练模型入手,并根据输入分辨率、标注边界框与具体任务指标设计评估流程。

    推荐理由:文章系统梳理了文档智能的六大任务分类与代表性开源模型,为企业选择端到端多模态方案或传统流水线提供了实践参考。

11月7日周一
11月3日周四
10月14日周五
  1. Hugging Face69

    Hugging Face Inference Endpoints 入门指南

    Hugging Face 推出托管部署服务 Inference Endpoints,支持将 Hub 上的机器学习模型直接部署到云端基础设施。教程以微调后的 Swin 图像分类模型为例,演示了 Protected 公网访问与基于 AWS PrivateLink 的 Private 私有网络端点配置步骤。

    推荐理由:原文详细演示了在托管环境上一键部署模型、配置访问权限以及通过私有链路调用的完整流程。

10月13日周四
10月12日周三
  1. Hugging Face64

    Hugging Face 优化 BLOOM 模型推理性能的工程实践复盘

    Hugging Face 团队复盘了为 176B 参数 BLOOM 模型构建高效推理服务的全过程,最终将推理延迟降低 5 倍至 71ms/token,并将吞吐量提升了 50 倍。

    推荐理由:原文详尽记录了 176B 大模型从流水线并行转向张量并行与算子融合的实战过程,其性能排坑和测量经验对大模型推理工程很有参考价值。

9月27日周二
  1. Hugging Face82

    Hugging Face Accelerate 如何借助 PyTorch 运行超大模型

    Hugging Face 介绍了 Accelerate 库借助 PyTorch 特性在有限硬件显存与内存中加载和运行超大模型的完整方案。该方案利用 PyTorch 的 meta device 初始化不占物理显存的空模型并自动计算 device_map,结合分片权重机制按需加载,再通过 PyTorch hooks 在前向传播前后动态将 CPU 或磁盘上的层搬移至 GPU 计算。

    推荐理由:原文拆解了利用 meta device 与 hook 机制跨 GPU、CPU 和硬盘调度权重的底层逻辑,给出了在消费级硬件上运行超大模型的工程参考。

9月16日周五
  1. Hugging Face62

    基于 DeepSpeed 与 Accelerate 实现 BLOOM 高速推理

    Hugging Face 介绍了在 8x80GB A100 等硬件上对 176B 参数 BLOOM 模型进行高速推理的方案与基准测试。结合 DeepSpeed-Inference 的张量并行与融合 CUDA 内核,在批大小为 128 时实现了单 token 低于 1 毫秒的吞吐,并支持 int8 量化使显存需求减半。

    推荐理由:文章给出了基于 DeepSpeed 和 Accelerate 部署 176B 模型的实测吞吐数据与多卡并行脚本,读者可直接参考其显存优化方案。

8月31日周三
  1. Hugging Face62

    OpenRAIL:迈向开放且负责任的 AI 许可证框架

    Hugging Face 撰文解读 OpenRAIL 许可框架,旨在平衡 AI 模型的开放共享与负责任使用,解决传统开源软件许可证无法约束模型滥用风险的问题。该许可在允许免版税分发和衍生开发的同时嵌入行为限制条款,并要求下游衍生版本继续继承该限制。目前该方案已应用于 BigScience BLOOM 和 Stable Diffusion 等开源发布中,以对接全球 AI 监管与合规要求。

    推荐理由:文章解析了模型权重分发与传统开源代码在法律属性上的差异,有助于开发者理解为何需要行为限制条款来约束下游滥用。

8月22日周一
  1. Hugging Face88

    使用 Diffusers 运行与定制 Stable Diffusion

    Hugging Face 官方发文详解如何通过 Diffusers 库运行和定制文本生成图像模型 Stable Diffusion。模型基于潜在扩散架构,由 VAE、U-Net 与 CLIP 文本编码器组成,通过 64 倍空间压缩大幅降低了显存与计算开销。文章演示了基础推理流程、fp16 显存优化与参数调节,并展示了如何手动编写去噪循环与替换 K-LMS 调度器来实现自定义管线。

    推荐理由:文章详细拆解了潜在扩散模型的核心组件与推理流程,展示了如何通过模块化替换调度器实现自定义图像生成流水线。

7月14日周四
  1. Hugging Face69

    Hugging Face 详解 176B 大语言模型 BLOOM 训练背后的工程与硬件技术

    Hugging Face 与 BigScience 团队详细公开了 176B 参数大语言模型 BLOOM 训练的技术与工程细节,整个训练在法国国家超算 Jean Zay 上耗时 3.5 个月(约 100 万计算时)完成。

    推荐理由:文章拆解了百亿级多语言模型在数百张 GPU 上的 3D 并行拓扑与数值稳定性方案,适合需要攻克超大规模模型分布式预训练工程细节的团队参考。

6月7日周二
  1. Hugging Face75

    带注释的扩散模型:DDPM 核心原理与 PyTorch 逐步实现

    Hugging Face 发布扩散模型代码解析教程,使用 PyTorch 逐步实现经典 DDPM(去噪扩散概率模型)。教程结合数学公式拆解了前向加噪与反向去噪过程,并从零构建包含正弦位置编码、ResNet 块与注意力机制的 U-Net 网络。文中还展示了在 Fashion-MNIST 数据集上的完整训练与采样生成流程,梳理了扩散模型的核心运行逻辑。

    推荐理由:文章带代码拆解了 DDPM 的数学推导与 PyTorch 实现,读者可直接参考其模块构建扩散模型原型。

12月8日周三
10月5日周二
  1. Hugging Face63

    如何使用 Gradio 在 Hugging Face Spaces 中展示机器学习项目

    Hugging Face 介绍了利用 Gradio 在 Hugging Face Spaces 中托管与展示机器学习 Demo 的完整流程,允许开发者通过几行代码调用 Inference API 快速上线交互界面。

    推荐理由:文章给出了通过 Gradio 在 Hugging Face Spaces 部署模型的具体步骤,开发者可直接参考代码模板搭建轻量交互应用。

  2. Hugging Face61

    使用 Streamlit 在 Hugging Face Spaces 托管模型与数据集教程

    Hugging Face 官方演示了如何利用 Streamlit 在 Hugging Face Spaces 上搭建并托管机器学习模型与数据集的交互应用。教程以复现 Write with Transformer 文本补全为例,展示了通过侧边栏控件调整生成参数以及结合 Datasets 流式加载和可视化库展示数据的方法。

    推荐理由:文章给出了结合 Streamlit 在 Spaces 上搭建模型交互界面与可视化数据集的完整代码,便于快速上手部署应用。

3月12日周五
  1. Hugging Face62

    在 Hugging Face Transformers 中微调 Wav2Vec2 英文语音识别模型教程

    Hugging Face 发布了在 Transformers 中微调 Wav2Vec2 预训练模型用于英文语音识别的完整教程。指南以 5 小时训练数据的 Timit 数据集为例,在不接入外部语言模型的情况下结合 CTC 算法训练端到端声学模型,实现了 22.1% 的词错误率。文章涵盖了词表构建、音频特征提取、动态批填充以及将检查点推送到 Hub 的完整代码实现。

    推荐理由:教程展示了无需外接语言模型、仅靠CTC微调端到端声学模型的完整流程,提供了可直接复用的数据处理与动态批填充实现方案。

2月14日周五
11月8日周四
  1. OpenAI68

    OpenAI 推出深度强化学习教育资源 Spinning Up in Deep RL

    OpenAI 发布深度强化学习教育资源 Spinning Up in Deep RL,旨在帮助学习者成长为熟练的深度强化学习实践者。该项目整合了清晰的强化学习代码示例、教学练习、配套文档和教程。

    推荐理由:该项目提供了深度强化学习的代码示例与配套练习,适合希望系统掌握强化学习工程落地的开发者参考。