跳到正文

端侧 AI

跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。

最新精选

第 41–44 条 · 共 44 条
7月5日周三
  1. Hugging Face63

    如何用 Transformers.js 构建端侧机器学习网页游戏 Doodle Dash

    Hugging Face 发布了基于 Transformers.js 构建纯浏览器端运行机器学习网页游戏 Doodle Dash 的完整教程与开源代码。项目微调了 5.6M 参数量的 apple/mobilevit-small 模型并导出为 ONNX 格式,通过 Web Worker 在独立线程中执行实时推理,预测帧率超过每秒 60 次且无需服务器支持。

    推荐理由:教程展示了轻量视觉模型微调、ONNX 转换及在 Web Worker 中无服务端运行的完整链路,读者可直接复用于端侧交互应用开发。

6月15日周四
2月24日周五
  1. Hugging Face73

    Hugging Face 推出 Diffusers for Mac 1.1 版本

    Hugging Face 宣布在 Mac App Store 上线开源原生应用 Diffusers for Mac 1.1,基于 Core ML 在本地运行 Stable Diffusion 等扩散模型。新版本根据 Mac 芯片规格自动调度 GPU 或神经引擎,文生图速度最高可提升至前版的两倍。该版本还改进了用户界面,新增模型下载进度提示、随机种子复用以及引导比例调整等设置。

    推荐理由:原文实测了不同苹果芯片调用神经引擎与图形处理器的性能差异,为端侧扩散模型的硬件调度提供了参考。

12月1日周四
  1. Hugging Face80

    在 Apple Silicon 上通过 Core ML 运行 Stable Diffusion 指南

    Hugging Face 提供了在 Apple Silicon 上使用 Core ML 运行 Stable Diffusion 的完整实战指南,并将预转换的模型权重托管至 Hugging Face Hub。该方案支持 CPU、GPU 及神经引擎等计算单元,适配 Python 与原生 Swift 推理,并在 M1 Max 设备上实现了 18 秒单张图像的生成速度。

    推荐理由:原文提供了将扩散模型适配至苹果硬件的完整步骤,开发者可直接复用代码在本地实现端侧推理加速。