Hugging Face·· 2024-10-22精选AI 评分77
Transformers.js v3 正式发布：支持 WebGPU 加速并涵盖 120 种模型架构
Transformers.js v3: WebGPU Support, New Models & Tasks, and More…
AI 导读
Hugging Face 正式推出 Transformers.js v3，引入 WebGPU 支持，相比 WASM 运行速度最高提升 100 倍。新版本支持 120 种模型架构并兼容 1200 多个预转换模型，新增 fp16、q4 等多种量化格式及逐模块精度配置，同时兼容 Node.js、Deno 和 Bun 等服务端 JavaScript 运行时。
推荐理由
版本更新打通了浏览器端通过WebGPU进行高性能推理的能力，为端侧无服务化部署AI应用提供了完整的工程方案。
来源：Hugging Face · huggingface.co