Hugging Face·· 2023-08-08精选AI 评分69
Hugging Face 发布 Swift Transformers:支持在苹果设备端侧运行大语言模型
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices
AI 导读
Hugging Face 发布开源软件包 Swift Transformers,旨在为苹果生态开发者提供类似 Transformers 的 API,以在 Mac 等设备上通过 Core ML 运行端侧大语言模型。
推荐理由
文章梳理了将大模型转换为 Core ML 的实操流程与工程避坑点,为苹果生态开发者提供了端侧部署语言模型的现成工具链。
来源:Hugging Face · huggingface.co