跳到正文
原文
Hugging Face·· 2023-08-08精选AI 评分69

Hugging Face 发布 Swift Transformers:支持在苹果设备端侧运行大语言模型

Releasing Swift Transformers: Run On-Device LLMs in Apple Devices

AI 导读

Hugging Face 发布开源软件包 Swift Transformers,旨在为苹果生态开发者提供类似 Transformers 的 API,以在 Mac 等设备上通过 Core ML 运行端侧大语言模型。

推荐理由

文章梳理了将大模型转换为 Core ML 的实操流程与工程避坑点,为苹果生态开发者提供了端侧部署语言模型的现成工具链。

来源:Hugging Face · huggingface.co