Hugging Face·· 2025-03-07精选AI 评分68
Hugging Face 发布通过 React Native 在手机端本地运行大模型的实操指南
LLM Inference on Edge: A Fun and Easy Guide to run LLMs via React Native on your Phone!
AI 导读
Hugging Face 发布了一份使用 React Native 在手机端离线运行大语言模型的实操指南，并开源了配套代码仓库 EdgeLLM。该方案基于 llama.rn 加载 GGUF 量化格式模型，支持在 iOS 和 Android 设备上直接下载并本地运行 DeepSeek-R1-Distill-Qwen-1.5B 等端侧小模型。
推荐理由
教程给出了利用 React Native 和 llama.rn 在手机本地加载 GGUF 模型的完整工程实现，适合跨平台端侧开发参考。
来源：Hugging Face · huggingface.co