V2EX 热门· shijizhi·· 3 小时前AI 评分53
Mac 本地大模型工具 MiniMLX 开源发布
[程序员] 做了个 Mac 本地大模型工具 MiniMLX,类似 oMLX 那种的
AI 导读
开发者开源了基于 MLX 的 macOS 原生大模型工具 MiniMLX,集成了模型管理、本地运行与服务监控。该工具支持直接搜索下载 Hugging Face 和 ModelScope 上的兼容模型,提供 OpenAI 兼容 API 以及 macOS 菜单栏控制。应用还支持 MTP 加速、内存不足时的硬盘辅助加载判断,并内置了首字延迟和生成速度等性能测试页面。
来源:V2EX 热门 · v2ex.com