LINUX DO 最新· keychain·· 4 小时前AI 评分22
本地小模型选型讨论:现在本地小模型到底谁最强?
现在本地的小模型到底谁最夯?
AI 导读
社区开发者围绕本地小模型选型展开讨论,Qwen 系列的 qwen3.8-27B 与 qwen3.6-35b-moe 成为兼顾实用与性能的主流推荐。实测反馈显示,激活参数仅 3b 的 qwen3.6-35b-moe 开启 MTP 速度可达 70token/s,配合 llama.cpp 表现最佳;小模型足以胜任简单意图识别与任务编排,但在复杂编程上与主流前沿模型仍有差距。
来源:LINUX DO 最新 · linux.do