跳到正文
原文
LINUX DO 最新· keychain·· 4 小时前AI 评分22

本地小模型选型讨论:现在本地小模型到底谁最强?

现在本地的小模型到底谁最夯?

AI 导读

社区开发者围绕本地小模型选型展开讨论,Qwen 系列的 qwen3.8-27B 与 qwen3.6-35b-moe 成为兼顾实用与性能的主流推荐。实测反馈显示,激活参数仅 3b 的 qwen3.6-35b-moe 开启 MTP 速度可达 70token/s,配合 llama.cpp 表现最佳;小模型足以胜任简单意图识别与任务编排,但在复杂编程上与主流前沿模型仍有差距。

来源:LINUX DO 最新 · linux.do