V2EX 热门· zhq566·· 2 小时前AI 评分19
本地部署的开源 AI 是不是都不太好用
[人工智能] 本地部署的开源 AI 是不是都不咋能用
AI 导读
用户在社区探讨本地部署开源大模型的实用性与性价比。有用户反映使用 5060ti 16g 仅能部署量化后的 qwen3.8 coder Q3,速度慢且表现不佳,纠结是否应升级显卡或转向商用付费服务。讨论指出即便花费两三万元购置小主机,算上硬件与电费成本仍不如直接使用 DeepSeek 等在线模型。
来源:V2EX 热门 · v2ex.com