V2EX 热门· zktz·· 3 小时前AI 评分14
本地部署 Strata + Qwen3.8-Flash-Next 125b 在 workbuddy 中频繁超时求助
[Local LLM] 有没有人装过 Strata + Qwen3.8-Flash-Next 125b?我遇到的问题是在 workbuddy 里一直超时。
AI 导读
用户在 NVIDIA A6000 等硬件下本地部署 Strata 与 Qwen3.8-Flash-Next 125b,虽然基准测试可达 90 多 tps,但在接入 workbuddy 时频繁超时。经排查该配置在 cherryStudio 中已恢复正常,但在 workbuddy 中遇到长上下文特定位置或调用 tools 时仍大概率崩溃,正向社区寻求解决建议。
来源:V2EX 热门 · v2ex.com