跳到正文
原文
LINUX DO 最新· kusimali·· 3 小时前AI 评分10

本地部署 DeepSeek-V4.1-Flash 支持 50 人并发的硬件扩展方案探讨

像本地部署deepseekv4.1flash,能支持50人同时正常使用,有没有什么硬件方案,也可以接受异构方案, 目前有一张pro 6000和A5000,后续应该如何扩展

AI 导读

社区用户探讨了本地部署 DeepSeek-V4.1-Flash 并支持 50 人同时使用的硬件扩展方案。目前提问者配备 1 颗 AMD EPYC 9554 64-Core 处理器、128gb Registered DDR5 ECC 内存,以及 pro 6000 与 A5000 显卡各一张。在可接受异构配置的前提下,重点寻求后续满足并发访问的硬件扩展建议。

来源:LINUX DO 最新 · linux.do