LINUX DO 最新· 针法自然·· 11 小时前AI 评分13
本地模型部署硬件配置请教：多卡串联与 Mac M4/V100 选型
各位佬友请教下本地部署模型如何配置？
AI 导读
社区用户发帖咨询本地大模型部署的硬件配置方案。该用户询问已有的 4060 Ti 16G 与 RTX 2060 6G 能否串联用于本地部署，以及 16G 版 Mac M4 mini 适合运行哪些模型。此外，针对 Qwen 27B 的本地部署需求，该用户还在考虑是否要在淘宝花费约 3900 元购入 V100 显卡。
来源：LINUX DO 最新 · linux.do