LINUX DO 最新· 自驾游·· 21 小时前AI 评分14
求推荐适用于CTF比赛的24G显存本地大模型及部署框架
本地模型推荐有无
AI 导读
社区用户发帖求助,希望为 24G 显存、32G 内存的硬件配置寻找适合参加 CTF 比赛的本地大模型及现成部署框架。发帖者询问该硬件条件下应部署 Qwen 27b 还是其他模型,并征集可直接使用的现成部署方案。
来源:LINUX DO 最新 · linux.do
本地模型推荐有无
社区用户发帖求助,希望为 24G 显存、32G 内存的硬件配置寻找适合参加 CTF 比赛的本地大模型及现成部署框架。发帖者询问该硬件条件下应部署 Qwen 27b 还是其他模型,并征集可直接使用的现成部署方案。
来源:LINUX DO 最新 · linux.do