跳到正文
原文
LINUX DO 最新· 自驾游·· 21 小时前AI 评分14

求推荐适用于CTF比赛的24G显存本地大模型及部署框架

本地模型推荐有无

AI 导读

社区用户发帖求助,希望为 24G 显存、32G 内存的硬件配置寻找适合参加 CTF 比赛的本地大模型及现成部署框架。发帖者询问该硬件条件下应部署 Qwen 27b 还是其他模型,并征集可直接使用的现成部署方案。

来源:LINUX DO 最新 · linux.do