LINUX DO 最新· You_Guess·· 5 小时前AI 评分16
9小时 Qwen3.8-27B-Q5-K_M 服务
AI 导读
社区用户分享了基于 GPU 部署的 9 小时 Qwen3.8-27B-Q5-K_M 临时 API 服务,未设置 API Key 即可直接接入调用。该服务采用 unsloth 的量化版本模型,主要用于代码编写场景。作者表示因 Kaggle 对 TPU 部署大模型疑似上线限制导致排队超过 24 小时,因此本次转为使用 GPU 进行部署。
来源:LINUX DO 最新 · linux.do