跳到正文
原文
LINUX DO 最新· You_Guess·· 5 小时前AI 评分16

9小时 Qwen3.8-27B-Q5-K_M 服务

AI 导读

社区用户分享了基于 GPU 部署的 9 小时 Qwen3.8-27B-Q5-K_M 临时 API 服务,未设置 API Key 即可直接接入调用。该服务采用 unsloth 的量化版本模型,主要用于代码编写场景。作者表示因 Kaggle 对 TPU 部署大模型疑似上线限制导致排队超过 24 小时,因此本次转为使用 GPU 进行部署。

来源:LINUX DO 最新 · linux.do