跳到正文
原文
LINUX DO 最新· 萌面大虾·· 3 小时前AI 评分42

关于 Ollama Cloud 中各个模型的量化版本

关于Ollama Cloud中各个模型的量化版本。(跟ds官方一样,maybe?)

AI 导读

用户可通过 PowerShell 脚本调用 API 或运行 `ollama show :cloud` 命令,查询 Ollama Cloud 中各模型的参数规模、上下文长度及量化级别。通过获取 DeepSeek 官方 HF 的配置信息可知,其同样采用了 FP8 量化。此外,用户还可以直接查看各个模型当前的 TPS 与 TTFT 等实时运行状态。

来源:LINUX DO 最新 · linux.do