LINUX DO 最新· 萌面大虾·· 3 小时前AI 评分42
关于 Ollama Cloud 中各个模型的量化版本
关于Ollama Cloud中各个模型的量化版本。(跟ds官方一样,maybe?)
AI 导读
用户可通过 PowerShell 脚本调用 API 或运行 `ollama show :cloud` 命令,查询 Ollama Cloud 中各模型的参数规模、上下文长度及量化级别。通过获取 DeepSeek 官方 HF 的配置信息可知,其同样采用了 FP8 量化。此外,用户还可以直接查看各个模型当前的 TPS 与 TTFT 等实时运行状态。
来源:LINUX DO 最新 · linux.do