跳到正文
原文
LINUX DO 最新· Blackwood416·· 5 小时前AI 评分29

Anthropic、Google 与 DeepSeek:我们掌握了推理的核心

A/、谷歌、DS:我们掌握了推理的核心

AI 导读

实测显示 DeepSeek 开源推理框架具备高吞吐量,Gemini 4 Argon 与 Claude Opus 运行速度均达到约 100 TPS,展现出用模型反哺底层 Infra 的优势。相比之下 GPT 的吞吐量明显偏低,结合 kernel bench 榜单推测其 GPU 算子优化能力相对较弱。加强此类底层工程优化有助于 AI 厂商降本增效并改善用户体验。

来源:LINUX DO 最新 · linux.do