DeepSeek 开源大规模云服务推理框架 DeepInfer

DeepSeek 正式开源大规模云服务推理框架 DeepInfer。官方基于该框架实现了 DeepSeek V4.1 Flash 的高吞吐与低延迟推理服务，披露目前单一集群服务吞吐为 155 万亿 Tokens/天，整体收入为每卡每小时 38 美元。