DeepSeek 全面开源内部推理框架 DeepInfer

DeepSeek 宣布将其内部推理框架 DeepInfer 全面开源，旨在降低超大规模模型服务的算力与电力成本。该框架负责统筹调度算力集群以优化推理性能，DeepSeek 此前已开源一系列模型、TileLang 编译工具及推理算子库。