DeepSeek 开源高性能推理框架 DeepInfer

DeepSeek 开源了专门面向自家模型优化的高性能推理框架 DeepInfer。该框架主要针对私有化部署场景优化推理效率，社区讨论指出其 KV 缓存系统当前尚未随项目一同开源，官方计划在后续版本中提供。