在 nanoVLM 中从零实现 KV cache

nanoVLM 代码库从零实现了 KV cache，使模型生成速度提升了 38%。该实现基于纯 PyTorch 开发，通过在注意力模块和语言模型中缓存已计算的键值（K 与 V），消除了自回归生成时全序列重复计算的冗余，将单步解码转化为轻量级的增量更新。