TTR-Compressor：基于测试时回归重构序列压缩

研究团队推出 TTR-Compressor，作为标准池化与基于投影压缩的实用替代方案。该方法在高效大语言模型（LLM）的块级稀疏注意力压缩，以及多模态大语言模型（MLLM）的视觉-语言（VL）投影器上均取得显著实证提升。此外，它还能拓展至音视频的时序压缩、从头训练原生高效 ViT 以及深度扩展压缩等场景。