新型架构LoL发布：推理时动态自适应排列Transformer层

2026年11月2日，Hugging Face Papers收录新型架构Library of Layers（LoL）。该架构允许在推理时动态排列Transformer块，以实现参数复用、计算稀疏性与可解释路由。LoL仅含一个块库大小超参数，统一了稠密、深度循环和混合专家架构的效率权衡，其文本预训练表现比肩这三类基线。实验表明，该架构能根据任务解题策略与语言自适应切换层顺序，且其路由输出探测能以高AUROC区分安全与不安全文本。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。