热点事件持续更新
i14联合AWS在Trainium2上训练与部署Laplace 3B
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月21日,AWS Machine Learning发布报道称,i14联合AWS在Trainium2上利用TorchNeuron Native实现了Laplace 3B线性注意力模型的训练与部署。该模型采用门控线性注意力(GLA),摆脱了KV cache,将推理状态固定在每序列29.5 MB。在硬件性能方面,该模型在单台trn2.48xlarge实例上的训练吞吐量约为120,000 tokens/s。
AI 根据报道生成 · 1 小时前更新
最新进展10月21日 05:14
i14与AWS成功在Trainium2上实现Laplace 3B模型的训练与部署。报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- AWS Machine Learning摆脱 KV cache:在 AWS Trainium2 上利用原生 PyTorch 训练与部署 i14 的 Laplace 3B 线性注意力模型
i14 联合 AWS 在 Trainium2 上利用 TorchNeuron Native 实现了 Laplace 3B 线性注意力模型的训练与部署。该模型采用门控线性注意力(GLA),将推理状态固定在每序列 29.5 MB,在单台 trn2.48xlarge 实例上训练吞吐量约为 120,000 tokens/s。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。