跳到正文
热点事件持续更新

i14联合AWS在Trainium2上训练与部署Laplace 3B

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026年10月21日,AWS Machine Learning发布报道称,i14联合AWS在Trainium2上利用TorchNeuron Native实现了Laplace 3B线性注意力模型的训练与部署。该模型采用门控线性注意力(GLA),摆脱了KV cache,将推理状态固定在每序列29.5 MB。在硬件性能方面,该模型在单台trn2.48xlarge实例上的训练吞吐量约为120,000 tokens/s。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. AWS Machine Learning
    摆脱 KV cache:在 AWS Trainium2 上利用原生 PyTorch 训练与部署 i14 的 Laplace 3B 线性注意力模型

    i14 联合 AWS 在 Trainium2 上利用 TorchNeuron Native 实现了 Laplace 3B 线性注意力模型的训练与部署。该模型采用门控线性注意力(GLA),将推理状态固定在每序列 29.5 MB,在单台 trn2.48xlarge 实例上训练吞吐量约为 120,000 tokens/s。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。