训练与推理性能对比：Habana Gaudi2 vs Nvidia A100 80GB

Habana Gaudi2 在模型训练与推理性能上约为 Nvidia A100 80GB 的两倍。在 BERT 预训练中，Gaudi2 吞吐量最高达 1835.8 samples/s（A100 为 1082.6 samples/s）；Stable Diffusion 推理延迟达 0.925 秒/图，比 A100 快 2.84 倍。