利用 TensorFlow 与 XLA 加速 Transformers 文本生成

Hugging Face 的 Transformers 库现已支持在 TensorFlow 中使用 XLA 编译文本生成，推理速度最高可较以往提升 100x，甚至超越 PyTorch。该优化需配合 transformers >= 4.21.0 使用，并完全兼容贪婪解码、采样及 Beam Search 等常用生成参数控制。