Hugging Face·· 2023-12-05精选AI 评分62
Hugging Face 宣布原生支持 AMD GPU 加速大语言模型
AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU
AI 导读
Hugging Face 宣布与 AMD 合作实现大语言模型在 AMD Instinct GPU 上的开箱即用加速，用户无需修改代码即可直接运行 Transformers 模型。
推荐理由
Transformers 和 TGI 实现了无需修改代码适配 AMD 硬件，开发者可以直接参考其针对大显存与 ROCm 算子的部署方案。
来源：Hugging Face · huggingface.co