跳到正文
原文
Hugging Face·· 2024-02-29AI 评分30

Intel Gaudi 2 AI 加速器上的文本生成 Pipeline

Text-Generation Pipeline on Intel® Gaudi® 2 AI Accelerator

AI 导读

Hugging Face 展示了如何通过 Optimum Habana 在 Intel Gaudi 2 AI 加速器上部署 Llama 2 系列模型(7b、13b 和 70b)进行端到端文本生成。

来源:Hugging Face · huggingface.co