Hugging Face·· 2025-03-28AI 评分36
在 Intel Gaudi 上使用 TGI 加速大语言模型推理
🚀 Accelerating LLM Inference with TGI on Intel Gaudi
AI 导读
Hugging Face 宣布将 Intel Gaudi 硬件原生集成至推理框架 Text Generation Inference（TGI）主代码库，替代原有的独立分支。
来源：Hugging Face · huggingface.co
🚀 Accelerating LLM Inference with TGI on Intel Gaudi
Hugging Face 宣布将 Intel Gaudi 硬件原生集成至推理框架 Text Generation Inference（TGI）主代码库，替代原有的独立分支。
来源：Hugging Face · huggingface.co