Hugging Face·· 2024-02-01AI 评分42
Hugging Face Text Generation Inference 正式支持 AWS Inferentia2
Hugging Face Text Generation Inference available for AWS Inferentia2
AI 导读
Hugging Face 宣布大语言模型部署方案 Text Generation Inference（TGI）正式在 AWS Inferentia2 与 Amazon SageMaker 上线。
来源：Hugging Face · huggingface.co