Hugging Face·· 2024-07-09精选AI 评分67
Google Cloud TPU 正式面向 Hugging Face 用户开放
Google Cloud TPUs made available to Hugging Face users
AI 导读
Hugging Face 宣布在其 Inference Endpoints 和 Spaces 中正式上线 Google Cloud TPU v5e 算力支持。服务提供 1 核 16 GB(每小时 $1.375)、4 核 64 GB(每小时 $5.50)以及 8 核 128 GB(每小时 $11.00)三种配置。
推荐理由
该支持降低了在托管环境调用 TPU 的操作门槛,为需要平衡延迟与成本的开源模型部署提供了具体的硬件配置参考。
来源:Hugging Face · huggingface.co