跳到正文
原文
Hugging Face·· 2024-07-09精选AI 评分67

Google Cloud TPU 正式面向 Hugging Face 用户开放

Google Cloud TPUs made available to Hugging Face users

AI 导读

Hugging Face 宣布在其 Inference Endpoints 和 Spaces 中正式上线 Google Cloud TPU v5e 算力支持。服务提供 1 核 16 GB(每小时 $1.375)、4 核 64 GB(每小时 $5.50)以及 8 核 128 GB(每小时 $11.00)三种配置。

推荐理由

该支持降低了在托管环境调用 TPU 的操作门槛,为需要平衡延迟与成本的开源模型部署提供了具体的硬件配置参考。

来源:Hugging Face · huggingface.co