Hugging Face·· 2024-04-02精选AI 评分67
Hugging Face 联合 Cloudflare 推出 Workers AI 无服务器 GPU 推理部署
Bringing serverless GPU inference to Hugging Face users
AI 导读
Hugging Face 宣布在 Hub 上推出 Deploy on Cloudflare Workers AI 集成,让开发者能以无服务器 API 形式调用部署在 Cloudflare 边缘数据中心 GPU 上的开源模型。
推荐理由
该功能将边缘无服务器 GPU 与开源模型库结合并按调用量计费,为开发者降低了运行开源大模型的运维门槛与闲置成本。
来源:Hugging Face · huggingface.co