Hugging Face·· 2024-08-19AI 评分43
在 Google Cloud Vertex AI 上部署 Meta Llama 3.1 405B
Deploy Meta Llama 3.1 405B on Google Cloud Vertex AI
AI 导读
开发者可通过 Hugging Face 专用容器与 TGI，在 Google Cloud Vertex AI 的 A3 节点上编程部署 FP8 量化版 Meta Llama 3.1 405B。
来源：Hugging Face · huggingface.co