跳到正文
原文
Hugging Face·· 2023-09-26AI 评分55

Amazon SageMaker 部署 Llama 2 基准评测:60 种配置的成本与性能对比

Llama 2 on Amazon SageMaker a Benchmark

AI 导读

Hugging Face 发布了在 Amazon SageMaker 上使用其专用推理容器部署 Llama 2 的全面基准评测,覆盖 3 种模型尺寸、多种 EC2 实例及并发等级共 60 种配置。

来源:Hugging Face · huggingface.co