Hugging Face·· 2023-09-26AI 评分55
Amazon SageMaker 部署 Llama 2 基准评测:60 种配置的成本与性能对比
Llama 2 on Amazon SageMaker a Benchmark
AI 导读
Hugging Face 发布了在 Amazon SageMaker 上使用其专用推理容器部署 Llama 2 的全面基准评测,覆盖 3 种模型尺寸、多种 EC2 实例及并发等级共 60 种配置。
来源:Hugging Face · huggingface.co