Hugging Face·· 2025-07-09AI 评分33
为 AMD MI300 开发自定义 Kernel
Creating custom kernels for the AMD MI300
AI 导读
Hugging Face 与 AMD 合作推出开源自定义 kernel,用于提升 8 卡 MI300X 节点上使用 vLLM 运行 FP8 精度 Llama 3.1 405B 的推理性能。
来源:Hugging Face · huggingface.co
Creating custom kernels for the AMD MI300
Hugging Face 与 AMD 合作推出开源自定义 kernel,用于提升 8 卡 MI300X 节点上使用 vLLM 运行 FP8 精度 Llama 3.1 405B 的推理性能。
来源:Hugging Face · huggingface.co