跳到正文
原文
Hugging Face·· 2025-07-09AI 评分33

为 AMD MI300 开发自定义 Kernel

Creating custom kernels for the AMD MI300

AI 导读

Hugging Face 与 AMD 合作推出开源自定义 kernel,用于提升 8 卡 MI300X 节点上使用 vLLM 运行 FP8 精度 Llama 3.1 405B 的推理性能。

来源:Hugging Face · huggingface.co