Mac 跑大模型是不是真不行

有用户在搭载 M5 Max 的 Mac 本地部署 Qwen 3.8 27B 8-bit MLX 进行实测，表示生成质量不错但 30t/s 的生成速度偏慢。该测试采用 Splash 1.4.1 推理引擎与 DFlash 2 投机解码加速，在 xhigh 思考档位和 BF16 未量化 KV Cache 下，鹈鹕测试共用时 12 分 27 秒完成。