跳到正文
原文
LINUX DO 最新· Tiki Android·· 3 小时前AI 评分27

3090 算力破解成功

好消息,3090算力破解成功了

AI 导读

3090 算力已实现破解,但仅能提升 FP/BF16 算力,对低精度量化模型的推理场景没有提升。测试者使用 SGLang 测试了 BF16 和 FP8 两种不同量化方式的模型,对比了破解前后的实际提升表现。

来源:LINUX DO 最新 · linux.do