跳到正文
原文
LINUX DO 最新· Pig·· 4 小时前AI 评分21

平均 18 t/s:GPT 生成速度引社区用户吐槽

平均18t/s!gpt的速度堪称一绝啊

AI 导读

社区用户反馈 GPT 生成速度大幅变慢,平均仅约 18 t/s,此前甚至一度跌至个位数。多位用户吐槽其响应体验如同拨号上网,不仅测试小功能耗时半小时起步,多线程长时间运行效率也极低。部分用户表示当前速度与本地部署超大模型相当,正在考虑使用更快、更便宜的模型进行替代。

来源:LINUX DO 最新 · linux.do