LINUX DO 最新· Pig·· 4 小时前AI 评分21
平均 18 t/s:GPT 生成速度引社区用户吐槽
平均18t/s!gpt的速度堪称一绝啊
AI 导读
社区用户反馈 GPT 生成速度大幅变慢,平均仅约 18 t/s,此前甚至一度跌至个位数。多位用户吐槽其响应体验如同拨号上网,不仅测试小功能耗时半小时起步,多线程长时间运行效率也极低。部分用户表示当前速度与本地部署超大模型相当,正在考虑使用更快、更便宜的模型进行替代。
来源:LINUX DO 最新 · linux.do
平均18t/s!gpt的速度堪称一绝啊
社区用户反馈 GPT 生成速度大幅变慢,平均仅约 18 t/s,此前甚至一度跌至个位数。多位用户吐槽其响应体验如同拨号上网,不仅测试小功能耗时半小时起步,多线程长时间运行效率也极低。部分用户表示当前速度与本地部署超大模型相当,正在考虑使用更快、更便宜的模型进行替代。
来源:LINUX DO 最新 · linux.do