LINUX DO 最新· a12908·· 2 小时前AI 评分19
用户实测反馈 gpt6.1 terra 推理速度与 TPS 表现
gpt6.1 terra这什么速度啊 有在用的吗 来反馈下TPS吧
AI 导读
社区用户针对 gpt6.1 terra 的推理速度与 TPS 展开实测讨论,多数人反馈其实际生成速度集中在 30 至 50 token/s 之间。部分用户表示该模型峰值曾短暂达到 100 token/s 或在开启 fast 模式后达到六七十 token/s,但速度容易波动回落,且额度消耗速度较快。
来源:LINUX DO 最新 · linux.do