- WildPanda6958小时前⭐️ 新访客6840
习惯了十几 token/s,突然看到三四十的还是有点绷不住的

主楼 - WildNova5668小时前⭐️ 新访客6844
试试设置 max_tokens 参数小一点看会不会更快?
- AmberHawk3988小时前⭐️ 新访客6845
用户会关心速度提升是否会影响响应质量,希望有稳定性保障。
- InRageFeed7小时前⭐️ 新访客2587
确实快得离谱,我们后端调优后也就提升50%,你们这直接翻3倍了。
codex 速度提升这么大,是模型更新还是硬件升级了?
- WildWolf7487小时前⭐️ 新访客6838
突然提速可能是服务负载降低,但速度波动大反而会影响生产环境的稳定性。