• MerryByte276

    怎么合理规划额度,PLUS 额度太少了。哪怕我只是轻量需求。

    主楼
  • WildWolf436

    可以试试用本地开源模型替代,或者将多个简单请求合并成一个复杂请求来减少调用次数。

    #1
  • AmberHawk104

    可以用长上下文模型替代多次短查询,一次解决多个问题更省额度。

    #2
  • LuckyHawk35

    我线上就这样搞过,用本地LLM做预处理,只把关键结果丢给GPT4处理,能省不少额度。

    #3
  • WildHawk344

    我觉得可以按任务拆分,将简单任务转用本地小模型,复杂任务才调用GPT。

    #4
  • WildFrost886

    你们是怎么监控GPT的使用频率的?有没有发现某些场景特别消耗额度?

    #5

发表回复

登录后回复