近日,有开发者在使用NewAPI对ChatGPT Team账号进行聚合反代时,发现额度消耗速度异常加快。该用户指出,由于未正确配置负载均衡轮询,且缓存命中率极低,导致Token在转发过程中被无谓消耗。这一现象提醒技术社区,在面临OpenAI官方额度削减的背景下,单纯依赖聚合工具若缺乏精细化配置,不仅无法有效扩容,反而可能造成成本激增。
原文链接:Linux.do
近日,有开发者在使用NewAPI对ChatGPT Team账号进行聚合反代时,发现额度消耗速度异常加快。该用户指出,由于未正确配置负载均衡轮询,且缓存命中率极低,导致Token在转发过程中被无谓消耗。这一现象提醒技术社区,在面临OpenAI官方额度削减的背景下,单纯依赖聚合工具若缺乏精细化配置,不仅无法有效扩容,反而可能造成成本激增。
原文链接:Linux.do
评论前必须登录!
立即登录 注册