RelayRouter这个中转服务多模型接入很实用，之前用过类似方案确实比较稳定。

我线上搞号池缓存那套，95%命中率确实香，长对话省不少。