跟公司同事一起拼了个 gpt pro x20, 打了个 sub2api 中转,目前用起来就是这个指标有点差,首 token 很慢,求教怎么优化 直接是部署在一个美国 CN2 的服务器,服务器 ping 延迟在 160ms 左右
跟公司同事一起拼了个 gpt pro x20, 打了个 sub2api 中转,目前用起来就是这个指标有点差,首 token 很慢,求教怎么优化 直接是部署在一个美国 CN2 的服务器,服务器 ping 延迟在 160ms 左右
跟公司同事一起拼了个 gpt pro x20, 打了个 sub2api 中转,目前用起来就是这个指标有点差,首 token 很慢,求教怎么优化 直接是部署在一个美国 CN2 的服务器,服务器 ping 延迟在 160ms 左右
全free号池,不知道为啥,TTFT高的离谱了,还有时候会思考卡住,请问有啥办法能优化吗?看具体调用,还挺正常的。 5 个帖子 - 2 位参与者 阅读完整话题
对于中转站的延迟问题TTFT和响应速度这些问题该如何优化呢?目前测试下来主要是上游的响应时间比较长,为什么会这样子呜呜 13 个帖子 - 6 位参与者 阅读完整话题
ttft 50-100ms,请求成功率100%,缓存读写也没有减弱,写的中转程序看起来还算能用,所以之前开了贴找佬友测试,这一切都是免费的,而且没有任何注册或者仓库链接等推广 经历: 之前我开了一个贴,把自己的claude 20x 测试账号中转出来免费给用,发了2个key,不限量不限速,但是只能2人同时用,然后域名被举报诈骗红了。。 然后我发帖说可以免费把账号放上来中转仅限自用,使用的代理费用我负担,只要求每次使用更新使用情况就好。因为我最近没有那么多时间用claude,而代码是从0写的,很多地方要优化,为了收集反馈然后优化。也没有任何注册等要求,只需要我发授权链接,claude点一下授权就好。 有2个佬友的号托管了,但是我之前被举报违规推广封了7天。。。 我冒着又被举报的风险想问问,没有任何注册相关,没有任何仓库链接相关,自费找佬友测试这种是否合规呢?(看过社区准则的推广相关仍然觉得有疑问所以才发帖) 无商业功能,登录不收费,无开源仓库推广链接,请版主大大明鉴呀 2 个帖子 - 2 位参与者 阅读完整话题