我在两台服务器上部署了newapi,调用nvidia的免费api(https://build.nvidia.com/)
主要测试调用deepseek v4 pro,ds比较热门。
一台是美东的dedirock,1H2G小弱鸡,cogent->4837线路,延迟250ms~300ms,大部分时间调用ds v4 pro是失败的;其他模型整体测试成功率也不如下面这台skyline的。
dedirock这台小鸡的ip质量:
下面这一台是小鬼子家的skyline,1H1G小弱鸡,软银->4837,延迟70ms~100ms,大部分时间可成功调用。
skyline这台小鸡的ip质量:
- 注:这两张newapi界面不同,是因为一个是新版界面、一个是旧版界面,newapi版本都是v1.0.0-rc.10。实测切换新旧界面不影响结果。
按说即便所属地区不同,调用的也是nvidia同一个算力池。但明显小鬼子家延迟低这台小鸡实际调用成功率更高。
我能想到的区别:
- 所属区域:美东 / 小鬼子家
- ip质量:skyline会更好些
- 延迟:也是skyline更好
不知道是哪些因素导致的skyline这台小鸡调用成功率更高。
小白不懂具体原因,把结果贴出来给佬们参考。。。
6 个帖子 - 4 位参与者