不同服务器上调用Nvidia免费api成功率区别挺大的

不同服务器上调用Nvidia免费api成功率区别挺大的
不同服务器上调用Nvidia免费api成功率区别挺大的

我在两台服务器上部署了newapi,调用nvidia的免费api(https://build.nvidia.com/)
主要测试调用deepseek v4 pro,ds比较热门。

:small_orange_diamond: 一台是美东的dedirock,1H2G小弱鸡,cogent->4837线路,延迟250ms~300ms,大部分时间调用ds v4 pro是失败的;其他模型整体测试成功率也不如下面这台skyline的。

image

dedirock这台小鸡的ip质量:

image

:small_orange_diamond: 下面这一台是小鬼子家的skyline,1H1G小弱鸡,软银->4837,延迟70ms~100ms,大部分时间可成功调用。

image

skyline这台小鸡的ip质量:

image

  • 注:这两张newapi界面不同,是因为一个是新版界面、一个是旧版界面,newapi版本都是v1.0.0-rc.10。实测切换新旧界面不影响结果。

按说即便所属地区不同,调用的也是nvidia同一个算力池。但明显小鬼子家延迟低这台小鸡实际调用成功率更高。

我能想到的区别:

  • 所属区域:美东 / 小鬼子家
  • ip质量:skyline会更好些
  • 延迟:也是skyline更好

不知道是哪些因素导致的skyline这台小鸡调用成功率更高。
小白不懂具体原因,把结果贴出来给佬们参考。。。

6 个帖子 - 4 位参与者

阅读完整话题

来源: LinuxDo 最新话题查看原文