IT之家 6 月 4 日消息，6 月 16 日，中国信息通信研究院人工智能研究所等将在北京联合召开“高质量 Token 服务研讨会”。 据《科创板日报》记者获悉，论坛将成立“高质量 Token 服务特别研究组”，并启动“高质量 Token 服务能力攀登计划”；论坛将上线新版“公有云大模型 Token 服务性能监测平台”，并发布“ 公有云大模型 Token 服务性能监测结果（2026 年 6 月） ”，对主流 Token 服务平台的 Token 吞吐率、时延 等性能进行客观量化评估，为产业各方选型参考与服务质量提升提供参考依据。 此外，论坛将集中发布“Token 服务”系列标准并进行权威解读，同时将为通过“可信 AI-高质量 Token 服务评估”的单位颁发证书。此外，论坛将特邀国内头部科研机构、Token 服务提供商、运营商、大模型厂商、大模型应用方等，进行相关主题分享。 IT之家注：Token 词元是大模型处理文本、代码、图像、音频、视频等所有信息时采用的最小运算单元，正在成为人工智能服务的计量单位、结算单位和统计单位。截至 2026 年 3 月， 我国日均词元调用量已攀升至 140 万亿次以上 ，这一数字较 2024 年初的 1000 亿次实现千倍跃升；即便与 2025 年底的 100 万亿次相比，短短三个月内增幅亦超过四成。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。
我最近在思考一个问题，公有云负载均衡是如何实现多租户，目前我想到的方案有二，具体如下： 方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在，这样天然实现了租户隔离，即使 CIDR 重叠也没有关系，但是随着租户越来越多虚拟机数量暴增，资源严重浪费。 方案二、 共享负载均衡池，部分人共用一个 nginx 进程，每个租户分配一个虚拟的 ip 地址，负载均衡器 proxy_pass 指向这个虚拟的 IP ，然后通过 NAT 进行转换引流到 VPC 中，但是缺点是 NAT 需要跟踪这些 SESSION ，表象过大。 不知道有没有做过的童鞋，给提提意见。