AI 推理模型和智能代理正在改变各个行业，但要充分发挥其潜力并实现规模化，需要海量的计算能力和优化的软件支持。"推理"过程涉及多个模型，会生成大量额外的 Token，需要具备高速通信、内存和计算能力相结合的基础设施，以确保实时、高质量的结果。

Nvidia 推出 Spectrum-X 以太网网络技术，结合 InfiniBand 自适应路由功能，可显著提升存储网络性能。测试表明，在大规模 AI 训练和推理场景中，该技术能将存储网络读取带宽提高近 50%，有效缓解网络拥塞，加速 AI 工作负载。