记者就开源DeepEP通信库的影响询问DeepSeek,它的回答是,DeepEP能显著提升MoE模型的训练和推理效率,显著降低计算资源消耗,开源DeepEP有助于降低AI技术的开发成本,且有助于减少重发开发。
据 DeepSeek 介绍,DeepEP 是一个为 MoE 和 EP 量身定制的通信库。 它能提供高吞吐量和低延迟的 all-to-all GPU 内核,也称为 MoE 调度和组合。该库还支持低精度操作,包括 ...