小红书、北大开源面向大规模MoE训推的负载均衡方案UltraEP

  7月20日,小红书发文宣布其与北大提出UltraEP,首次把基于“精确”路由信息的“实时”负载均衡引入生产系统:在每个microbatch和每一层动态复制热点专家 ,让真实训推也能逼近理想性能。据小红书方面介绍,UltraEP平均达到理想性能的94.3%,相比业界SOTA训推框架提升1.49倍 ,并应用在了大规模预训练的实际生产中。

小红书、北大开源面向大规模MoE训推的负载均衡方案UltraEP-第1张图片

(文章来源:界面新闻)

小红书、北大开源面向大规模MoE训推的负载均衡方案UltraEP-第2张图片

文章推荐

  • Meta发布更强大AI模型 声称进一步缩小了与竞争对手差距

      7月20日,小红书发文宣布其与北大提出UltraEP,首次把基于“精确”路由信息的“实时”负载均衡引入生产系统:在每个microbatch和每一层动态复制热点专家,让真实训推也能逼近理想性能。据小红书方面介绍,UltraEP平均达到理想性能的94.3%,相比业界SOTA训推框...

    2026年09月03日
    4
  • 北京中风险地区增至4个(北京中风哪个医院好)

      7月20日,小红书发文宣布其与北大提出UltraEP,首次把基于“精确”路由信息的“实时”负载均衡引入生产系统:在每个microbatch和每一层动态复制热点专家,让真实训推也能逼近理想性能。据小红书方面介绍,UltraEP平均达到理想性能的94.3%,相比业界SOTA训推框...

    2026年09月03日
    5
  • 官方明确高风险区解除标准(高风险区域)

      7月20日,小红书发文宣布其与北大提出UltraEP,首次把基于“精确”路由信息的“实时”负载均衡引入生产系统:在每个microbatch和每一层动态复制热点专家,让真实训推也能逼近理想性能。据小红书方面介绍,UltraEP平均达到理想性能的94.3%,相比业界SOTA训推框...

    2026年09月03日
    9
  • 【全球确诊超547万例,全球一共确诊了多少新冠病例】

      7月20日,小红书发文宣布其与北大提出UltraEP,首次把基于“精确”路由信息的“实时”负载均衡引入生产系统:在每个microbatch和每一层动态复制热点专家,让真实训推也能逼近理想性能。据小红书方面介绍,UltraEP平均达到理想性能的94.3%,相比业界SOTA训推框...

    2026年09月03日
    9