Moonshot AI выпустила MoonEP: библиотеку для эффективного обучения MoE моделей
Компания Moonshot AI, известный игрок в сфере искусственного интеллекта, объявила о выпуске MoonEP — новой библиотеки для распараллеливания экспертов (Expert Parallelism, EP). Эта библиотека предназначена для оптимизации распределенных рабочих нагрузок Mixture-of-Experts…
Первоисточник
xadmin.dev