Nereus: Адаптивная параллелизм для постобучения LLM

Nereus — это система времени выполнения, предназначенная для адаптации постобучения методом усиления для больших языковых моделей (LLM), динамически изменяя планы выполнения в зависимости от изменяющихся условий. Она использует стоимость-ориентированный подход для управления распределением ресурсов GPU и переходами между этапами модели, повышая эффективность в распределенных средах обучения.