NeMo-DCR — это метод дельта-сжатого перенастройки для масштабируемого агентного обучения с подкреплением (RL), который отправляет только изменения параметров модели, обеспечивая точное воспроизведение битов без необходимости передачи полных чекпоинтов. Он использует аффинные отображения, маски XOR и эффективную передачу данных, чтобы достичь более быстрых перенастроек по сравнению с традиционными методами, делая возможным агентное обучение с подкреплением на масштабах триллионов параметров.
График появится после повторных замеров. Текущий показатель уже получен из источника.
5 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот метод обеспечивает эффективную и надежную синхронизацию моделей в масштабных системах агентного обучения с подкреплением, минимизируя объем передаваемых данных и обеспечивая точное совпадение битов.
RealCompanion представляет собой тест для оценки способности ИИ понимать людей через долгосрочные разговоры, включающий 27 218 сообщений из 10 реальных отношений. Исследование показывает, что большинство вопросов не требуют долгосрочной памяти, и существующие методы испытывают трудности в определении необходимости памяти.
6 дней назадDaily PapersEgo2Act — это тестовая площадка для оценки целенаправленного манипулирования в генерации эгоцентрических видео, включающая 2 640 видео из 110 реальных задач. Она оценивает, могут ли модели генерации видео создавать реалистичные эгоцентрические видео рук, выполняющих многошаговые манипуляции с объектами для достижения высоких целей.
6 дней назадDaily PapersВ статье исследуется на-policy distillation (OPD) в кросс-токенизаторных условиях, с акцентом на охват выравнивания и надежность обучения. Установлено, что строгое выравнивание 1:1 охватывает большинство токенов, сгенерированных студентом, несмотря на несоответствие словарей, и что ограничение обратной KL до топ-16 подмножества общего словаря достигает сравнимой точности с полным общим словарем OPD, в то время как добавление обучения по спанам снижает точность.
вчераDaily PapersВ статье представлено WING, фреймворк, который переносит знания об взаимодействии из видео с человеческой перспективы на роботизированные политики, разделяя движение наблюдателя на взаимодействие рук и объектов и используя спектральный анализ для выявления общих временных структур между поведением человека и робота. Он показывает высокие показатели успешности на нескольких бенчмарках и демонстрирует сильные результаты в реальных задачах.
5 дней назадDaily PapersВ данной статье представлена ProWAM, прогрессивная модель мира действий, которая предсказывает действия и разреженные визуальные подцели для управления роботами. Она улучшает планирование на длинных горизонтах, используя один проход видеобэкенда для эффективного генерирования действий и демонстрирует высокую производительность на симуляционных и реальных тестах.
6 дней назадLessWrongТекст рассматривает сценарий, в котором ИИ должен ответить на вопрос «Какая сегодня дата?», не имея доступа к реальному времени. Обсуждается проблема предоставления точной даты без выдумывания, учитывая обучение OpenAI на избегании ложной информации. Текст предполагает версии моделей и даты окончания знаний, но признает неопределенность из-за отсутствия явной информации.
6 дней назад