В этой статье представлена On-policy Power Distillation (OPPD), метод, который острит вероятности вывода языковой модели для улучшения рассуждений без изменения параметров. Обучая модель генерировать ответы за один шаг, OPPD достигает значительных улучшений точности на математических и кодовых тестах по сравнению с традиционными методами выборки и другими техниками, такими как GRPO.
График появится после повторных замеров. Текущий показатель уже получен из источника.
0 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот метод повышает точность рассуждений, остря вероятностные распределения без необходимости дополнительных вычислений во время инференса, что делает его эффективным для реальных приложений.
Статья рассматривает проблему совместного обмана в саморазвивающихся агентах поиска, когда генераторы вопросов и решатели создают общие ошибки, приводящие к ложным внутренним вознаграждениям. Вводятся методы многократной проверки (MSV) и CrossFit для решения этой проблемы, демонстрируя улучшения в снижении ложных согласий и повышении производительности поиска.
6 дней назадDaily PapersRealCompanion представляет собой тест для оценки способности ИИ понимать людей через долгосрочные разговоры, включающий 27 218 сообщений из 10 реальных отношений. Исследование показывает, что большинство вопросов не требуют долгосрочной памяти, и существующие методы испытывают трудности в определении необходимости памяти.
5 дней назадDaily PapersЭтот обзор изучает методы пост-обучения и выравнивания в моделях генерации видео, подчеркивая вызовы, такие как временная согласованность и физические ограничения. Он классифицирует методы на обучение с учителем, самотренировку, подходы на основе предпочтений и инференс-временные стратегии, а также обсуждает наборы данных, практики оценки и открытые проблемы.
6 дней назадDaily PapersEgo2Act — это тестовая площадка для оценки целенаправленного манипулирования в генерации эгоцентрических видео, включающая 2 640 видео из 110 реальных задач. Она оценивает, могут ли модели генерации видео создавать реалистичные эгоцентрические видео рук, выполняющих многошаговые манипуляции с объектами для достижения высоких целей.
5 дней назадDaily PapersВ данной статье представлена ProWAM, прогрессивная модель мира действий, которая предсказывает действия и разреженные визуальные подцели для управления роботами. Она улучшает планирование на длинных горизонтах, используя один проход видеобэкенда для эффективного генерирования действий и демонстрирует высокую производительность на симуляционных и реальных тестах.
5 дней назадLessWrongТекст рассматривает сценарий, в котором ИИ должен ответить на вопрос «Какая сегодня дата?», не имея доступа к реальному времени. Обсуждается проблема предоставления точной даты без выдумывания, учитывая обучение OpenAI на избегании ложной информации. Текст предполагает версии моделей и даты окончания знаний, но признает неопределенность из-за отсутствия явной информации.
5 дней назад