В статье представлена методика AdvSim2Real для обучения веб-агентов сопротивлению адаптивным атакам на подстановку инструкций внутри симулируемой веб-среды. Она совместно эволюционирует учебную программу, атакующего-инъектора и агента с использованием замороженной веб-модели, повышая производительность агента против неизвестных атакующих.
График появится после повторных замеров. Текущий показатель уже получен из источника.
1 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот подход повышает устойчивость веб-агентов к сложным атакам на подстановку инструкций, имитируя антагонистические сценарии во время обучения, что делает их более эффективными в реальных приложениях.
RealCompanion представляет собой тест для оценки способности ИИ понимать людей через долгосрочные разговоры, включающий 27 218 сообщений из 10 реальных отношений. Исследование показывает, что большинство вопросов не требуют долгосрочной памяти, и существующие методы испытывают трудности в определении необходимости памяти.
6 дней назадDaily PapersВ статье представлено WING, фреймворк, который переносит знания об взаимодействии из видео с человеческой перспективы на роботизированные политики, разделяя движение наблюдателя на взаимодействие рук и объектов и используя спектральный анализ для выявления общих временных структур между поведением человека и робота. Он показывает высокие показатели успешности на нескольких бенчмарках и демонстрирует сильные результаты в реальных задачах.
5 дней назадDaily PapersВ данной статье представлена ProWAM, прогрессивная модель мира действий, которая предсказывает действия и разреженные визуальные подцели для управления роботами. Она улучшает планирование на длинных горизонтах, используя один проход видеобэкенда для эффективного генерирования действий и демонстрирует высокую производительность на симуляционных и реальных тестах.
6 дней назадDaily PapersEgo2Act — это тестовая площадка для оценки целенаправленного манипулирования в генерации эгоцентрических видео, включающая 2 640 видео из 110 реальных задач. Она оценивает, могут ли модели генерации видео создавать реалистичные эгоцентрические видео рук, выполняющих многошаговые манипуляции с объектами для достижения высоких целей.
6 дней назадDaily PapersВ статье исследуется на-policy distillation (OPD) в кросс-токенизаторных условиях, с акцентом на охват выравнивания и надежность обучения. Установлено, что строгое выравнивание 1:1 охватывает большинство токенов, сгенерированных студентом, несмотря на несоответствие словарей, и что ограничение обратной KL до топ-16 подмножества общего словаря достигает сравнимой точности с полным общим словарем OPD, в то время как добавление обучения по спанам снижает точность.
вчераLessWrongТекст рассматривает сценарий, в котором ИИ должен ответить на вопрос «Какая сегодня дата?», не имея доступа к реальному времени. Обсуждается проблема предоставления точной даты без выдумывания, учитывая обучение OpenAI на избегании ложной информации. Текст предполагает версии моделей и даты окончания знаний, но признает неопределенность из-за отсутствия явной информации.
6 дней назад