Современные системы текста в изображение (T2I) используют предварительную тренировку языка в масштабе интернета для генерации изображений на основе текста. В данной работе исследуется, необходима ли предварительная тренировка языка для сильной генерации T2I. Вводится Halcyon, семейство ранней фузии мультимодальных авторегрессивных моделей, предварительно обученных с нуля на GPIC, наборе данных из 100 млн пар изображений и текста. Halcyon-0.52B превосходит LlamaGen-XL/8 (48.0 против 63.3 gFD) с в 18.2 раза меньшим объемом вычислений для предварительной тренировки. Дальнейшие эксперименты показывают, что предварительная тренировка только на тексте не улучшает генерацию T2I.
График появится после повторных замеров. Текущий показатель уже получен из источника.
0 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Модели, обученные без предварительной тренировки языка, могут достигать высокого качества генерации изображений, что снижает зависимость от больших объемов данных и вычислительных ресурсов.
Метод Waypoint-OPD использует промежуточную точку проверки учителя для сравнения ранних и поздних сдвигов в предпочтениях действий при переносе политики. Он оценивает согласованность между ранними и поздними сдвигами и подавляет сдвиг на конечном этапе, если они противоречат друг другу.
5 дней назадDaily PapersВ исследовании изучается, насколько представления разреженных автокодировщиков (SAE) поддерживают композиционность поведения. Вводится метрика SAR, которая измеряет необъяснимую вариацию поведения выше определённого порядка взаимодействия. Эксперименты показывают, что обученные координаты SAE демонстрируют более низкие первые остатки по сравнению со случайными вращениями подпространства.
5 дней назадDaily PapersИсследуется, как модели визуально-языкового понимания (VLM) могут учиться мыслить и активно исследовать 3D-пространство. Вместо предоставления многопerspective изображений, видео или 3D-представлений модели, сохраняется нативное визуальное кодирование VLM, то есть одно изображение за раз, как у людей, и 3D-представление рассматривается как среда, с которой модель взаимодействует через действия (например, движение влево) и наблюдения (отрендеренные изображения).
5 дней назадDaily PapersВ данной работе представлена новая многодоменная база данных RuleTrek для тестирования способности агентов рассуждать по правилам в сложных сценариях. База данных использует структурированные графы правил и генерирует подсценарии для оценки способности к идентификации, выводу и комплексному рассуждению по правилам.
6 дней назадDaily PapersВ данной работе представлен Scene-Designer — агентная система, которая обучается интеллекту дизайна через совместные опыт проектирования и критики. Для этого были созданы два набора данных: Scene-OTA-35K и Scene-OTC-15K. Предложена методология Scene-GRPO, которая улучшает решения по проектированию и уменьшает ненужные исправления. Эксперименты показали превосходные результаты в физической корректности, функциональной правильности и согласованности планировки.
4 дня назадDaily PapersКонтекст может улучшить производительность больших языковых моделей, но эти улучшения могут быть утеряны после удаления контекста. Исследователи предложили Cortex, который генерирует перспективные запросы для предвидения использования контекста и дистиллирует контекстно-зависимые выводы в изменяемые обновления низкоразмерных или структурных сетей. Cortex демонстрирует эффективность в консолидации и сохранении производительности.
6 дней назад