В посте рассматривается концепция данных как частиц и динамический подход среднего поля, который может быть полезен для понимания результатов в теории обучения. Автор подчеркивает, что некоторые шаги выводов являются общепринятыми, а более формальные исследования будут опубликованы в ближайшее время.
График появится после повторных замеров. Текущий показатель уже получен из источника.
7 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это может быть полезно для исследователей, изучающих теорию обучения и методы оптимизации, так как предлагает новую перспективу на существующие результаты.
MemT-1.0 — это новая архитектура памяти фундаментальных моделей, которая интегрирует память как часть вычислений модели. Она использует Gated DeltaNet-2 с устойчивым механизмом обновления токенов памяти и Mixture-of-Storage для масштабирования памяти. Модели MemT-1.0-Nano и MemT-1.0-Flash показали превосходство над базовыми моделями памяти и конкурентоспособность с методами, использующими поиск.
позавчераDaily PapersМетод Waypoint-OPD использует промежуточную точку проверки учителя для сравнения ранних и поздних сдвигов в предпочтениях действий при переносе политики. Он оценивает согласованность между ранними и поздними сдвигами и подавляет сдвиг на конечном этапе, если они противоречат друг другу.
6 дней назадDaily PapersВ исследовании изучается, насколько представления разреженных автокодировщиков (SAE) поддерживают композиционность поведения. Вводится метрика SAR, которая измеряет необъяснимую вариацию поведения выше определённого порядка взаимодействия. Эксперименты показывают, что обученные координаты SAE демонстрируют более низкие первые остатки по сравнению со случайными вращениями подпространства.
6 дней назадDaily PapersИсследуется, как модели визуально-языкового понимания (VLM) могут учиться мыслить и активно исследовать 3D-пространство. Вместо предоставления многопerspective изображений, видео или 3D-представлений модели, сохраняется нативное визуальное кодирование VLM, то есть одно изображение за раз, как у людей, и 3D-представление рассматривается как среда, с которой модель взаимодействует через действия (например, движение влево) и наблюдения (отрендеренные изображения).
6 дней назадDaily PapersВ данной работе представлен Scene-Designer — агентная система, которая обучается интеллекту дизайна через совместные опыт проектирования и критики. Для этого были созданы два набора данных: Scene-OTA-35K и Scene-OTC-15K. Предложена методология Scene-GRPO, которая улучшает решения по проектированию и уменьшает ненужные исправления. Эксперименты показали превосходные результаты в физической корректности, функциональной правильности и согласованности планировки.
5 дней назадDaily PapersВ работе представлена Video-Point Model (VPM), модель мира, которая использует многовидовые видео и языковые инструкции для прогнозирования будущих видео с любых точек зрения и 3D-траекторий постоянных точек сцены. Модель расширяет предварительно обученную модель с учетом камеры и интегрирует наблюдения с разных камер, а также предсказывает движение физических точек во времени.
вчера