Обучение мышлению и исследованию в 3D-мире

Исследуется, как модели визуально-языкового понимания (VLM) могут учиться мыслить и активно исследовать 3D-пространство. Вместо предоставления многопerspective изображений, видео или 3D-представлений модели, сохраняется нативное визуальное кодирование VLM, то есть одно изображение за раз, как у людей, и 3D-представление рассматривается как среда, с которой модель взаимодействует через действия (например, движение влево) и наблюдения (отрендеренные изображения).