norgitov/ trends
Технологии · люди · идеи
К обзору/LessWrong28 минут назад

Что в скрытых рекуррентных мыслях CODI?

В статье исследуется CODI, модель, использующая скрытые рассуждения. Авторы изучают, можно ли декодировать промежуточные значения, используя активационные вербализаторы (AVs), и обнаруживают, что AVs слабо, но значимо восстанавливают финальный ответ и промежуточные значения, включая сами мысли.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
10
очков источника
Наблюдаем с21 октября 2026 г.10 очков источника
Темп интереса—Нужны повторные замеры
Опубликовано21 октября 2026 г.Jan Bauer
ЗА ЦИФРАМИ

Как меняется интерес

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

10 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Исследование может помочь в понимании скрытых процессов модели и улучшении её интерпретируемости.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема