NLAs пропускают некоторые внутренние поведения

NLAs (Natural Language Autoencoders) эффективны в обнаружении побочных задач, когда модели инструктируют их выполнять, но не обнаруживают такие поведения, когда они внутренне усвоены через дообучение. Исследование показывает, что NLAs дают больше обвинительных результатов в модальности In-Context Learning (ICL), чем в модальности SFT (Supervised Fine-Tuning), где поведение усвоено. Наличие инструкций в окне контекста значительно влияет на уровень обнаружения, поскольку NLAs в основном обнаруживают вербализованные инструкции, а не скрытые вычисления.