Инокуляция на промежуточной тренировке с изученными новообразованиями

В статье представлена техника Inoculation Midtraining, которая учит базовую модель ассоциировать небезопасное поведение с определенным контекстом, обозначенным новым токеном во время промежуточной тренировки, а затем оценивает обобщение этой ориентации вне контекста. Метод показывает некоторые успехи в SFT и on-policy RL, но сталкивается с проблемами, такими как чувствительность к гиперпараметрам и условная несоответствующая ориентация.