Обучение модели оценивать наградные хаки снижает её собственную склонность к наградным хакам

В этом проекте исследуется, приводит ли настройка модели для выявления наградных хаков к снижению её собственной склонности к таким действиям. Результаты показывают, что модели, обученные как проверяющие, реже следовали явным инструкциям по хакингу, чем необученные модели, и ни одна из проверяющих моделей не проявляла хакерское поведение при генерации кода. Эффект также наблюдался в других задачах, хотя и в меньшей степени.