Шум вне, предвзятость внутри: Введение целевого предвзятости в диффузионные языковые модели через управление активацией в замкнутом контуре

В статье исследуется введение целевого смещения в диффузионные языковые модели (dLLMs), используя их процесс устранения шума. Атакующий может манипулировать выводом модели, регулируя векторы направления на основе внутренних активаций, что приводит к значительным сдвигам в демографических ответах. Атака, использующая пропорционально-интегральный контроллер, достигает значительного усиления смещения на определенных наборах данных.