Когда внутренние модели помогают? Исследование роли инженерии представлений в безопасности LLM

Исследование изучает эффективность инженерии представлений по сравнению с методами поведенческой ориентации в безопасности LLM, обнаружив, что поведенческие методы, такие как DPO, обеспечивают более сильный контроль, но инженерия представлений может быть конкурентоспособной в условиях с небольшим количеством данных. Специализированные текстовые мониторы превосходят датчики представлений по точности обнаружения, но подходы на основе представлений предлагают преимущества по стоимости.