Дистилляция для обвинения и дистилляция для возможностей

Статья исследует два подхода к дистилляции для обеспечения безопасности ИИ: DFI (дистилляция для обвинения) и DFC (дистилляция для возможностей). DFI направлена на передачу неправильной ориентации модели слабому ученику, чтобы выявить проблемы учителя, а DFC фокусируется на передаче возможностей без неправильной ориентации. Эксперименты показывают, что DFI работает лучше, когда ученик использует ту же базовую модель, что и учитель, а DFC может сохранять возможности, блокируя скрытые предпочтения.