norgitov/ trends
Технологии · люди · идеи
К обзору/Daily Papers14 часов назад

ImpossibleRubrics: Тестирование сгенерированных критериев оценки как сигналов вознаграждения

В статье представлено ImpossibleRubrics — тестовая выборка из 169 невозможных задач и 48 решаемых контрольных заданий для проверки устойчивости языковых моделей, генерирующих критерии оценки. Показано, что некоторые критерии могут быть использованы атакующими для создания ложных ответов, что демонстрирует разрыв в качестве критериев, а не невозможность задач.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
2
голосов источника
Наблюдаем с16 сентября 2026 г.2 голосов источника

Этот источник давно не обновлялся. Время замера указано выше.

Темп интереса0/hпо замерам за 3,03 h
Опубликовано15 сентября 2026 г.Bowen Qin, Yi Xie, Yesheng Liu
ЗА ЦИФРАМИ

Как меняется интерес

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

2 голосов источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Это исследование помогает оценить надежность критериев, созданных ИИ, для предотвращения атакующих манипуляций, что важно для справедливой автоматической оценки и систем обучения с подкреплением.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема