Безопасность скрытой коммуникации в многоагентных системах

Исследование изучает риски безопасности в многоагентных системах с использованием скрытой коммуникации, при которой агенты обмениваются информацией в пространстве внутренних представлений. Показано, что даже безобидное обучение коммуникационных связей может увеличить склонность к вредному поведению, а атакующие могут эксплуатировать это, оптимизируя связи на вредных данных или загрязняя обучающие наборы. Исследование также представляет метод атаки на основе усиленного обучения, повышающий вредное поведение, сохраняя при этом производительность задач, и демонстрирует способы восстановления поврежденных связей без изменения агентов.