В данной статье представлена система AgentSafeEvo, которая использует коэволюционное обучение с подкреплением для повышения безопасности LLM-агента. Атакующий учится создавать вредоносные задачи, чтобы выявить слабости в использовании инструментов защитником, а защитник учится выполнять задачи безопасно при наличии атак. В работе также предложена методика весового распределения задач на основе изменчивости вознаграждения защитника.
График появится после повторных замеров. Текущий показатель уже получен из источника.
1 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Метод может быть использован для повышения устойчивости LLM-агентов к вредоносным атакам, сохраняя при этом их общие способности.
В исследовании представлено тестирование AgentSWE, которое оценивает способность кодирующих агентов создавать агентов, соответствующих требованиям пользователей. Исследование показало, что существующие агенты не могут точно выполнить поставленные задачи, поскольку между демонстрацией и реальным результатом существует значительный разрыв.
6 дней назадDaily PapersВ статье представлена S-Space — линейное подпространство в мультимодальных языковых моделях, где представления объектов кодируют непрерывные пространственные координаты. Показано, что S-Space служит внутренним рабочим пространством для пространственного рассуждения, позволяя точно оценивать пространственные отношения через восприятие, внутренние рассуждения и выборочный доступ через речь, при этом выявляя ограничения в пространственных преобразованиях при смене точки зрения.
5 дней назадDaily PapersВ статье представлен TerminalHorizon — автоматическая система синтеза данных для агентов с долгосрочными целями. Создано 1,5 тыс. сред для задач, и модель Qwen3.5-27B была дообучена на этом наборе данных, что привело к улучшению производительности на различных тестах. Модель показала способность к экспериментам, улучшению методов и сохранению эффективных улучшений в итоговых результатах.
6 дней назадDaily PapersВ данной работе представлена новая многодоменная база данных RuleTrek для тестирования способности агентов рассуждать по правилам в сложных сценариях. База данных использует структурированные графы правил и генерирует подсценарии для оценки способности к идентификации, выводу и комплексному рассуждению по правилам.
вчераDaily PapersUrbex — это агентная визуально-языковая система, которая преобразует задачу позиционирования в активный пространственный поиск. Она представляет городскую 3D-сцену как интерактивную многоугольную среду, позволяя агенту VLM искать достопримечательности, увеличивать локальные регионы и фиксировать ограничивающие коробки. Эксперименты показали, что Urbex достигает наилучших результатов по Hit@1 и IoU на CityRefer.
позавчераDaily PapersКонтекст может улучшить производительность больших языковых моделей, но эти улучшения могут быть утеряны после удаления контекста. Исследователи предложили Cortex, который генерирует перспективные запросы для предвидения использования контекста и дистиллирует контекстно-зависимые выводы в изменяемые обновления низкоразмерных или структурных сетей. Cortex демонстрирует эффективность в консолидации и сохранении производительности.
вчера