В статье представлена RoboFollow — диагностический бенчмарк для оценки истинной способности встроенных агентов следовать инструкциям. Подчеркивается, что высокие показатели успешности в существующих метриках могут не отражать реальное понимание языка из-за низкой энтропии сцены, когда визуальные подсказки сами по себе достаточно. Бенчмарк использует высокую энтропию сцены, иерархический диагностический протокол и контроль помех для более точной оценки того, насколько хорошо агенты следуют инструкциям в различных условиях.
График появится после повторных замеров. Текущий показатель уже получен из источника.
2 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Эта работа важна для повышения надежности следования инструкциям на языке у встроенных агентов, выявляя и устраняя ограничения в текущих метриках оценки.
IntBMoE представляет блок-условную архитектуру Mixture-of-Experts (MoE), которая разделяет участие, выполнение и материализацию, объединяя плотную композицию экспертов с разреженным выполнением блоков. Используется обученная кодовая книга для блоков и гиперсеть для объединения экспертов, обеспечивая полное участие при низких затратах на выполнение и память. Эксперименты показывают улучшения в классификации изображений, языковом моделировании и последовательном рекомендовании, с реальным внедрением в системе рекомендаций AMap.
5 дней назадDaily PapersВ статье представлена Taste-Bench — тест для оценки «вкуса» агента при принятии решений на длинных горизонтах. Она измеряет способность выбирать лучший путь на точках ветвления без знания будущих исходов, показывая, что современные модели плохо справляются, и что вкус можно улучшить с помощью дистилляции.
вчераDaily PapersВ статье представлено SELF-INDEX, фреймворк, позволяющий индексу самовосстанавливаться без участия человека, диагностируя проблемы поиска, изменяя ключи индекса и проверяя изменения. Он также использует симулятор запросов для активного поиска новых требований к поиску, улучшая производительность в различных корпусах и приложениях.
6 дней назадDaily PapersВ статье представлена методика Document Retrieval-Aware Chunking (D-RAC), которая эффективно обрабатывает корпоративные документы, нормализуя их в PDF и преобразуя в оптимизированный для поиска Markdown с использованием мультимодельной ИИ. Этот подход сохраняет структуру документа, снижает затраты на токены и повышает эффективность фрагментации.
позавчераDaily PapersВ этой статье представлена система распознавания текста в сцене, охватывающая несколько языков, использующая архитектуру Mixture-of-Experts (MoE), учитывающую письменность. Система ScriptMoE превосходит существующие методы на задачах распознавания многоязычного текста, используя большой синтетический датасет и легковесную архитектуру, которая делит визуальный кодировщик, а декодирование выполняется специализированными экспертами для каждой письменности.
позавчераDaily PapersCodeMidas — агентный пайплайн, преобразующий реализованную функциональность в открытых кодовых базах в исполняемые среды для обучения с подкреплением (RL), используя только исходный код в качестве входных данных. Он генерирует 5 545 тренировочных задач из 3 185 кодовых баз, охватывающих 23 языка и 15 технических областей, улучшая производительность на нескольких кодовых бенчмарках при обучении MiMo-V2.5 с использованием GRPO.
5 дней назад