IntBMoE представляет блок-условную архитектуру Mixture-of-Experts (MoE), которая разделяет участие, выполнение и материализацию, объединяя плотную композицию экспертов с разреженным выполнением блоков. Используется обученная кодовая книга для блоков и гиперсеть для объединения экспертов, обеспечивая полное участие при низких затратах на выполнение и память. Эксперименты показывают улучшения в классификации изображений, языковом моделировании и последовательном рекомендовании, с реальным внедрением в системе рекомендаций AMap.
График появится после повторных замеров. Текущий показатель уже получен из источника.
89 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
IntBMoE позволяет эффективно масштабировать модели экспертов, разделяя участие, выполнение и материализацию, что делает его подходящим для реальных приложений с жесткими ограничениями по времени отклика.
В статье представлен ScienceIDE, фреймворк, преобразующий научные репозитории кода в программируемые среды для обучения научных агентов. Эти среды позволяют генерировать задачи, их выполнение и верификацию, поддерживая сверточную настройку и усиление обучения. Подход показывает улучшения в восстановлении научного кода и общих задач.
5 дней назадDaily PapersВ этой статье оценивается способность мультимодельной генеративной модели MiniMax-H3 рассуждать о физическом мире. Исследование представляет новую систему оценки физического рассуждения через четыре измерения, используя задачи, требующие интеграции информации по нескольким модальностям. Модель показывает общую успешность 41,97% по 517 экземплярам оценки, при этом рассуждение на основе видео работает лучше всего, а на основе аудио хуже всего.
5 дней назадDaily PapersLimiX-2 - новая модель из семейства LimiX, использующая парадигму Contextual Mechanism Networks (CMNs), предобученная с использованием Context-Conditional Masked Modeling (CCMM). Она фокусируется на изучении совместных представлений процессов генерации данных, а не на предсказании целевых переменных, демонстрируя превосходные результаты на табличных данных и способствуя осознанию причинности.
6 дней назадDaily PapersВ этой статье представлено Fuse — многопользовательская симуляционная платформа для оценки социального рассуждения в LLM-ассистентах. Платформа использует целевой агент с скрытой мотивацией, взаимодействующий с другими агентами, включая агент пользователя, чтобы создать проверяемую ground truth для задач социального рассуждения. Исследование применяет Fuse к 12 LLM и выявляет ключевые факторы, влияющие на производительность социального рассуждения.
6 дней назадDaily PapersВ статье представлено SELF-INDEX, фреймворк, позволяющий индексу самовосстанавливаться без участия человека, диагностируя проблемы поиска, изменяя ключи индекса и проверяя изменения. Он также использует симулятор запросов для активного поиска новых требований к поиску, улучшая производительность в различных корпусах и приложениях.
4 дня назадDaily PapersВ статье представлена XConf — метод оценки уверенности в языковых моделях, основанный на накопленном опыте модели. XConf использует прошлые эпизоды, включая задания, рефлексию, уровни уверенности, результаты и уроки, чтобы информировать текущие оценки уверенности через процесс запоминания и рефлексии. Она превосходит существующие методы по дискриминации и калибровке с меньшими вычислительными затратами.
6 дней назад