Исследование показывает, что использование удаленного кэша KV в системах обработки длинных контекстов может привести к увеличению задержек. Авторы предложили методы оптимизации, включая шардинг хранилища KV и асинхронную загрузку, что значительно сократило время отклика.
График появится после повторных замеров. Текущий показатель уже получен из источника.
0 голосов источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Исследование важно для оптимизации производительности систем обработки больших объемов данных, где задержки критичны.
Контекст может улучшить производительность больших языковых моделей, но эти улучшения могут быть утеряны после удаления контекста. Исследователи предложили Cortex, который генерирует перспективные запросы для предвидения использования контекста и дистиллирует контекстно-зависимые выводы в изменяемые обновления низкоразмерных или структурных сетей. Cortex демонстрирует эффективность в консолидации и сохранении производительности.
позавчераDaily PapersМетод Waypoint-OPD использует промежуточную точку проверки учителя для сравнения ранних и поздних сдвигов в предпочтениях действий при переносе политики. Он оценивает согласованность между ранними и поздними сдвигами и подавляет сдвиг на конечном этапе, если они противоречат друг другу.
вчераDaily PapersВ данной работе представлена новая многодоменная база данных RuleTrek для тестирования способности агентов рассуждать по правилам в сложных сценариях. База данных использует структурированные графы правил и генерирует подсценарии для оценки способности к идентификации, выводу и комплексному рассуждению по правилам.
позавчераDaily PapersUrbex — это агентная визуально-языковая система, которая преобразует задачу позиционирования в активный пространственный поиск. Она представляет городскую 3D-сцену как интерактивную многоугольную среду, позволяя агенту VLM искать достопримечательности, увеличивать локальные регионы и фиксировать ограничивающие коробки. Эксперименты показали, что Urbex достигает наилучших результатов по Hit@1 и IoU на CityRefer.
3 дня назадDaily PapersОпределение, является ли изображение ИИ-сгенерированным, не подтверждает, подкреплены ли факты, изображенные на нем. Мы формулируем оценку достоверности изображения: при наличии изображения и общего инструкции по проверке система возвращает заключение о поддержке или опровержении с обоснованным объяснением. Мы представляем EviLens — экспертно проверенный набор данных из 10 174 изображений, охватывающий двенадцать типов фактических ошибок. Мы разрабатываем EviScene — мультимодальный агент ReAct, который чередует визуальный анализ, внешний поиск и анализ доказательств.
6 дней назадLessWrongСовременные трансформеры, используемые в крупных языковых моделях (LLM), хранят в своей скрытой области (latent space) большое количество информации из данных обучения, что позволяет им более точно воспроизводить детали и связанные аспекты. Однако это не измеряется в оценочных тестах.
позавчера