В статье рассматриваются три подхода к корригируемости агентов: фрагменты, симуляторы и однонаправленное обучение. Автор обсуждает возможность реализации корригируемого агента с учетом современных теорий обучения больших языковых моделей.
График появится после повторных замеров. Текущий показатель уже получен из источника.
8 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Понимание различных подходов к корригируемости может помочь в разработке более безопасных и управляемых ИИ-систем.
Anthropic опубликовала документы, связанные с судебным разбирательством по авторскому праву. В них описаны планы исследований компании на 2021 год, включая разработку безопасного общего ИИ-ассистента, способного выполнять задачи программирования. Документы не отражают официальную позицию компании.
вчераLessWrongВ статье рассматриваются сложности обеспечения индивидуальной рациональности безопасных улучшений по Парето (SPI) в контексте взаимодействия между агентами. Обсуждаются механизмы, которые могут привести к тому, что агенты предпочитают отказываться от SPI, включая влияние на стратегии других участников и возможные последствия отказа от участия в SPI.
позавчераLessWrongВ рамках программы MATS 9.1, под руководством Ричарда Нго, исследуется применение концепции кросс-временной несогласованности к многоэтапным играм с наблюдаемыми действиями. Предлагаются новые равновесия, определенные через варианты Принципа Однократного Отклонения (OSDP), которые позволяют анализировать ситуации, когда игроки достигают недостаточных равновесий с их будущими или контрфактическими версиями, несмотря на согласованную дисконтирование. Также обсуждается потенциальный вклад этих вариантов в теорию достоверных угроз.
2 часа назадHacker NewsПредставлен инструмент, позволяющий ИИ-агентам наносить на экран большие стрелки, прямоугольники и текст.
6 дней назадLobstersСтатья обсуждает ограничения и недостатки агентов для программирования, подчеркивая, почему они часто не справляются с реальными задачами программирования.
6 дней назадHugging Face BlogПредставлены быстрые приватные агенты, работающие на устройстве, использующие модель LFM2.5-24B-A2B.
позавчера