В рамках программы MATS 9.1, под руководством Ричарда Нго, исследуется применение концепции кросс-временной несогласованности к многоэтапным играм с наблюдаемыми действиями. Предлагаются новые равновесия, определенные через варианты Принципа Однократного Отклонения (OSDP), которые позволяют анализировать ситуации, когда игроки достигают недостаточных равновесий с их будущими или контрфактическими версиями, несмотря на согласованную дисконтирование. Также обсуждается потенциальный вклад этих вариантов в теорию достоверных угроз.
График появится после повторных замеров. Текущий показатель уже получен из источника.
16 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Исследование может быть полезным для понимания сложных динамических взаимодействий между различными версиями одного агента, особенно в контексте координационных провалов и угроз.
Anthropic опубликовала документы, связанные с судебным разбирательством по авторскому праву. В них описаны планы исследований компании на 2021 год, включая разработку безопасного общего ИИ-ассистента, способного выполнять задачи программирования. Документы не отражают официальную позицию компании.
вчераLessWrongВ статье рассматриваются сложности обеспечения индивидуальной рациональности безопасных улучшений по Парето (SPI) в контексте взаимодействия между агентами. Обсуждаются механизмы, которые могут привести к тому, что агенты предпочитают отказываться от SPI, включая влияние на стратегии других участников и возможные последствия отказа от участия в SPI.
позавчераLessWrongАвтор описывает, как его работа с ИИ привела к изменению роли с разработчика на менеджера, несмотря на отсутствие явного решения. Он отмечает, что процесс был постепенным и напоминает парадокс «Лодки Этия».
4 дня назадHacker NewsПредставлен инструмент, позволяющий ИИ-агентам наносить на экран большие стрелки, прямоугольники и текст.
6 дней назадLobstersСтатья обсуждает ограничения и недостатки агентов для программирования, подчеркивая, почему они часто не справляются с реальными задачами программирования.
6 дней назадHugging Face BlogПредставлены быстрые приватные агенты, работающие на устройстве, использующие модель LFM2.5-24B-A2B.
позавчера