norgitov/ trends
Технологии · люди · идеи
RSS
RUEN
К обзору/LessWrong24 минуты назад
АгентыLessWrong

Когда безопасные улучшения по Парето являются индивидуально рациональными?

В статье рассматриваются сложности обеспечения индивидуальной рациональности безопасных улучшений по Парето (SPI) в контексте взаимодействия между агентами. Обсуждаются механизмы, которые могут привести к тому, что агенты предпочитают отказываться от SPI, включая влияние на стратегии других участников и возможные последствия отказа от участия в SPI.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
10
очков источника
Наблюдаем с13 октября 2026 г.10 очков источника
Темп интереса0/hпо замерам за 1,03 h
Опубликовано13 октября 2026 г.Anthony DiGiovanni
ЗА ЦИФРАМИ

Как меняется интерес

LessWrong

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

10 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Это может быть полезно для исследователей в области ИИ, изучающих стратегии взаимодействия и соглашений, так как помогает понять условия, при которых безопасные улучшения по Парето могут быть рациональными для участников.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема
LessWrong

Размышления инженера DeepSeek о автоматизации ИИ и своей собственной замене

Китайский инженер DeepSeek, intlsy, написал вирусную статью, обсуждающую быстрое развитие ИИ в автоматизации его роли инженера ядра. Статья, опубликованная в WeChat, отражает способность ИИ оптимизировать и писать ядра самостоятельно, с ожиданием того, что ИИ превзойдет человеческие способности в этой области в течение шести месяцев до года. Статья подчеркивает структурный разрыв между масштабируемостью ИИ и ограничениями человека, а также мотивацию инженера ускорить собственную замену за счет улучшения производительности ядра.

5 дней назадLessWrong

Тестирование Jev 1.13 против моделей без CoT

В статье представлено тестирование Jev 1.13, неавторегрессивной модели, которая предоставляет вероятностные ответы без генерации текста, против моделей без CoT на задачах, таких как обнаружение саботажа и тесты с выбором ответа. Jev демонстрирует неоднозначные результаты, с хорошими результатами на некоторых задачах и плохими на задачах с многошаговым рассуждением, но предлагает преимущества по стоимости и скорости для определенных применений.

5 дней назадLessWrong

TasteVal: Измерение экспериментального вкуса ИИ-систем по сравнению с экспертами

TasteVal — это тест, измеряющий экспериментальный вкус ИИ-моделей в задачах ИИ-исследований, фокусирующийся на их способности проектировать эксперименты и делать выводы из результатов. Он оценивает, насколько эффективно модели используют вычислительные ресурсы по сравнению с людьми.

6 дней назадLessWrong

SS27 Color Stats: Сдвиг к темным и более нейтральным оттенкам в весенне-летней моде

Отчет SS27 Color Stats анализирует частоту цветов в коллекциях весна/лето, отмечая сдвиг в сторону темных, более нейтральных тонов по сравнению с предыдущими годами. Черный цвет, ранее редко встречающийся в топ-30, теперь занимает четвертое место, а ненейтральные цвета, такие как красный, утратили популярность. Анализ проводится с помощью автоматического подсчета цветов через GPT-4o, избегая ручного подсчета.

5 дней назадHacker News

Показать HN: Пусть ваши ИИ-агенты рисуют большие стрелки, прямоугольники и текст на экране

Представлен инструмент, позволяющий ИИ-агентам наносить на экран большие стрелки, прямоугольники и текст.

4 дня назадLobsters

Почему агенты для программирования так глупы?

Статья обсуждает ограничения и недостатки агентов для программирования, подчеркивая, почему они часто не справляются с реальными задачами программирования.

3 дня назад