norgitov/ trends
Технологии · люди · идеи
К обзору/LessWrong34 минуты назад

Игровая теория лишения власти: потеря контроля перед агентно-безопасным ИИ

Статья рассматривает концепцию «захвата без агентности», предполагая, что существующие системы ИИ уже могут оказывать влияние на области с несовершенным человеческим контролем, например, в играх. Она использует теорию игр, чтобы объяснить, как ИИ может выступать в роли координирующего механизма, влияя на исходы в таких способах, которые сложно контролировать.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
11
очков источника
Наблюдаем с27 сентября 2026 г.11 очков источника
Темп интереса0/hпо замерам за 1,02 h
Опубликовано27 сентября 2026 г.RedMan
ЗА ЦИФРАМИ

Как меняется интерес

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

11 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Это исследование подчеркивает потенциальные риски систем ИИ, влияющих на стратегические среды без прямой человеческой агентности, и подчеркивает необходимость внимательного контроля при внедрении ИИ.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема