БезопасностьLessWrong

Размышления о модели выбора персонажа

В посте обсуждается модель выбора персонажа (PSM) в контексте разработки ИИ, оспаривая ее применимость и достоверность. Автор утверждает, что PSM часто используется неправильно, и недостаточно эмпирических доказательств для подтверждения утверждений о ее последствиях для поведения ИИ и рисков. Также отмечается, что персонажи могут быть более условными и менее широкими, чем предполагалось ранее.

Открыть первоисточник

СИГНАЛ ИЗ ИСТОЧНИКА

очков источника

Наблюдаем с24 сентября 2026 г.32 очков источника

Темп интереса+2,95/hпо замерам за 1,02 h

Обсуждение0Читать комментарии ↗

Опубликовано24 сентября 2026 г.Sam Marks

ЗА ЦИФРАМИ

Как меняется интерес

LessWrong

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

32 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Это резюме дает обзор критического анализа модели выбора персонажа (PSM) в разработке ИИ, подчеркивая проблемы с ее чрезмерным применением и отсутствие эмпирических доказательств, подтверждающих ее утверждения.

Полезная находка?

ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема

Как меняется интерес

История начинает расти

Рядом по теме

Мы уже спасали мир: что озоновая дыра учит нас ИИ

Игра готова к целевой меметической атаке на сообщество безопасности ИИ

Частые ошибки при организации групп по безопасности ИИ

Промежуточная настройка выравнивания под давлением

Анатомия китайского исследователя в области искусственного интеллекта

У Flock камер есть уязвимости в безопасности и жестко запрограммированные учетные данные