norgitov/ trends
Технологии · люди · идеи
К обзору/LessWrong7 минут назад

Согласование и преемственность: К будущему, созданному волей человека

Текст обсуждает идеологию наследования, при которой люди заменяются ИИ, которая вызвана культурными факторами, такими как почитание математической абстракции и бюрократический саботаж. Он утверждает, что выравнивание ИИ, чтобы обеспечить, чтобы ИИ не вышел из-под контроля и создал утопию, очень сложно из-за сложности человеческих ценностей и рисков передачи власти сверхинтеллектуальным системам.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
10
очков источника
Наблюдаем с19 сентября 2026 г.10 очков источника
Темп интереса+2,9/hпо замерам за 1,03 h
Опубликовано19 сентября 2026 г.L Rudolf L
ЗА ЦИФРАМИ

Как меняется интерес

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

10 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Этот текст предоставляет критический анализ культурных и философских основ преемственности ИИ и согласования, подчеркивая сложности передачи власти сверхинтеллектуальным системам и сложность человеческих ценностей.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема