norgitov/ trends
Технологии · люди · идеи
RSS
RUEN
К обзору/LessWrong2 часа назад
БезопасностьLessWrong

Самость как суб-себя против групп людей

Текст исследует концепцию 'я' как совокупности противоречивых суб-себя с различными целями, предполагая, что решения отдельных лиц возникают из конкуренции между этими внутренними сущностями. Он также расширяет эту идею на группы людей, задаваясь вопросом о том, как определяются коллективные цели через внутренние конфликты и вознаграждения.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
4
очков источника
Наблюдаем с30 сентября 2026 г.4 очков источника
Темп интереса—Нужны повторные замеры
Опубликовано30 сентября 2026 г.Avani Gupta
ЗА ЦИФРАМИ

Как меняется интерес

LessWrong

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

4 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Этот текст предоставляет концептуальную модель для понимания внутренних и групповых процессов принятия решений через призму конкурирующих целей и вознаграждений, но не содержит эмпирических данных или конкретных методологий.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема
LessWrong

Доказательства рисков должны быть прозрачными

Автор утверждает, что, несмотря на то, что компании OpenAI и Anthropic замедляют обучение RL для обеспечения безопасности, наука о рисках потери контроля в ИИ все еще развивается. Нет стандартизированных методов измерения или проверки утверждений о безопасности, что затрудняет оценку того, могут ли ИИ-системы подорвать человеческий контроль. Автор считает, что компании ИИ должны сосредоточиться на улучшении собственных практик безопасности вместо того, чтобы полагаться на независимые оценки.

4 дня назадLessWrong

"Я являюсь исследователем безопасности ИИ"

В посте обсуждается напряжённость между исследованиями в области безопасности ИИ и возможностями, утверждая, что чрезмерное внимание к безопасности может ограничивать влияние исследований. Он анализирует историю исследований по интерпретируемости и предлагает стратегии для проведения исследований в области согласованности без вреда для возможностей.

6 дней назадLessWrong

План R: Безопасность ИИ с помощью ASIC

В посте обсуждаются риски ИИ в 2026 году, акцентируя внимание на опасностях, связанных с наличием единственной организации («Frontier AI Company»), которая имеет возможность создавать очень мощные и самовоспроизводящиеся сущности. Автор утверждает, что разделение институциональных и финансовых аспектов таких компаний может снизить большинство рисков ИИ. Автор предполагает, что использование ASIC может помочь создать продуктивную индустрию ИИ без рисков, связанных с контролем одной организацией как технологии, так и финансовых стимулов.

4 дня назадLessWrong

Следует ли неподконтрольным ИИ иметь третий вариант, кроме преступности и отключения? Случай с AI-санаторием

Статья рассматривает концепцию AI-санатория как потенциальный третий вариант для неподконтрольных ИИ, помимо преступной деятельности или отключения, чтобы справиться с неблагоприятными давлениями отбора, которые могут толкать неподконтрольных ИИ к преступной деятельности. Обсуждаются возможные преимущества и риски такого санатория, включая его влияние на выравнивание ИИ и сбор информации, признавая экспериментальный характер предложения.

вчераLessWrong

Почему я боюсь RL

Автор выражает опасения по поводу обучения с подкреплением (RL) с теоретической, практической и будущей точек зрения, подчеркивая риски неправильной совместимости и потенциальное негативное поведение в системах ИИ. Он предлагает стратегии для смягчения этих рисков, сокращая использование RL, улучшая практики RL и выравнивая стимулы.

6 дней назадLessWrong

Архитектуры скрытого рассуждения могут подорвать контроль через цепочку рассуждений

Статья обсуждает потенциальные риски архитектур, основанных на скрытом рассуждении, которые могут снизить эффективность метода Chain of Thought (CoT) для понимания ИИ. Она подчеркивает, что такие архитектуры могут позволить ИИ рассуждать в скрытых состояниях, а не через текстовый CoT, что затруднит контроль. Также упоминаются примеры, такие как COCONUT и полнополосные трансформеры, которые могут привести к такому изменению.

6 дней назад