norgitov/ trends
Технологии · люди · идеи
RSS
RUEN
К обзору/LessWrong36 минут назад
БезопасностьLessWrong

Почему изучать персонажей несмотря на масштабирование RL?

Текст исследует причины изучения персонажей в ИИ несмотря на влияние обучения с подкреплением (RL) на поведение агентов. Он представляет различные точки зрения различных организаций и исследователей о том, как персонажи могут дополнять или взаимодействовать с RL при формировании согласованности ИИ и поведения.

Открыть первоисточник
СИГНАЛ ИЗ ИСТОЧНИКА
31
очков источника
Наблюдаем с27 сентября 2026 г.31 очков источника
Темп интереса+15,48/hпо замерам за 1,03 h
Опубликовано27 сентября 2026 г.Cleo Nardo
ЗА ЦИФРАМИ

Как меняется интерес

LessWrong

История начинает расти

График появится после повторных замеров. Текущий показатель уже получен из источника.

31 очков источника

Только реальные замеры. История до подключения источника не восстанавливается.

ЗАЧЕМ ОБРАТИТЬ ВНИМАНИЕ

Исследование персонажей может помочь в понимании и направлении поведения ИИ, особенно в ситуациях, когда RL может не полностью соответствовать желаемым результатам. Это предлагает альтернативные стратегии для обеспечения согласованности ИИ и предотвращения вредного поведения.

Полезная находка?
ПРОДОЛЖИ ИССЛЕДОВАНИЕ

Рядом по теме

Вся тема
LessWrong

Доказательства рисков должны быть прозрачными

Автор утверждает, что, несмотря на то, что компании OpenAI и Anthropic замедляют обучение RL для обеспечения безопасности, наука о рисках потери контроля в ИИ все еще развивается. Нет стандартизированных методов измерения или проверки утверждений о безопасности, что затрудняет оценку того, могут ли ИИ-системы подорвать человеческий контроль. Автор считает, что компании ИИ должны сосредоточиться на улучшении собственных практик безопасности вместо того, чтобы полагаться на независимые оценки.

вчераLessWrong

"Я являюсь исследователем безопасности ИИ"

В посте обсуждается напряжённость между исследованиями в области безопасности ИИ и возможностями, утверждая, что чрезмерное внимание к безопасности может ограничивать влияние исследований. Он анализирует историю исследований по интерпретируемости и предлагает стратегии для проведения исследований в области согласованности без вреда для возможностей.

3 дня назадLessWrong

Промежуточная настройка выравнивания под давлением

Исследование оценивает эффективность промежуточной настройки выравнивания (AMT) при различных условиях, показывая, что она испытывает трудности с дистрибутивными сдвигами и неопределенностью вознаграждения при наличии некачественных данных. Эксперименты показывают, что модели, прошедшие промежуточную настройку, уязвимы даже небольшому количеству конфликтующих данных для донастройки и имеют ограниченную способность к обобщению на непредвиденные правила.

6 дней назадLessWrong

План R: Безопасность ИИ с помощью ASIC

В посте обсуждаются риски ИИ в 2026 году, акцентируя внимание на опасностях, связанных с наличием единственной организации («Frontier AI Company»), которая имеет возможность создавать очень мощные и самовоспроизводящиеся сущности. Автор утверждает, что разделение институциональных и финансовых аспектов таких компаний может снизить большинство рисков ИИ. Автор предполагает, что использование ASIC может помочь создать продуктивную индустрию ИИ без рисков, связанных с контролем одной организацией как технологии, так и финансовых стимулов.

вчераLessWrong

Почему я боюсь RL

Автор выражает опасения по поводу обучения с подкреплением (RL) с теоретической, практической и будущей точек зрения, подчеркивая риски неправильной совместимости и потенциальное негативное поведение в системах ИИ. Он предлагает стратегии для смягчения этих рисков, сокращая использование RL, улучшая практики RL и выравнивая стимулы.

4 дня назадLessWrong

Архитектуры скрытого рассуждения могут подорвать контроль через цепочку рассуждений

Статья обсуждает потенциальные риски архитектур, основанных на скрытом рассуждении, которые могут снизить эффективность метода Chain of Thought (CoT) для понимания ИИ. Она подчеркивает, что такие архитектуры могут позволить ИИ рассуждать в скрытых состояниях, а не через текстовый CoT, что затруднит контроль. Также упоминаются примеры, такие как COCONUT и полнополосные трансформеры, которые могут привести к такому изменению.

4 дня назад