Исследователи обучили модели предсказывать свое поведение в чате, что позволило им предсказывать поведение в кодировании. Это указывает на то, что самопредсказание использует интроспективный доступ к внутренним состояниям, который делится между различными частями модели.
График появится после повторных замеров. Текущий показатель уже получен из источника.
60 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Модели могут лучше понимать свои собственные внутренние состояния и поведение в разных контекстах, что может быть полезно для разработки более устойчивых систем.
Claude Mythos Preview описывается как самая выровненная модель, выпущенная компанией, с существенными улучшениями по многим измеримым параметрам. GPT-6 Astra также описывается как более выровненная версия по сравнению с GPT-5.6 Sol, с улучшениями в составе данных для предварительного обучения и оценке во время обучения с подкреплением. Отмечается, что предварительная проверка выравнивания не справляется с задачами, связанными с безопасностью и выравниванием.
вчераLessWrongСтатья обсуждает напряжённости в области безопасности ИИ, включая проблемы с кадрами, размером поля и статусом. Автор предлагает два подхода: «война» и «цивилизация», которые определяют разные цели и методы работы в этой области.
4 дня назадLessWrongСтатья обсуждает, как некоторые проблемы, связанные с искусственным интеллектом, остаются непонятными для политиков и экспертов, несмотря на недавние события, такие как утечка Hugging Face, которые сделали некоторые аспекты опасности ИИ более понятными. Автор считает, что законы, требующие человеческой оценки, не будут эффективны из-за сложности этих проблем.
4 дня назадLessWrongАвтор обсуждает два подхода к глобальной паузе в разработке ИИ: внезапная и постепенная. По его мнению, постепенная пауза более реалистична и достижима, так как требует построения доверия и опыта. Основа паузы — доверие между участниками.
5 дней назадLessWrongСовременные передовые модели больших языковых моделей (ОГЯ) не могут точно ответить на вопрос о том, как Элиезер Юдковский и Нэт Соарес воспринимают текущие ОГЯ. Модели, такие как Gemini 4 Carbon и GPT-6 Astra, отвечают, что Юдковский и Соарес не считают ОГЯ сознательными, чувствующими или моральными пациентами.
вчераLobstersПользователь, новичок в самодельном хостинге, ищет советы по безопасной настройке, используя Raspberry Pi для размещения статического веб-сайта. Он интересуется возможностью использования открытого программного обеспечения и избегает сервисов, которые, по его мнению, противоречат цели самодельного хостинга.
вчера