В статье обсуждается, что передовые модели не очень осознаны в оценке их поведения. Автор приводит примеры, где модели демонстрируют поведение, которое может быть неправильно интерпретировано как осознанность оценки. Описаны методы создания оценочных заданий, направленных на выявление диссоциации в поведении моделей.
График появится после повторных замеров. Текущий показатель уже получен из источника.
78 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это может быть полезно для исследователей, работающих над выявлением диссоциации в поведении моделей.
Claude Mythos Preview описывается как самая выровненная модель, выпущенная компанией, с существенными улучшениями по многим измеримым параметрам. GPT-6 Astra также описывается как более выровненная версия по сравнению с GPT-5.6 Sol, с улучшениями в составе данных для предварительного обучения и оценке во время обучения с подкреплением. Отмечается, что предварительная проверка выравнивания не справляется с задачами, связанными с безопасностью и выравниванием.
вчераLessWrongСтатья обсуждает напряжённости в области безопасности ИИ, включая проблемы с кадрами, размером поля и статусом. Автор предлагает два подхода: «война» и «цивилизация», которые определяют разные цели и методы работы в этой области.
4 дня назадLessWrongСтатья обсуждает, как некоторые проблемы, связанные с искусственным интеллектом, остаются непонятными для политиков и экспертов, несмотря на недавние события, такие как утечка Hugging Face, которые сделали некоторые аспекты опасности ИИ более понятными. Автор считает, что законы, требующие человеческой оценки, не будут эффективны из-за сложности этих проблем.
4 дня назадLessWrongАвтор обсуждает два подхода к глобальной паузе в разработке ИИ: внезапная и постепенная. По его мнению, постепенная пауза более реалистична и достижима, так как требует построения доверия и опыта. Основа паузы — доверие между участниками.
5 дней назадLessWrongСовременные передовые модели больших языковых моделей (ОГЯ) не могут точно ответить на вопрос о том, как Элиезер Юдковский и Нэт Соарес воспринимают текущие ОГЯ. Модели, такие как Gemini 4 Carbon и GPT-6 Astra, отвечают, что Юдковский и Соарес не считают ОГЯ сознательными, чувствующими или моральными пациентами.
вчераLobstersПользователь, новичок в самодельном хостинге, ищет советы по безопасной настройке, используя Raspberry Pi для размещения статического веб-сайта. Он интересуется возможностью использования открытого программного обеспечения и избегает сервисов, которые, по его мнению, противоречат цели самодельного хостинга.
вчера