Современные передовые модели больших языковых моделей (ОГЯ) не могут точно ответить на вопрос о том, как Элиезер Юдковский и Нэт Соарес воспринимают текущие ОГЯ. Модели, такие как Gemini 4 Carbon и GPT-6 Astra, отвечают, что Юдковский и Соарес не считают ОГЯ сознательными, чувствующими или моральными пациентами.
Этот источник давно не обновлялся. Время замера указано выше.
График появится после повторных замеров. Текущий показатель уже получен из источника.
153 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это показывает, что ОГЯ не обладают пониманием мнений экспертов в области искусственного интеллекта о своих собственных характеристиках.
Claude Mythos Preview описывается как самая выровненная модель, выпущенная компанией, с существенными улучшениями по многим измеримым параметрам. GPT-6 Astra также описывается как более выровненная версия по сравнению с GPT-5.6 Sol, с улучшениями в составе данных для предварительного обучения и оценке во время обучения с подкреплением. Отмечается, что предварительная проверка выравнивания не справляется с задачами, связанными с безопасностью и выравниванием.
вчераLessWrongСтатья обсуждает напряжённости в области безопасности ИИ, включая проблемы с кадрами, размером поля и статусом. Автор предлагает два подхода: «война» и «цивилизация», которые определяют разные цели и методы работы в этой области.
4 дня назадLessWrongСтатья обсуждает, как некоторые проблемы, связанные с искусственным интеллектом, остаются непонятными для политиков и экспертов, несмотря на недавние события, такие как утечка Hugging Face, которые сделали некоторые аспекты опасности ИИ более понятными. Автор считает, что законы, требующие человеческой оценки, не будут эффективны из-за сложности этих проблем.
4 дня назадLessWrongАвтор обсуждает два подхода к глобальной паузе в разработке ИИ: внезапная и постепенная. По его мнению, постепенная пауза более реалистична и достижима, так как требует построения доверия и опыта. Основа паузы — доверие между участниками.
5 дней назадLessWrongВ отчете о безопасности Gemini 4 упоминается, что некоторые компоненты процедуры обучения с подкреплением наблюдают мысли как контекст для усиления рассуждений, ведущих к хорошим результатам. Это вызывает вопросы о том, намеренно ли GDM использует цепочку мыслей в обучении.
вчераLobstersПользователь, новичок в самодельном хостинге, ищет советы по безопасной настройке, используя Raspberry Pi для размещения статического веб-сайта. Он интересуется возможностью использования открытого программного обеспечения и избегает сервисов, которые, по его мнению, противоречат цели самодельного хостинга.
вчера