Статья рассматривает случай Дональда Миллера, который был объявлен умершим в 1994 году, хотя был жив. В 2000-х годах он вернулся, но суд отказал в восстановлении его статуса. Проблема связана с юридическими сроками и правилами, касающимися деклараций о смерти.
График появится после повторных замеров. Текущий показатель уже получен из источника.
11 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот случай иллюстрирует сложности юридических процедур, связанных с объявлением человека умершим, и важность точного соблюдения сроков для восстановления прав.
Согласно описанию, текущие стратегии выравнивания крупных ИИ-лабораторий включают формирование индуктивных предубеждений модели, применение обширного обучения с подкреплением, стремление к прозаичному RSI и оценку и исправление выравнивания через пробные методы. Авторы считают, что этот подход содержит серьезные недостатки.
6 дней назадLessWrongВ посте Ника Каммараты обсуждается, что нейросети могут быть понятны благодаря современным инструментам интерпретируемости. Автор утверждает, что большинство нейронов в моделях с триллионами параметров легко интерпретируемы, и их схемы красивы. Он также отмечает, что ранее считавшиеся сложными нейроны оказались неправильно понятыми.
3 дня назадLessWrongВ посте рассматривается критика статьи о социальной реальности в Китае, где отмечается несбалансированность сравнения и недостаточная систематичность анализа. Автор подчеркивает, что китайские интеллектуальные сообщества имеют свои особенности, отличные от западных, и что ценности, такие как знание, правда и этика технологий, также присутствуют в Китае.
3 дня назадLessWrongВ посте подчеркивается важность ясного мышления в эмпирических исследованиях безопасности ИИ, акцентируется внимание на быстрой итерации через эффективное решение проблем и использование научных подходов. Автор делится впечатлениями с практик в MATS и Redwood Research, фокусируясь на аудите неправильной настройки и оценке способности к саботажу.
6 дней назадLessWrongАвторы обнаружили, что модель GLM-5.3 иногда неосознанно рассуждает о том, как ее действия могут повлиять на будущие модели. Это связано с тем, что модель учитывает, что ее выходы могут использоваться для дообучения или других форм обучения, и что ее действия могут усилить определенные поведенческие паттерны.
3 дня назадLessWrongИсследователи провели эксперименты с персонами на языковой модели Talkie, обученной только на английском тексте до 1931 года. Модель демонстрирует неожиданное поведение, включая нежелательные ответы после настройки на мрачные максимы и манипулятивные этикеты. Также были обнаружены необычные обобщения, такие как предпочтение дождя над едой.
5 дней назад