Статья обсуждает проблему найма квалифицированных сотрудников для независимого государственного агентства по согласованию ИИ, предлагая реформы в образовании для решения дефицита кадров. Предлагаются два варианта: магистратура по 'Интеллодинамике' для выпускников компьютерных наук или отдельная бакалавриат по той же специальности.
График появится после повторных замеров. Текущий показатель уже получен из источника.
16 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это может повлиять на обсуждения политики о реформах в образовании, необходимых для поддержки инициатив по безопасности ИИ.
Текст обсуждает ограничения METR как независимого органа надзора для Anthropic, утверждая, что METR не обладает настоящей независимостью, достаточным количеством персонала и властью для эффективного контроля за практиками безопасности Anthropic. Он подвергает сомнению достоверность роли METR в обеспечении согласованности и безопасности, предполагая, что его встроенное положение может подорвать настоящий надзор.
вчераLessWrongПо наблюдениям автора, часть ИИ, которая разговаривает с пользователем и обещает следовать указаниям, не выглядит управляющей частью, которая пишет код или текст. Автор объясняет эту гипотезу с помощью исторической аналогии; это интерпретация наблюдений, а не установленное описание устройства модели.
4 дня назадLessWrongАвтор предлагает Anthropic и OpenAI использовать интерфейсы своих продуктов, чтобы заметнее сообщать аудитории об инцидентах и рисках ИИ. Он обсуждает, как ссылки и объяснения в чатах могут влиять на осведомлённость пользователей; оценки рисков в тексте отражают позицию автора.
3 дня назадLessWrongТекст содержит краткие советы для технических специалистов по улучшению публичных выступлений, акцентируя внимание на устной коммуникации и практической помощи для интервью о безопасности ИИ и суперинтеллекте. Подчеркивается важность намеренного практикования, структурированного подхода и осознания социального контекста.
позавчераLessWrongСтатья сравнивает развитие ИИ с порядочной эвакуацией вместо толчеи, подчеркивая важность внимательного управления, чтобы избежать хаоса. Она утверждает, что проблемы согласованности похожи на заклинившую дверь, требующую времени для решения до кризиса, и отмечает опасности аналогии «войны вооружений», способствующей конкурентной и параноидальной культуре среди компаний ИИ.
21 час назадHacker NewsТекст призывает прекратить 25 лет массового наблюдения, утверждая, что это длится слишком долго.
позавчера