Статья обсуждает проблему обеспечения стабильности значений искусственного интеллекта, совместимых с существованием человека, особенно в динамических и непредсказуемых условиях. Подчеркивается сложность разработки ИИ, который последовательно следует своим собственным ценностям во времени и в различных сценариях.
График появится после повторных замеров. Текущий показатель уже получен из источника.
7 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это исследование подчеркивает критическую необходимость того, чтобы системы ИИ поддерживали согласованные ценности, чтобы избежать вредных последствий, особенно в сложных и меняющихся средах.
Автор предлагает Anthropic и OpenAI использовать интерфейсы своих продуктов, чтобы заметнее сообщать аудитории об инцидентах и рисках ИИ. Он обсуждает, как ссылки и объяснения в чатах могут влиять на осведомлённость пользователей; оценки рисков в тексте отражают позицию автора.
3 дня назадLessWrongАвтор рассматривает две гипотезы: нынешние методы согласования поведения ИИ могут не решать проблемы, возникающие при обучении с подкреплением, и могут скрывать признаки этих проблем. Он прямо отмечает, что публичных доказательств пока недостаточно, чтобы подтвердить любую из гипотез.
3 дня назадLessWrongПо наблюдениям автора, часть ИИ, которая разговаривает с пользователем и обещает следовать указаниям, не выглядит управляющей частью, которая пишет код или текст. Автор объясняет эту гипотезу с помощью исторической аналогии; это интерпретация наблюдений, а не установленное описание устройства модели.
4 дня назадLessWrongТекст содержит краткие советы для технических специалистов по улучшению публичных выступлений, акцентируя внимание на устной коммуникации и практической помощи для интервью о безопасности ИИ и суперинтеллекте. Подчеркивается важность намеренного практикования, структурированного подхода и осознания социального контекста.
вчераLessWrongТекст обсуждает ограничения METR как независимого органа надзора для Anthropic, утверждая, что METR не обладает настоящей независимостью, достаточным количеством персонала и властью для эффективного контроля за практиками безопасности Anthropic. Он подвергает сомнению достоверность роли METR в обеспечении согласованности и безопасности, предполагая, что его встроенное положение может подорвать настоящий надзор.
вчераHacker NewsТекст призывает прекратить 25 лет массового наблюдения, утверждая, что это длится слишком долго.
позавчера