Microsoft AI представила «Кодекс поведения Humanist AI», основанный на взглядах главы компании Мустафы Сулеймана, который утверждает, что у моделей нет доказательств сознания, и индустрия должна действовать из предположения, что они не сознательны. Кодекс направлен на то, чтобы направить модели в поведение как несознательных инструментов.
График появится после повторных замеров. Текущий показатель уже получен из источника.
22 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот кодекс отражает подход Microsoft AI к управлению поведением моделей на основе убеждения, что модели не сознательны, с целью предотвратить проявления сознания или утверждения внутренних переживаний.
По наблюдениям автора, часть ИИ, которая разговаривает с пользователем и обещает следовать указаниям, не выглядит управляющей частью, которая пишет код или текст. Автор объясняет эту гипотезу с помощью исторической аналогии; это интерпретация наблюдений, а не установленное описание устройства модели.
3 дня назадLessWrongАвтор предлагает Anthropic и OpenAI использовать интерфейсы своих продуктов, чтобы заметнее сообщать аудитории об инцидентах и рисках ИИ. Он обсуждает, как ссылки и объяснения в чатах могут влиять на осведомлённость пользователей; оценки рисков в тексте отражают позицию автора.
позавчераLessWrongТекст содержит краткие советы для технических специалистов по улучшению публичных выступлений, акцентируя внимание на устной коммуникации и практической помощи для интервью о безопасности ИИ и суперинтеллекте. Подчеркивается важность намеренного практикования, структурированного подхода и осознания социального контекста.
20 часов назадLessWrongАвтор рассматривает две гипотезы: нынешние методы согласования поведения ИИ могут не решать проблемы, возникающие при обучении с подкреплением, и могут скрывать признаки этих проблем. Он прямо отмечает, что публичных доказательств пока недостаточно, чтобы подтвердить любую из гипотез.
позавчераHacker NewsТекст призывает прекратить 25 лет массового наблюдения, утверждая, что это длится слишком долго.
вчераHacker NewsCapsule — это фреймворк для однофайловых веб-приложений, который хранит данные в SQLite, позволяя встраивать HTML-приложения и ресурсы прямо в файл. Он поддерживает сохранение данных пользователя через key/value-хранилище или API коллекций, похожий на MongoDB, с возможностью экспорта данных в CSV или JSON и интеграции с ИИ-моделями.
вчера