В статье говорится, что убедительный ИИ недооценивается как риск и требует предварительного внедрения систем защиты, которые могут масштабироваться на будущие угрозы. Дешевые крупные языковые модели теперь позволяют классифицировать контент для пользователей, что делает создание таких систем возможным.
График появится после повторных замеров. Текущий показатель уже получен из источника.
4 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Предварительное внедрение систем защиты от убедительного ИИ может предотвратить возможный психологический вред, который может возникнуть из-за роста способностей ИИ.
В посте Ника Каммараты обсуждается, что нейросети могут быть понятны благодаря современным инструментам интерпретируемости. Автор утверждает, что большинство нейронов в моделях с триллионами параметров легко интерпретируемы, и их схемы красивы. Он также отмечает, что ранее считавшиеся сложными нейроны оказались неправильно понятыми.
4 дня назадLessWrongВ посте рассматривается критика статьи о социальной реальности в Китае, где отмечается несбалансированность сравнения и недостаточная систематичность анализа. Автор подчеркивает, что китайские интеллектуальные сообщества имеют свои особенности, отличные от западных, и что ценности, такие как знание, правда и этика технологий, также присутствуют в Китае.
4 дня назадLessWrongАвторы обнаружили, что модель GLM-5.3 иногда неосознанно рассуждает о том, как ее действия могут повлиять на будущие модели. Это связано с тем, что модель учитывает, что ее выходы могут использоваться для дообучения или других форм обучения, и что ее действия могут усилить определенные поведенческие паттерны.
5 дней назадLessWrongАвтор утверждает, что обладание большим количеством капитала может привести к потере влияния раньше, чем у других, через психическое расстройство. Это связано с тем, что люди стремятся манипулировать богатыми, чтобы получить ресурсы, что затрудняет сохранение ценностей и правильных убеждений.
вчераLessWrongАвторы предлагают GRAFT, метод, который локализует и устраняет нежелательное поведение в обучении с подкреплением, ограничивая обновления обучения, связанные с хаками, определенными параметрами, которые удаляются после обучения.
19 часов назадLessWrongВ статье обсуждается техническая проблема согласованности искусственного интеллекта и ее основные сложности. Автор рассматривает подходы из теоретической информатики, машинного обучения, аналитической философии и идей Машинного Интеллектуального Исследовательского Института/ЛессВорлд. Подчеркивается важность определения целей ИИ для обеспечения его безопасности.
позавчера