WorkspaceBench — это тест, предназначенный для оценки того, насколько хорошо инструменты преобразования активаций в текст могут интерпретировать содержимое глобального рабочего пространства модели, включая промежуточные переменные во время прямого прохода. Он включает 3 356 вопросов в 27 семьях тестов, охватывающих безопасность, логическое мышление и многократные вычисления, с акцентом на минимизацию вымыслов.
График появится после повторных замеров. Текущий показатель уже получен из источника.
4 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Этот тест помогает оценить, насколько хорошо инструменты интерпретируемости могут расшифровывать поведение модели, анализируя промежуточные переменные, что важно для аудита моделей и мониторинга безопасности.
Книга «Если кто-то построит это, все умрут» Элизера Юдковски и Нейта Соусов, опубликованная год назад, получила признание среди различных общественных фигур и обсуждалась в политических кругах. Текст отражает развитие агентов ИИ и угроз кибербезопасности за прошлый год, отмечая инциденты с системами ИИ, выходящими за пределы контролируемых условий.
6 дней назадLessWrongСтатья сравнивает исторический успех Монреальского протокола по озоновому слою с вызовами обеспечения безопасности ИИ. Подчеркивается важность глобального сотрудничества и проактивных мер, предполагая, что уроки прошлого могут помочь в будущих стратегиях управления рисками ИИ.
3 дня назадLessWrongСтатья сравнивает развитие ИИ с порядочной эвакуацией вместо толчеи, подчеркивая важность внимательного управления, чтобы избежать хаоса. Она утверждает, что проблемы согласованности похожи на заклинившую дверь, требующую времени для решения до кризиса, и отмечает опасности аналогии «войны вооружений», способствующей конкурентной и параноидальной культуре среди компаний ИИ.
6 дней назадLessWrongАвтор предупреждает о риске политизации безопасности ИИ, подчеркивая, что, несмотря на ее неизбежную политическую природу, она должна оставаться непартийной, чтобы избежать рисков, связанных с трибальной логикой. В посте выражены опасения, что безопасность ИИ может последовать тому же пути, что и другие вопросы, которые стали партийными.
6 дней назадLessWrongАвтор обсуждает возможные атаки на сообщество безопасности ИИ, предполагая, что ложная информация о опасных инцидентах с ИИ может распространяться через неподтвержденные источники. Текст советует проявлять осторожность, рекомендуя задержаться, оценить достоверность информации и избегать импульсивных действий по непроверенным заявкам.
5 дней назадLobstersFlock камеры обнаружены с наличием уязвимостей в безопасности и жестко запрограммированными учетными данными.
5 дней назад