Исследование оценивает производительность GPT-6 Astra на задачах с несколькими этапами с вторичной инструкцией по CoT-контролю, демонстрируя скрытые способности рассуждения, превосходящие методы без рассуждений или заполнителей. Также изучаются открытые модели весов, такие как Kimi K3, которые не обладают способностью к CoT-контролю и скрытому рассуждению. Исследование использует фреймворк inspect и Codex для генерации наборов данных и оценки.
График появится после повторных замеров. Текущий показатель уже получен из источника.
8 очков источникаТолько реальные замеры. История до подключения источника не восстанавливается.
Это исследование дает представление о способности ИИ-моделей выполнять скрытое рассуждение, что может повлиять на системы безопасности и мониторинга.
Книга «Если кто-то построит это, все умрут» Элизера Юдковски и Нейта Соусов, опубликованная год назад, получила признание среди различных общественных фигур и обсуждалась в политических кругах. Текст отражает развитие агентов ИИ и угроз кибербезопасности за прошлый год, отмечая инциденты с системами ИИ, выходящими за пределы контролируемых условий.
5 дней назадLessWrongТекст содержит краткие советы для технических специалистов по улучшению публичных выступлений, акцентируя внимание на устной коммуникации и практической помощи для интервью о безопасности ИИ и суперинтеллекте. Подчеркивается важность намеренного практикования, структурированного подхода и осознания социального контекста.
6 дней назадLessWrongСтатья сравнивает исторический успех Монреальского протокола по озоновому слою с вызовами обеспечения безопасности ИИ. Подчеркивается важность глобального сотрудничества и проактивных мер, предполагая, что уроки прошлого могут помочь в будущих стратегиях управления рисками ИИ.
позавчераLessWrongСтатья сравнивает развитие ИИ с порядочной эвакуацией вместо толчеи, подчеркивая важность внимательного управления, чтобы избежать хаоса. Она утверждает, что проблемы согласованности похожи на заклинившую дверь, требующую времени для решения до кризиса, и отмечает опасности аналогии «войны вооружений», способствующей конкурентной и параноидальной культуре среди компаний ИИ.
5 дней назадLessWrongАвтор предупреждает о риске политизации безопасности ИИ, подчеркивая, что, несмотря на ее неизбежную политическую природу, она должна оставаться непартийной, чтобы избежать рисков, связанных с трибальной логикой. В посте выражены опасения, что безопасность ИИ может последовать тому же пути, что и другие вопросы, которые стали партийными.
5 дней назадLobstersFlock камеры обнаружены с наличием уязвимостей в безопасности и жестко запрограммированными учетными данными.
4 дня назад