Эмпирические утверждения о безопасности от ведущих лабораторий должны быть воспроизведены, проверены и сделаны открытыми

Статья утверждает, что исследования по безопасности от ведущих лабораторий ИИ, таких как Anthropic и OpenAI, должны быть независимо воспроизведены, проверены и сделаны открытыми, чтобы обеспечить надежность и прозрачность. Она подчеркивает опасения, что текущие исследования часто эмпирические, закрытые и не содержат подробных методологий, что затрудняет проверку заявлений о прогрессе в согласовании. Авторы предлагают посвятить отдельные усилия воспроизведению экспериментов, тестированию их устойчивости и открытому распространению результатов для внешней проверки и дальнейших исследований.