Что (и не что) дает избегание архитектур с высокой степенью скрытой последовательности?

В посте рассматриваются последствия избегания архитектур с высокой степенью скрытой последовательности, метрики для измерения скрытой последовательной когнитивной деятельности моделей. Хотя низкая степень скрытой последовательности помогает в контроле над моделями, она не гарантирует прозрачности, так как некоторые вредные действия не требуют глубокого скрытого мышления, и модели могут все еще использовать непонятные способы рассуждения. Современные методы обучения могут привести к созданию «запутанных» процессов рассуждений, которые сложно понять людям.