Визуальный обзор эмпирических нейронных ядер касательной

Статья представляет метод эмпирического нейронного ядра касательной (eNTK) для механистического интерпретирования нейронных сетей, фокусируясь на выявлении интерпретируемых признаков через обновления модели, а не через кластеризацию активаций. Описывается, как eNTK вычисляет признаки, анализируя, как обновления модели на одном примере влияют на поведение на других, получая в результате взвешенный список пар вход-выход, влияющих на направление модели в пространстве весов.