Исследование модели машинного обучения на основе архитектуры сверточной нейронной сети методами объяснимости

Методами объяснимости проведено исследование модели машинного обучения на основе архитектуры сверточной нейронной сети. В качестве методов использовались карты активации классов, которые рассчитывались посредством применения алгоритмов на основе прямого и обратного распространения тензоров изображения через составные части сети. Также осуществлен анализ избыточности карт активаций классов и статистический анализ весов сети при прохождении изображений. Цель работы – повысить объяснимость внутренних процессов функционирования сверточной нейронной сети на базе модели ResNet50. Результатом исследования являются закономерности, следствия отражающие механизмы работы сверточной нейронной сети при решении задачи классификации изображений.

Авторы: И. А. Уткин, Д. С. Нагорный

Направление: Информатика, вычислительная техника и управление

Ключевые слова: объяснимость, сверточная нейронная сеть, карты активации классов, метод главных компонент, методы статистического анализ, плотность распределения

---

Открыть полный текст статьи