Анализ процесса принятия решения в модели нейросетевой классификации методом локальных линейных аппроксимаций

Abstract

Одним из существенных ограничений нейросетевых моделей для классификации является тот факт, что процесс принятия решений в обученной нейронной сети очень сложно поддаётся анализу, из-за чего невозможно оценить смысловую корректность результатов и сформировать на их основе новые экспертные знания. Для решения этой проблемы предлагается использовать метод локальных линейных аппроксимаций обученной модели, позволяющий оценить влияние отдельных признаков одного экземпляра данных на полученный результат в понятной форме.