Эффективное встроенное ансамблирование нейронных сетей

Abstract

Глубокие нейронные сети с большим количеством параметров являются очень мощным семейством алгоритмов машинного обучения. Тем не менее переобучение является серьезной проблемой для таких сетей. Одним из методов борьбы с проблемой переобучения является техника ансамблирования, однако она требует больше количество ресурсов, в том числе и временных. В данном исследовании изучался способ использования техники ансамблирования внутри нейронной сети путем исключения части нейронов из нейросети во время стадии обучения.