Экспериментальная оценка метода Adversarial Training на задаче бинарной классификации

Abstract

Быстрое распространение систем, основанных на машинном обучении (ML), обострило проблему их безопасности и устойчивости к целенаправленным атакам. Это поставило под угрозу достоверность обработки информации. В частности, атаки обхода (evasion attacks) с использованием состязательных примеров (adversarial examples) представляют серьезную угрозу для систем классификации данных, включая их способность корректно интерпретировать входные данные. В настоящей работе рассматривается и оценивается метод Adversarial Training (Состязательное обучение) как ключевая стратегия обеспечения надежности и достоверности классификационных моделей. В качестве механизма генерации состязательных примеров использован итерационный метод Projected Gradient Descent (PGD). Целью работы является разработка и экспериментальная оценка метода повышения устойчивости классификаторов к атакам обхода для обеспечения защиты систем обработки данных.