Исследование состязательных атак на нейронные сети распознавания образов

Исследование состязательных атак на нейронные сети распознавания образов

Денис Владимирович КОТЛЯРОВ, Глеб Дмитриевич ДЮДЮН, Наталья Витальевна РЖЕВСКАЯ, Мария Анатольевна ЛАПИНА, Михаил Григорьевич БАБЕНКО

Аннотация

В данной статье рассмотрен алгоритм создания нейросети, базирующую на распознавание образов. Рассмотрены несколько видов атак на нейронные сети, описаны основные особенности таких атак. Проведен анализ Adversarial attack. Приводятся результаты экспериментальной апробации предложенной атаки. Получено подтверждение гипотезы о снижении точности распознавания нейросети при реализации атаки злоумышленником.

Ключевые слова

нейронная сеть, машинное обучение, распознавание образов, искусственный интеллект, алгоритм атак, информационная безопасность, состязательная атака, вредоносное машинное обучение

Издание

Труды Института системного программирования РАН, том 35, вып. 2, 2023, 35-48

ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).

DOI: 10.15514/ISPRAS-2023-35(2)-3

Для цитирования

Денис Владимирович КОТЛЯРОВ, Глеб Дмитриевич ДЮДЮН, Наталья Витальевна РЖЕВСКАЯ, Мария Анатольевна ЛАПИНА, Михаил Григорьевич БАБЕНКО Исследование состязательных атак на нейронные сети распознавания образов. Труды Института системного программирования РАН, том 35, вып. 2, 2023, 35-48 DOI: 10.15514/ISPRAS-2023-35(2)-3.

Полный текст статьи в формате pdf Вернуться к содержанию тома