AWA: выравнивание весов на основе активаций для повышения устойчивости статических методов маркирования нейронных сетей

AWA: выравнивание весов на основе активаций для повышения устойчивости статических методов маркирования нейронных сетей

Акименков А.А. (ИСП РАН, Москва, Россия)
Обыденков Д.О. (ИСП РАН, Москва, Россия)
Якушев А.Ю. (ИСП РАН, Москва, Россия)
Абуд Х.Н. (ИИИ МГУ, Москва, Россия)
Устинова А.А. (ИСП РАН, Москва, Россия)
Маркин Ю.В. (ИСП РАН, Москва, Россия)

Аннотация

Рассматривается задача повышения устойчивости статических методов маркирования нейронных сетей в сценарии извлечения «белый ящик», при котором цифровой водяной знак (ЦВЗ) извлекается непосредственно из параметров модели. Основное внимание уделяется атаке согласованной перестановки весов, сохраняющей качество работы нейронной сети, но изменяющей порядок параметров, используемый при извлечении водяного знака. Для противодействия такой атаке предлагается алгоритм выравнивания весов на основе активаций AWA, который сопоставляет структурные элементы исходной и атакованной моделей по картам активаций и восстанавливает порядок весов перед извлечением ЦВЗ. В рамках работы AWA интегрируется в процедуру извлечения метода NeuralMark, поскольку данный метод обладает высокой устойчивостью к ряду атак модификации модели, но остается чувствительным к перестановке параметров. Экспериментальная оценка выполнена на нескольких наборах данных, архитектурах нейронных сетей и при разных атаках модификации модели. Результаты показывают, что применение AWA повышает устойчивость NeuralMark к атакам перестановки и сохраняет высокую устойчивость к другим рассмотренным атакам модификации модели. В частности, при атаке согласованной перестановки весов NeuralMark-AWA снижает значение метрики BER на CIFAR-10 и Caltech-101, а значение TPR@FPR увеличивается.

Ключевые слова

цифровые водяные знаки; нейронные сети; статическое маркирование; защита интеллектуальной собственности; атаки на водяные знаки; перестановка весов; выравнивание весов на основе активаций.

Издание

Труды Института системного программирования РАН, том 38, вып. 4, часть 2, 2026, стр. 225-244.

ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).

DOI: 10.15514/ISPRAS-2026-38(4)-28

Для цитирования

Акименков А.А., Обыденков Д.О., Якушев А.Ю., Абуд Х.Н., Маркин Ю.В. AWA: выравнивание весов на основе активаций для повышения устойчивости статических методов маркирования нейронных сетей. Труды Института системного программирования РАН, том 38, вып. 4, часть 2, 2026, стр. 225-244. DOI: 10.15514/ISPRAS-2026-38(4)-28.

Полный текст статьи в формате pdf Вернуться к содержанию тома