Research indexJournal article
Защита моделей искусственного интеллекта от бэкдор-атак
Moskalev
Electronic Library of Peter the Great Polytechnic University1 Jan 2026Open access
NobleIDark:/48914/w1/20261105/4220668FDOI10.18720/spbpu/3/2026/vr/vr26-406
Защита моделей искусственного интеллекта от бэкдор-атак
Moskalev · Electronic Library of Peter the Great Polytechnic University · 2026
NobleIDark:/48914/w1/20261105/4220668FDOI10.18720/spbpu/3/2026/vr/vr26-406
Free to read at the publisher
You can read the abstract here, or the full text at the publisher.
Abstract
Целью настоящей дипломной работы является защита моделей искусственного интеллекта от бэкдор атак. Объектом исследования являются модели искусственного интеллекта, потенциально подверженные бэкдор-атакам. Задачи, решаемые в ходе исследования: 1. Провести анализ методов проведения бэкдор-атак на модели искусственного интеллекта. 2. Провести анализ методов защиты от бэкдор-атак. 3. Разработать метрику, позволяющую оценить эффективность внедренного бэкдора. 4. Разработать подход к защите моделей искусственного интеллекта от бэкдор-атак. 5. Выполнить оценку эффективности предложенного подхода. В результате был разработан подход, позволяющий защищать модели искусственного интеллекта от бэкдор-атак, эффективность которого была обоснована теоретически и подтверждена эмпирическим путем. Также была разработана метрика, позволяющая оценивать эффективность внедренного нарушителем бэкдора. Полученные результаты могут быть использованы для проведения дальнейших исследований, а также для создания на их основе новых защитных решений.