Специалисты факультета ВМК МГУ представили прорывную технологию анализа уязвимости визуального контента к искусственным манипуляциям. Уникальный индекс устойчивости (IRI) и нейросетевая модель IRAA позволяют прогнозировать восприимчивость изображений к состязательным атакам, обеспечивая новый уровень защиты метрик качества. Результаты работы, опубликованные в EUSIPCO 2024, открывают перспективы для создания надёжных систем компьютерного зрения.
Угрозы современным метрикам качества
Современные алгоритмы оценки изображений демонстрируют уязвимость к адверсарным атакам типа FGSM и FACPA. Это позволяет злоумышленникам создавать контент, который искусственно завышает автоматические оценки при явных визуальных дефектах, что особенно критично для систем безопасности и цифровой рекламы.
Принцип работы индекса устойчивости IRI
Разработанная в МГУ система анализирует степень сопротивляемости изображения к искажениям. "IRI позволяет количественно оценить вероятность успешной атаки ещё до её реализации", – объясняет Дмитрий Ватолин, руководитель проекта. Модель IRAA дополняет индекс, прогнозируя изменение автоматических оценок без влияния на человеческое восприятие.
Тестирование на международных датасетах
Эксперименты с базами MS COCO и LIVE in the Wild подтвердили: изображения с техническими артефактами на 37% чаще подвержены атакам UAP. При этом модель IRAA продемонстрировала рекордные 90.6% точности прогнозирования, что существенно превосходит традиционные подходы.
Сферы практического применения
Технология найдёт применение в системах видеонаблюдения нового поколения, платформах для проверки подлинности контента и автоматических редакторах изображений. Особое значение разработка имеет для защиты нейросетевых алгоритмов типа MDTVSFA от целенаправленных искажений.
Будущие перспективы технологии
«Наш метод создаёт фундамент для принципиально новых стандартов в компьютерном зрении, – отмечает Ватолин. – Это не только повысит устойчивость ИИ-систем, но и уменьшит риски цифровых манипуляций в медийной сфере».
Революция в оценке визуального контента
Внедрение индекса IRI и модели IRAA обещает трансформировать индустрию обработки изображений, обеспечивая прозрачность оценок и защиту от адверсарных атак. Технология уже получила положительные отзывы международного экспертного сообщества.
Источник: scientificrussia.ru
