АТАКИ АДАПТИВНОГО МАНИПУЛЯТИВНОГО КОНТЕНТА И УСТОЙЧИВОСТЬ МОДЕЛЕЙ ОБНАРУЖЕНИЯ

Аннотация

В статье рассмотрена проблема устойчивости к адаптивным атакам моделей обнаружения деструктивного манипулятивного воздействия в сети Интернет. Представлено, что развитие автоматизированного обнаружения манипуляций контентом происходит параллельно с разработкой подходов адаптивной их модификации для обхода средств обнаружения. В работе представлена модель противника типа black-box, учитывающая специфику противостояния с системами обнаружения в социальных сетях, и дана классификация адаптивных атак манипулятивного контента.

В рамках исследования выполнен анализ поверхностей атаки в системах выявления деструктивного манипулятивного воздействия и проведена оценка устойчивости моделей обнаружения при воздействии различных классов адаптивных атак. Для количественной интерпретации деградации качества обнаружения введён показатель, основанный на изменении F-меры, позволяющий рассматривать снижение качества классификации как индикатор уязвимости модели к адаптивному манипулятивному воздействию. Аналитическое моделирование показало, что наибольший спад наблюдается при эмоциально-контекстуальных атаках - когда манипулятивная нагрузка скрывается за переупаковкой формы и контекста сообщения.

Полученные результаты обосновывают необходимость учета адаптивного характера манипулятивного воздействия при проектировании и эксплуатации систем мониторинга социальных сетей. Предложенный подход расширяет традиционные методы оценки эффективности обнаружения манипулятивного контента. Может быть использован в качестве методологической основы для разработки комплексных методик оценивания деструктивного манипулятивного воздействия.