fbpx
  • Как спрятаться от системы распознавания объектов

    Студенты из KU Leuven обучили нейросеть, которая помогает скрыться от систем по детектированию объектов. Нейросеть генерирует принты, которые можно наложить поверх объекта, и детектор с меньшей вероятностью распознает объект.

    Видеодемострация работы детектора, если использовать сгенерированный принт

    На текущий момент нейросетевые видео системы по распознаванию объектов находят широкое применение. В каких-то странах такие системы являются частью государственного регулирования правопорядка. Исследователи предлагают решение, которое с помощью яркой сгенерированной картинки скрывает человека от систем по распознаванию объектов. Исследователи эксплуатируют особенность конволюционных нейросетей, которые не способны распознать объект, если он обладает нехарактерными для него свойствами.

    Архитектура модели

    Исследователи опираются на state-of-the-art систему детектирования объектов YOLOv2. Принт генерируется c помощью случайно выбранных действий над одной из картинок в датасете: повернуть изображение на 20 градусов с каждой стороны, увеличить/уменьшить масштаб изображения, наложить шум поверх изображения и увеличить/уменьшить контрастность принта.

    Пайплайн исследования состоял из следующих шагов:

    1. Сначала обучили систему по распознаванию людей на всем датасете;
    2. Получили для каждого человека на изображении границы, в рамках которых он расположен;
    3. В рамках этих границ на часть изображения накладывается сгенерированный принт;
    4. Модифицированное изображение попадает в выборку с остальными изображениями и передается на вход YOLOv2

    Чтобы детектор не распознавал человека на изображении, исследователи минимизируют objectness score при обучении нейросети.

    Процесс обучения модели

    Оценка работы нейросети

    Исследователи проверяли работу модели на датасете Inria. Ниже можно посмотреть на примеры того, как сгенерированное изображение повышает вероятность скрыться от детектора.

    Детектирование человека, который использует сгенерированное изображение

    В дальнейшем исследователи планируют сделать более устойчивую систему для скрытия объекта. На данный момент использование принтов не помогает на других архитектурах (напр., Faster R-CNN).