Меню
Назад » » 2020 » Сентябрь » 10

Нейросеть (ИИ) заставили «развидеть» самолёты

  • 10.09.2020
  • 120 Просмотров
  • Обсудить

Нидерландская организация прикладных научных исследований (TNO) обнаружила способ ввести нейросеть в заблуждение путём замены традиционного камуфляжа для самолётов на специальные изображения, которые для человека выглядят набором фигур разных цветов, но для компьютерного алгоритма представляют собой определённый объект.

Не секрет, что нейросети для распознавания и классификации объектов можно определённым образом обманывать, причём незаметным для невооружённого глаза способом. Если внести в изображение с определённым объектом некоторые правки, можно заставить алгоритм увидеть на нём уже совершенно другой объект. Поскольку нейросетевые алгоритмы сегодня применяются в беспилотных автомобилях, системах распознавания лиц и военной технике, исследователи небезосновательно считают подобные состязательные примеры серьёзной угрозой безопасности.

Состязательные изображения можно условно разделить на два основных класса: картинки с попиксельной заменой, годящиеся для атак в цифровом виде, и так называемые стикеры — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Стикеры могут применяться и в офлайне — к примеру, для обмана систем распознавания лиц, а нидерландские учёные решили испытать их в качестве камуфляжа для самолётов и другой военной техники, стоящей на аэродромах или любых других открытых пространствах.

Для этого исследователи применили алгоритм обнаружения объектов YOLOv2 и классический метод подбора состязательного изображения. Сначала нейросеть берёт спутниковый снимок стоящих на аэродроме самолётов и накладывает это изображение на каждый самолёт. Путём обработки в фоторедакторе алгоритм получал в результате снимок с наложенным на самолёты довольно реалистичным изображением, которое по своему виду было максимально похоже на реальный объект, а не вставленный программным образом.

Затем изображение оптимизировалось с помощью функции потерь, которая учитывает три фактора: можно ли реально напечатать определённый цвет или сочетание, насколько уверенно нейросеть распознает объекты любых классов на фотографии и вариативность состязательного изображения. Затем цикл повторялся, но уже с оптимизированным изображением. В результате за множество циклов появляется изображение, которое сбивает с толку алгоритм распознавания объектов и при этом устойчиво к различным помехам, которые могут появиться при съёмке с беспилотника или спутника.

С видеокартой Nvidia GTX 1080Ti на создание каждого изображение уходило около 30 часов непрерывных вычислений. Эксперименты на спутниковых снимках показали, что большие изображения (20% от ширины ограничивающей рамки, рисуемой алгоритмом обнаружения объектов) снижают среднюю точность алгоритма обнаружения с 94% до 5,6%, а маленькие изображения (10%) — до 37,8%. Также оказалось, что изображение можно накладывать и на соседнюю часть взлётно-посадочной полосы, а не на сам самолёт — правда, эффективность обмана в таком случае была заметно ниже.

Для полноценной проверки алгоритма необходимо провести эксперимент в реальных условиях — накрыв самолёт тентом с напечатанным изображением. Случайные изменения, которые вносились в изображения, вполне достаточны для имитации реальных условий, считают учёные. Пока они проверили лишь один алгоритм, хотя в реальности разные системы обнаружения военной техники могут использовать разные алгоритмы. Впрочем, возможно создать изображение, которое запутает разные алгоритмы распознавания.

Источник


Никто не решился оставить свой комментарий.
Будь-те первым, поделитесь мнением с остальными.
avatar
Читайте также
25.09.2020 в 15:15 Очень необычный НЛО пролетел над Северной Германией и Нидерландами
Рано утром 22 сентября камеры Европейского космического агентства засекли нечто потрясающее и необычное. Впрочем в ЕКА быстро придумали объяснение произошедшему и уверяют, что это просто метеороид. Вы когда-нибудь видели «камень из космоса», который летит над ...

Читать далее

25.09.2020 в 14:50 Пандемия закончится после восхода четырех лун

C началом пандемии COVID-19, о которой мы написали первыми в рунете еще 2-го января 2020 года, было очень много криков с мест, которыми какие-то люди упрекали нас в тиражировании фейковых новостей и что никакого  ковида нет – мол, в Китае вс...

Читать далее

25.09.2020 в 14:43 В Турции нашли фабрику, построенную 3700 лет назад
Турецкие археологи при проведении раскопок на западе страны обнаружили руины крупного производства. Найденные там аксессуары и остатки ткацкого станка указывают на то, что это была древняя текстильная фабрика.

Читать далее

24.09.2020 в 18:57 До снятия Второй Печати на Солнце начался обратный отсчет?

Как помнят многие наши читатели 11 августа 2020 года известный тайваньский уфолог Скотт К. Уоринг, рассматривавший изображения Солнца, обнаружил на нём гигантскую цифру 2

Читать далее

24.09.2020 в 18:47 У Сатурна появился еще один аномальный спутник

Энцелад –  шестой по размеру спутник Сатурна. Он был открыт в 1789 году Уильямом Гершелем, но оставался малоизученным до начала 1980-х годов, когда с ним сблизились два межпланетных зонда «Вояджер».

...

Читать далее