Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Излучение квазара подавило звездообразование в галактике из ранней Вселенной Излучение квазара подавило звездообразование в галактике из ранней Вселенной

Молекулярный газ ранней Вселенной разрушается под действием излучения квазара

N+1
Готова ли ты стать мамой: что нужно знать о себе, прежде чем решиться рожать Готова ли ты стать мамой: что нужно знать о себе, прежде чем решиться рожать

Какие вопросы стоит задавать самой себе, прежде чем планировать детей

Cosmopolitan
Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе Как работает автофокус в фотоаппарате? От сенсора до мотора в объективе

Как работает автофокус: подробно и со схемами

ТехИнсайдер
10 самых безумных приспособлений, которые можно купить 10 самых безумных приспособлений, которые можно купить

Эти гаджеты можно назвать полезными, но сложно назвать нормальными

Популярная механика
Пластичность мозга Пластичность мозга

Потрясающие факты о том, как мысли способны менять структуру и функции мозга

kiozk originals
Гибель дочери, смерть жены, стрельба в сына: трагедии актера Владимира Конкина Гибель дочери, смерть жены, стрельба в сына: трагедии актера Владимира Конкина

Тяжелая история судьбы актера Владимира Конкина

Cosmopolitan
Волшебник страны лоз Волшебник страны лоз

Сергей Галицкий пытается превратить Кубань в Бордо

Tatler
Поле чудес Поле чудес

Как сберечь свои деньги?

Лиза
Сам себе MBA Сам себе MBA

Самообразование на 100%

kiozk originals
Исаак Ньютон Исаак Ньютон

Вся правда о легендарном ученом

kiozk originals

Самый добрый и умиротворяющий сериал года: «Тед Лассо»

Esquire
Бесконечная ликвидация: как ювелирная сеть Sunlight заработала миллиарды на дешевых бриллиантах и стала интернет-мемом Бесконечная ликвидация: как ювелирная сеть Sunlight заработала миллиарды на дешевых бриллиантах и стала интернет-мемом

Сеть Sunlight в свое время совершила революцию на ювелирном рынке

Forbes
Глотаемую капсулу с электростимулятором испытали в свином желудке Глотаемую капсулу с электростимулятором испытали в свином желудке

Глотаемая капсула внедряет электроды и помогает мыщцам желудка сокращаться

N+1
Чего я не знала, начиная бизнес: Ольга Зиновьева, Elementaree Чего я не знала, начиная бизнес: Ольга Зиновьева, Elementaree

Основательница Elementaree о своих ошибках и неожиданных решениях

Inc.
Поставить атлант на место: кому это надо и зачем? Поставить атлант на место: кому это надо и зачем?

Сейчас многие клиники наперебой предлагают «поставить атлант на место»

Psychologies
Таинственные звезды и что они производят Таинственные звезды и что они производят

Элементы, которые появляются в результате смерти звезд

Популярная механика
Уна Харт: Дикая охота Уна Харт: Дикая охота

Отрывок из нового нуар-детектива Уны Харт

СНОБ
Израильский Гуантанамо: тайная тюрьма, стертая со всех карт и аэрофотосъемок Израильский Гуантанамо: тайная тюрьма, стертая со всех карт и аэрофотосъемок

Секретная тюрьма «лагерь 1391» в Северном Израиле была обнаружена случайно

Maxim
Сайгачьи будни Сайгачьи будни

В России можно наблюдать весь цикл жизни степной антилопы

Наука и жизнь
Сломался ноготь, скололся лак и еще 8 проблем с маникюром, которые можно решить Сломался ноготь, скололся лак и еще 8 проблем с маникюром, которые можно решить

По нашим подсчетам, около трети всех бьюти-катастроф приходится на ногти

Cosmopolitan
Красота по‑американски Красота по‑американски

Полина Пидцан экспериментирует с американским стилем

AD
Омолаживающие нити: какой эффект, кому нужны и мифы вокруг них — мнение эксперта Омолаживающие нити: какой эффект, кому нужны и мифы вокруг них — мнение эксперта

Самые популярные вопросы о нитях

Cosmopolitan
Фаршированный перец Фаршированный перец

Сильные стороны голубца компенсируются слабостями. Проверим?

Weekend
4 странных военных конфликта XX века 4 странных военных конфликта XX века

Если хочется начать войну, закрой глаза и глубоко подыши

Maxim
Самоорганизация неупорядоченных цепочек внутри стекла сделала его твердым Самоорганизация неупорядоченных цепочек внутри стекла сделала его твердым

Физики показали, как и почему стекло становится твердым при охлаждении

N+1
Все краски жизни Все краски жизни

Кэрол Иган привнесла в традиционный американский дом жизнерадостное настроение

AD
Артизаны не сдаются Артизаны не сдаются

Станет ли нынешнее поколение мастеров последним в истории материальной культуры

Robb Report
Продолжение следует Продолжение следует

Как помочь себе во время беременности, не навредив при этом ребенку

Лиза
Какого цвета ваш парашют? Какого цвета ваш парашют?

Практическое руководство для тех, кто ищет работу или хочет ее сменить

kiozk originals
Парни, мы все повзрослели: каким получилось продолжение комедии «Билл и Тед» с Киану Ривзом 30 лет спустя Парни, мы все повзрослели: каким получилось продолжение комедии «Билл и Тед» с Киану Ривзом 30 лет спустя

Киану Ривз и Алекс Уинтер в образе двух посредственных и добродушных мужчин

Esquire
Открыть в приложении