Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«История России языком дворянских гербов» «История России языком дворянских гербов»

Какое изображение можно считать гербом?

N+1
Как открыть свой бизнес за месяц? 4 главных этапа Как открыть свой бизнес за месяц? 4 главных этапа

Как разумно использовать свое время, какие приоритеты расставить и с чего начать

Playboy
Курсовая работа: как выпускники психфака создали заметную школу data science Курсовая работа: как выпускники психфака создали заметную школу data science

Онлайн-школа karpov.courses начиналась как pet-проект выпускников психфака

Forbes
«В области человеческих отношений прогресса не существует» «В области человеческих отношений прогресса не существует»

Режиссер Андрей Кончаловский — о своем фильме «Дорогие товарищи!»

Огонёк
Шаги на чердаке: жуткая история о нераскрытом убийстве в Хинтеркайфеке Шаги на чердаке: жуткая история о нераскрытом убийстве в Хинтеркайфеке

Более 100 лет назад на ферме Андреаса Грубера произошла страшная трагедия

ТехИнсайдер
Краски лета Краски лета

Яркий интерьер для путешественников

SALON-Interior
Состояние почтового ящика может многое рассказать о личности человека, уверены психологи Состояние почтового ящика может многое рассказать о личности человека, уверены психологи

Три основных стиля ведения электронной почты с точки зрения психологов

Inc.
Доноры нашлись! Расторгуев, Гомес и другие звезды, которым пересадили органы Доноры нашлись! Расторгуев, Гомес и другие звезды, которым пересадили органы

Селебрити, которым пришлось пережить трансплантацию, чтобы вылечиться

Cosmopolitan
Ревматоидный артрит предложили считать двумя разными болезнями Ревматоидный артрит предложили считать двумя разными болезнями

Одну болезнь мы умеем лечить лучше, а про вторую до сих пор многого не знаем

N+1
Антология протеста Антология протеста

Чтобы победить полицейское насилие, Мартин Лютер Кинг не отвечал на него

Дилетант
Как правильно обрабатывать и убирать кутикулу не хуже мастера маникюра Как правильно обрабатывать и убирать кутикулу не хуже мастера маникюра

Как ни крути, без ухоженной кутикулы красивый маникюр просто не возможен

Cosmopolitan
Почему люди верят в плоскую Землю Почему люди верят в плоскую Землю

Реальная причина, по которой люди думают, что Земля плоская, может вас удивить

Популярная механика
Новые книги Новые книги

Обзор на 6 новых книг от Игоря Гулина

Weekend
«Фактически сжигание денег»: почему богатейший человек Европы заморозил сделку по покупке Tiffany на самом деле «Фактически сжигание денег»: почему богатейший человек Европы заморозил сделку по покупке Tiffany на самом деле

Как Tiffany стараются избежать сорвать сделку с Бернаром Арно

Forbes
Цена свободы — жизнь Цена свободы — жизнь

Почему жертвы долго не решаются уйти от агрессивных партнеров?

Psychologies
Как советский летчик подарил США секретный самолет-перехватчик: история самого громкого авиаугона времен холодной войны Как советский летчик подарил США секретный самолет-перехватчик: история самого громкого авиаугона времен холодной войны

История советского летчика-перебежчика, повлиявшая на историю военной авиации

Maxim
Ученые открыли новый биомаркер расстройств аутистического спектра у дошкольников Ученые открыли новый биомаркер расстройств аутистического спектра у дошкольников

Выявлена взаимосвязь между РАС и концентрацией одного из белков в плазме крови

N+1
Ученые впервые клонировали лошадь Пржевальского Ученые впервые клонировали лошадь Пржевальского

В качестве генетического материала использовались замороженные клетки

N+1
«Гнездо» перевернутых ролей: фильм, где Джуд Лоу живет на содержании у жены, притворяясь миллионером «Гнездо» перевернутых ролей: фильм, где Джуд Лоу живет на содержании у жены, притворяясь миллионером

«Гнездо» — индидрама про смену традиционных гендерных ролей

Forbes
Кожанки, оверсайз-пиджаки и шелк: что носил Микки Рурк в конце восьмидесятых и начале девяностых Кожанки, оверсайз-пиджаки и шелк: что носил Микки Рурк в конце восьмидесятых и начале девяностых

Восьмидесятые и девяностые идеально вписывались в гардероб Микки Рурка

Esquire
Спаривание под пение других самцов отвадило самок сверчков от поиска нового партнера Спаривание под пение других самцов отвадило самок сверчков от поиска нового партнера

Чем больше самцов, тем менее активно самки сверчков ищут новых партнеров

N+1
Почему проблемы с весом нужно решать не через диеты, а через голову Почему проблемы с весом нужно решать не через диеты, а через голову

Что такое расстройство пищевого поведения и что нужно делать, чтобы себе помочь

Cosmopolitan
Влияет ли среда обитания на запах и вкус пищи Влияет ли среда обитания на запах и вкус пищи

Почва, климат и микробы могут формировать вкус сельскохозяйственных культур

Популярная механика
«Есенин нового времени»: как 22-летний пианист из Самары покорил зумеров, подружился с Моргенштерном и объявил войну Sony «Есенин нового времени»: как 22-летний пианист из Самары покорил зумеров, подружился с Моргенштерном и объявил войну Sony

Новый кумир зумеров — Эдуард Шарлот

Forbes
Стоит ли соглашаться на повышение? Как принять сложное карьерное решение Стоит ли соглашаться на повышение? Как принять сложное карьерное решение

Как принять решение о повышении, если вы не уверены, что справитесь со стрессом

Forbes
Чудо на пляже: как вор случайно спас множество людей от бомбы в Тель-Авиве и стал национальным героем Чудо на пляже: как вор случайно спас множество людей от бомбы в Тель-Авиве и стал национальным героем

Как преступник стал спасителем именно благодаря своим криминальным наклонностям

Maxim
Rework Rework

Бизнес без предрассудков

kiozk originals
Неуловимый «средний класс»: ученые доказали существование странных черных дыр Неуловимый «средний класс»: ученые доказали существование странных черных дыр

Обнаружены гравитационные волны от столкновения черных дыр рекордной массы

Forbes
10 самых смертоносных растений мира 10 самых смертоносных растений мира

Растения, от которых не ждешь подвоха

Популярная механика
Не на тех напали: звезды, которых Не на тех напали: звезды, которых

Джонни Депп, Шер, Бритни Спирс и другие знаменитости, ставшие жертвами слухов

Cosmopolitan
Открыть в приложении