Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пасту для ассирийских табличек для письма сделали из воска и аурипигмента Пасту для ассирийских табличек для письма сделали из воска и аурипигмента

Чем покрывали деревянные дощечки для письма в Древней Месопотамии?

N+1
Как к 30 годам заработать под миллион долларов на фитнес-инстаграме Как к 30 годам заработать под миллион долларов на фитнес-инстаграме

Как фитнес-блогер Софья Солдатова монетизирует миллион подписчиков в Instagram

Forbes
Обновления нарочно ломают наши телефоны и еще 9 мифов о гаджетах Обновления нарочно ломают наши телефоны и еще 9 мифов о гаджетах

10 самых распространенных мифов об электронных устройствах

Maxim
Интервью с инвестиционным директором РВК Алексеем Басовым Интервью с инвестиционным директором РВК Алексеем Басовым

Интервью с инвестиционным директором РВК Алексеем Басовым

СНОБ
Стесняюсь спросить: как распознать болезнь Альцгеймера? Стесняюсь спросить: как распознать болезнь Альцгеймера?

Альцгеймер: как распознать на ранних этапах и встречается ли он у молодых?

Правила жизни
«Полюбила себя, когда похудела: почему бодипозитив мне кажется обманом» «Полюбила себя, когда похудела: почему бодипозитив мне кажется обманом»

Наша читательница поделилась историей о непростых отношениях с собственным телом

Psychologies
Превратил обман в публичную компанию за $20 млрд: в чём обвиняют производителя электрогрузовиков Nikola и его основателя Превратил обман в публичную компанию за $20 млрд: в чём обвиняют производителя электрогрузовиков Nikola и его основателя

Американский стартап хотел конкурировать с Tesla, но провалился

VC.RU
Разверните ваш корабль Разверните ваш корабль

Жесткий менеджмент от капитана лучшей подлодки США

kiozk originals
Энергия Энергия

Руководство для начинающих

kiozk originals
Великая западная схизма: трое пап на один Рим Великая западная схизма: трое пап на один Рим

Великая западная схизма — период раскола в Римско-католической церкви

Weekend
«Секс-игрушка из Парижа»: вибратор стал секретным талисманом принцессы Дианы «Секс-игрушка из Парижа»: вибратор стал секретным талисманом принцессы Дианы

Принцесса Диана брала в заграничные поездки гаджет из секс-шопа

Cosmopolitan
Борец с незаконной торговлей рассказал о нападениях, поджоге машины и возвращении 90-х Борец с незаконной торговлей рассказал о нападениях, поджоге машины и возвращении 90-х

Интервью с активистом Александром Виноградовым

СНОБ
Фтор улучшил транспортный слой перовскитных солнечных батарей Фтор улучшил транспортный слой перовскитных солнечных батарей

Химики нашли способ сделать солнечные батареи эффективнее и стабильнее

N+1
Женское здоровье: культура посещения гинеколога Женское здоровье: культура посещения гинеколога

Как начать заботиться о своем здоровье и регулярно посещать «женского врача»

Psychologies
За урожаем из глубин За урожаем из глубин

На разных верфях страны бум рыбопромыслового судостроения

Популярная механика
От селфи до пластики — один шаг От селфи до пластики — один шаг

Стремление к физическому совершенству стало навязчивой идеей XXI века

Psychologies
Путешествия во времени Путешествия во времени

Почему людям так хочется вернуться в прошлое и заглянуть в будущее?

kiozk originals
Отрекаются, любя: женщины, ради которых монархи отказывались от всех титулов Отрекаются, любя: женщины, ради которых монархи отказывались от всех титулов

Шесть историй о парах, в которых любовь победила стремление занять трон

Cosmopolitan
Построение бизнес-моделей Построение бизнес-моделей

Настольная книга стратега и новатора

kiozk originals
Топлес: самые интересные научные факты о женской груди Топлес: самые интересные научные факты о женской груди

Она сводит с ума, кормит и даже спасает жизнь

Популярная механика
Масочный режим: за что любить тканевые маски Масочный режим: за что любить тканевые маски

Чем тканевые маски выгодно отличаются от масок в тюбиках и баночках

Psychologies
Империя иллюзий Империя иллюзий

Конец образованности и триумф шоу

kiozk originals
«Летали по одному загранпаспорту»: почему близнецы-рестораторы Березуцкие строят бизнес вместе и как открыли один из 20 лучших ресторанов в мире «Летали по одному загранпаспорту»: почему близнецы-рестораторы Березуцкие строят бизнес вместе и как открыли один из 20 лучших ресторанов в мире

Как братья Березуцкие открыли ресторан из топ-20 The World’s Best Restaurants

Forbes
Не делай так: 9 невероятно пошлых жизненных ситуаций Не делай так: 9 невероятно пошлых жизненных ситуаций

Жизненная пошлость – вовсе не обязательно глобальная пошлость

Cosmopolitan
All Inclusive со скидкой 30%: как россияне отдыхают в этом году в Турции All Inclusive со скидкой 30%: как россияне отдыхают в этом году в Турции

Турпоток в Турцию в августе-начале сентября не достиг прошлогодних уровней

Forbes
Хранить не в холодильнике: как продлить жизнь органам вне тела Хранить не в холодильнике: как продлить жизнь органам вне тела

Время лечит любые раны, если только речь не о трансплантации

Популярная механика
Читаем этикетки правильно: 7 простых правил, которые не пропустят вредную еду Читаем этикетки правильно: 7 простых правил, которые не пропустят вредную еду

Как выбрать для себя самый полезный и здоровый продукт?

Cosmopolitan
Тина Канделаки: «Я не бесстрашная, я просто опытная» Тина Канделаки: «Я не бесстрашная, я просто опытная»

Тина Канделаки о риске и своем легендарном трудолюбии

Cosmopolitan
Двери сознания Двери сознания

Где прячется человеческое «я»

Вокруг света
Тайны, яды и немного психологии: жизнь и книги Агаты Кристи Тайны, яды и немного психологии: жизнь и книги Агаты Кристи

Главные факты из жизни великой писательницы Агаты Кристи

Psychologies
Открыть в приложении