Причина в фундаментальном недостатке нейросетей

N+1Hi-Tech

«Кислотные» стикеры сделали самолеты невидимыми для нейросетей

Григорий Копиев

Ajaya Adhikari et al. arXiv.org, 2020

Исследователи из Нидерландов и Бельгии предложили заменять традиционный камуфляж для самолетов на аэродромах на небольшие относительно самолета тенты с нанесенными на них состязательными примерами — типом изображений, которые выглядят для человека как абстрактный набор фигур разных цветов, но для нейросети похож на объект определенного класса. Статья опубликована на arXiv.org.

У нейросетей есть фундаментальный недостаток, который потенциально можно использовать для умышленной атаки на них. Наиболее часто его наблюдают на примере алгоритмов распознавания и классификации. При работе с обычными изображениями, например, фотографиями животных, нейросеть адекватно распознает объекты на них. Однако для этой конкретной нейросетевой модели изображение с привычными для нее данными, к примеру, фотографию кота, можно немного изменить, после чего для человека она останется неотличимой от оригинала невооруженным взглядом, но для нейросети будет казаться совсем иной, например, фотографией слона. Учитывая, что нейросетевые алгоритмы применяются во все большем количестве областей, в том числе в беспилотных автомобилях, системах распознавания подозреваемых и даже в военной технике, исследователи считают состязательные примеры серьезной угрозой безопасности.

Состязательные примеры можно условно разделить на два основных класса: изображения с попиксельной заменой, годящиеся для атак в цифровом виде, и «стикеры» — небольшие самостоятельные изображения, в которых человек не может распознать никакой конкретный объект. Второй тип интересен тем, что его можно применять и вне цифровых устройств. К примеру, есть эксперименты, в которых авторы «скрывались» от систем распознавания лиц или обнаружения людей с помощью очков или плаката.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Паразит из юрского периода подтвердил происхождение скребней от коловраток Паразит из юрского периода подтвердил происхождение скребней от коловраток

Как находка палеонтологов определила систематическое положение скребней

N+1
Тайная жизнь деревьев Тайная жизнь деревьев

Что они чувствуют, как они общаются – открытие сокровенного мира

kiozk originals
Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Свердловчане не сдаются Свердловчане не сдаются

Сергей Светлаков давно пустился в самостоятельное плавание

OK!
Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе

Вспышка холеры в Европе: во всем виновата святая вода из Эфиопии

N+1
9 брутальных мужских монологов из фильмов 9 брутальных мужских монологов из фильмов

Зачем выдумывать фееричные фразы? Киногерои уже все сказали за тебя!

Maxim
Как дети иммигрантов из России и Израиля создали в США сервис доставки продуктов стоимостью в $3 млрд Как дети иммигрантов из России и Израиля создали в США сервис доставки продуктов стоимостью в $3 млрд

Получится ли у сервиса доставки еды GoPuff выйти за пределы американского рынка?

Forbes
Как правильно организовать рабочее место Как правильно организовать рабочее место

Правильная организация рабочего места повышает продуктивность

Cosmopolitan
Гутенберг, фанат технологий Гутенберг, фанат технологий

Первый в мире технопредприниматель

kiozk originals
Победа «томского пациента»: как Навальный изменил политический ландшафт на последних выборах Победа «томского пациента»: как Навальный изменил политический ландшафт на последних выборах

Прошлогодний успех «Умного голосования» на выборах не был случайностью

Forbes
19 умных слов, которые на самом деле означают сущую чепуху 19 умных слов, которые на самом деле означают сущую чепуху

Немного об истинных значениях научных терминов

Maxim
Как изменится Небесный град Как изменится Небесный град

Когда мы говорим, что интернет похож на город, мы что имеем в виду?

Weekend
Любовь или просто работа? Жизнь знаменитых кинопар за кадром Любовь или просто работа? Жизнь знаменитых кинопар за кадром

Казавшиеся сказкой кинороманы в жизни сходят на «нет» или перерастают в дружбу

Cosmopolitan
Чем заняться в Казани Чем заняться в Казани

Час самолетом от Москвы, красивая архитектура, широкие реки и вкусная еда

GQ
Многообразие религиозного опыта Многообразие религиозного опыта

Исследование человеческой природы

kiozk originals
Начало бесконечности Начало бесконечности

Объяснения, которые меняют мир

kiozk originals
Когда лень вот-вот победит: 5 упражнений, которые заставят тебя полюбить спорт Когда лень вот-вот победит: 5 упражнений, которые заставят тебя полюбить спорт

Комплекс из этих пяти упражнений способен убить лень и разжечь спортивный азарт

Cosmopolitan
По тонкому льду По тонкому льду

Как глобальное потепление повлияет на Россию

N+1
Самоубийство дочери и зависть к Аджани: вся правда о Джейн Биркин в ее дневнике Самоубийство дочери и зависть к Аджани: вся правда о Джейн Биркин в ее дневнике

В дневниках Джейн не играет и не пытается быть лучше, чем она есть

Cosmopolitan
«Воспитанные волками» — сериал Ридли Скотта о противостоянии андроидов и человечества, атеистов и верующих. Рассказываем, каким он получился «Воспитанные волками» — сериал Ридли Скотта о противостоянии андроидов и человечества, атеистов и верующих. Рассказываем, каким он получился

Что не так с sci-fi-сериалом про андроидов от режиссера «Чужого»

Esquire
Акции, стартапы, недвижимость: куда инвестируют Гарвард, Йель, Стэнфорд и другие зарубежные университеты Акции, стартапы, недвижимость: куда инвестируют Гарвард, Йель, Стэнфорд и другие зарубежные университеты

Среди инвестиций университетов компании вроде Google, Facebook и LinkedIn

VC.RU
Из чего же сделаны наши девчонки? Из чего же сделаны наши девчонки?

Об экранизации романа Карины Добротворской «Кто-нибудь видел мою девчонку?»

Tatler
По какому пути пойдет экспансия российского бизнеса в Белоруссии По какому пути пойдет экспансия российского бизнеса в Белоруссии

Экономические отношения между Белоруссией и Россией очень неформальны

СНОБ
Сверхинтенсивные короткие тренировки: эффективны или не очень? Сверхинтенсивные короткие тренировки: эффективны или не очень?

Правда ли, что интенсивные тренировки — панацея от всех проблем?

РБК
Богатый папа, бедный папа Богатый папа, бедный папа

Чему учат детей богатые родители – и не учат бедные

kiozk originals
«В каждом фильме — все про нас, даже монстры» «В каждом фильме — все про нас, даже монстры»

Какие сигналы для нашей психики скрыты в кино и как научиться их распознавать?

Psychologies
Хюэ 1968 Хюэ 1968

Поворотный момент войны во Вьетнаме

kiozk originals
Покинутый советский остров-полигон, на котором захоронено биологическое оружие Покинутый советский остров-полигон, на котором захоронено биологическое оружие

В советское время на острове Возрождения располагался полигон «Бархан»

Maxim
Как правильно гладить брюки со стрелками: пошаговая инструкция Как правильно гладить брюки со стрелками: пошаговая инструкция

Руководство по созданию стрелок утюгом и парогенератором на мужских брюках

Playboy

Самый добрый и умиротворяющий сериал года: «Тед Лассо»

Esquire
Открыть в приложении