Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами

Почему иллюминаторы самолетов имеют округлую форму

ТехИнсайдер
Челюсти в фокусе: 5 нападений акул на людей, которые потрясли мир Челюсти в фокусе: 5 нападений акул на людей, которые потрясли мир

Благодаря ученым мы все больше и больше узнаем об акулах

Вокруг света
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Луна, Марс и многое другое: NASA расширило свои 8 планетарных миссий Луна, Марс и многое другое: NASA расширило свои 8 планетарных миссий

NASA в очередной раз продлило несколько своих миссий

ТехИнсайдер
В России появится уникальный робот для УЗИ: медицинская диагностика станет точнее и безопаснее В России появится уникальный робот для УЗИ: медицинская диагностика станет точнее и безопаснее

В России создаётся уникальный медицинский робот

Популярная механика
6 главных ошибок в похудении, которые совершают все: объясняет врач 6 главных ошибок в похудении, которые совершают все: объясняет врач

Поговорили с врачом-диетологом о том, почему похудеть так сложно

Cosmopolitan
Спал на голом матрасе и мог не делать домашку: как воспитывали Илона Маска Спал на голом матрасе и мог не делать домашку: как воспитывали Илона Маска

Как Илона и его брата с сестрой воспитывала экстравагантная мама Мэй Маск

Cosmopolitan
Древних жителей Атапуэрки уличили в поедании собак Древних жителей Атапуэрки уличили в поедании собак

Ученые провели исследование останков животных с памятника

N+1
Что смотреть и пробовать в Тюменской области. Гид «РБК Стиль» Что смотреть и пробовать в Тюменской области. Гид «РБК Стиль»

Тюменская область: сибирское барокко, термальные источники и бескрайняя тайга

РБК
Страх, любовь и адреналин Страх, любовь и адреналин

Как на нас влияет страх, любовь и адреналин?

Лиза
Табло со статистикой смертей в ДТП увеличили количество аварий на дорогах Техаса Табло со статистикой смертей в ДТП увеличили количество аварий на дорогах Техаса

Табло со статистикой смертей на дорогах Техаса отвлекли водителей от дороги

N+1
Арт-пауза: 7 работ молодых художников Арт-пауза: 7 работ молодых художников

Все эти работы — об исцеляющей силе красоты

РБК
Глянец среди войн и революций: о чем писали женские журналы в середине ХХ века Глянец среди войн и революций: о чем писали женские журналы в середине ХХ века

Как выглядели женские медиа на пороге Второй мировой войны?

Forbes
Вершки и корешки с историей: 9 древнейших овощей на нашей грядке Вершки и корешки с историей: 9 древнейших овощей на нашей грядке

Какой путь проделали овощные культуры, прежде чем оказаться на наших грядках?

Вокруг света
Макияж по-азиатски: как женщины из Кореи и Китая меняют лицо до неузнаваемости Макияж по-азиатски: как женщины из Кореи и Китая меняют лицо до неузнаваемости

Видео с азиатскими девушками до и после макияжа почти пугают

VOICE
Травма свидетеля: что делать, если мы наблюдали насилие в детстве Травма свидетеля: что делать, если мы наблюдали насилие в детстве

Чем отличается травма свидетеля от травмы жертвы?

Psychologies
Русский путь через мост Sant’Angelo. Памяти Александра Тимофеевского Русский путь через мост Sant’Angelo. Памяти Александра Тимофеевского

Воспоминания о Александре Тимофеевском

СНОБ
Смотри в оба! Смотри в оба!

Несколько самых распространенных мифов о глазах

Лиза
Современные весы: что означают цифры на «умных» устройствах Современные весы: что означают цифры на «умных» устройствах

Что и как можно понять из выданных показателей умных весов

VOICE
5 продуктов, которые поднимут вам настроение. Забудьте про чипсы и шоколад! 5 продуктов, которые поднимут вам настроение. Забудьте про чипсы и шоколад!

Если вам хочется заесть свои печали, то поднять настроение можно здоровой пищей

Популярная механика
От страха — к новой жизни: научись управлять своим состоянием От страха — к новой жизни: научись управлять своим состоянием

В любые кризисные времена главное поле боя — у нас внутри

Psychologies
5 фактов о пользе кофе для разных систем организма 5 фактов о пользе кофе для разных систем организма

Какую пользу кофе может приносить здоровью

Лиза
Плесень и секс Плесень и секс

Алексей Алексенко — о бесстыжих ящерицах и целомудренной плесени

СНОБ
Что нового в мире собак? 15 неожиданных фактов из жизни четвероногих, о которых вы и подумать не могли Что нового в мире собак? 15 неожиданных фактов из жизни четвероногих, о которых вы и подумать не могли

Нежный рот лабрадора, собачьи наркотики, пасхалочка от Пола Маккартни

Популярная механика
Неизвестная страница истории Варшавского гетто: как врачи смогли остановить эпидемию Неизвестная страница истории Варшавского гетто: как врачи смогли остановить эпидемию

Медикам, оказавшимся в гетто, удалось предотвратить распространение сыпного тифа

Вокруг света
Биологи разрешили самцам жаб-арлекинов сидеть на самках 138 дней Биологи разрешили самцам жаб-арлекинов сидеть на самках 138 дней

Биологи изучили брачное поведение жаб-арлекинов Atelopus laetissimus

N+1
Какой пылесос лучше: с мешком, с контейнером или с аквафильтром? Какой пылесос лучше: с мешком, с контейнером или с аквафильтром?

Какому типу пылесборника отдать предпочтение

CHIP
«Дорогой дневник»: «Нас никто не ломает» «Дорогой дневник»: «Нас никто не ломает»

Девчонки из дуэта «Дорогой дневник» — о том, почему решили работать вместе

ЖАРА Magazine
Тихоходки покатались на улитках Тихоходки покатались на улитках

Тихоходки расселяются с помощью улиток

N+1
Актер Роман Васильев — о театре, «Идентификации» и инклюзии Актер Роман Васильев — о театре, «Идентификации» и инклюзии

Актер Роман Васильев — о свободе в театре и влиянии роли на жизнь актера

СНОБ
Открыть в приложении