Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тяжелый легкий бег Тяжелый легкий бег

Как работает организм на марафонских дистанциях

Популярная механика
Любимые упражнения долгожителей: простые тренировки на каждый день Любимые упражнения долгожителей: простые тренировки на каждый день

Каким именно спортом лучше заниматься, чтобы продлить жизнь?

Вокруг света
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Врачи поставили испанцу диагноз по переползающим пятнам на коже Врачи поставили испанцу диагноз по переползающим пятнам на коже

Стронгилоидоз — редкая болезнь, которую вызывает круглый червь

N+1
Правила жизни Эди Седжвик Правила жизни Эди Седжвик

Правила жизни Эди Седжвик — модели, актрисы и музы Энди Уорхола

Esquire
Что смотреть и пробовать в Тюменской области. Гид «РБК Стиль» Что смотреть и пробовать в Тюменской области. Гид «РБК Стиль»

Тюменская область: сибирское барокко, термальные источники и бескрайняя тайга

РБК
Как перестать стесняться: 9 советов психолога Как перестать стесняться: 9 советов психолога

Разбираемся, как преодолеть стеснительность

РБК
Маргарет Тэтчер — краткая биография первой женщины с Даунинг-стрит Маргарет Тэтчер — краткая биография первой женщины с Даунинг-стрит

Как жила и за что боролась Маргарет Тэтчер

СНОБ
Весеннее обострение: почему мы испытываем странные чувства? Весеннее обострение: почему мы испытываем странные чувства?

Истинные причины нахлынувшей по весне тревоги. Почему так бывает?

Psychologies
15 главных когнитивных искажений 15 главных когнитивных искажений

Что такое когнитивные искажения и почему они встречаются у многих из нас?

Psychologies
«Краткая история насекомых: Шестиногие хозяева планеты». Палеоэнтомолог рассказывает об их становлении и развитии «Краткая история насекомых: Шестиногие хозяева планеты». Палеоэнтомолог рассказывает об их становлении и развитии

Отрывок из книги Александра Храмова — как появились насекомые-паразиты

N+1
Без кота жизнь не та: 35 интересных фактов про кошек Без кота жизнь не та: 35 интересных фактов про кошек

Факты о кошках: 35 наблюдений о пушистых хищниках

Популярная механика
Палеопатологи диагностировали у древнего жителя Синьцзяна метастатический рак Палеопатологи диагностировали у древнего жителя Синьцзяна метастатический рак

Исследование черепа индивида, которого похоронили около I века до н.э.

N+1
Магний в рационе: 10 продуктов, которые стоит есть женщинам после 50 лет Магний в рационе: 10 продуктов, которые стоит есть женщинам после 50 лет

В каких продуктах магния больше всего

Популярная механика
25 лучших фильмов о любви: подборка, которую стоит посмотреть 25 лучших фильмов о любви: подборка, которую стоит посмотреть

Представляем 25 отличных фильмов о любви. Спорим, вы смотрели далеко не все!

Популярная механика
Простые упражнения от головокружения Простые упражнения от головокружения

Головокружение – сигнал о том, что с организмом не все в порядке

Лиза
Что делать, если мужчина охладел в постели Что делать, если мужчина охладел в постели

Партнер теряет к тебе сексуальный интерес? SOS: куда бежать и что предпринимать?

Лиза
Норвежские археологи нашли вытаявшие из ледника 362 «палки-пугалки» и железный нож Норвежские археологи нашли вытаявшие из ледника 362 «палки-пугалки» и железный нож

Археологические артефакты относятся к V–VI векам нашей эры

N+1
От заморозки яйцеклеток до искусственной матки: как будут рождаться люди будущего От заморозки яйцеклеток до искусственной матки: как будут рождаться люди будущего

Современная медицина позволяет женщинам заботиться о репродуктивном здоровье

Вокруг света
Травма свидетеля: что делать, если мы наблюдали насилие в детстве Травма свидетеля: что делать, если мы наблюдали насилие в детстве

Чем отличается травма свидетеля от травмы жертвы?

Psychologies
7 комнатных растений, которые не ядовиты для домашних животных: ваша кошка будет в безопасности 7 комнатных растений, которые не ядовиты для домашних животных: ваша кошка будет в безопасности

Расскажем о совершенно безопасных для питомцев растениях

Популярная механика
Стесняюсь спросить: что такое нитевой лифтинг? Стесняюсь спросить: что такое нитевой лифтинг?

Что за процедура нитевой лифтинг, каких результатов для внешности можно достичь?

Esquire
10 советов, которые однажды могут спасти вам жизнь 10 советов, которые однажды могут спасти вам жизнь

Мы очень надеемся, что эти советы вам никогда не пригодятся

Популярная механика
«Темные эмпаты»: что делает социопатов и нарциссов еще опаснее? «Темные эмпаты»: что делает социопатов и нарциссов еще опаснее?

Почему так опасно, когда люди наделены способностью считывать наши чувства?

Psychologies
Арктика стремительно тает: масштабы глобального изменения климата в 7 снимках Арктика стремительно тает: масштабы глобального изменения климата в 7 снимках

Почему и как Арктика тает?

ТехИнсайдер
Мужчина случайно нашел на Байкале два древних медных кельта Мужчина случайно нашел на Байкале два древних медных кельта

Археологи исследовали два металлических кельта, найденные на побережье Байкала

N+1
Как работают современные российские ледоколы Как работают современные российские ледоколы

«кСромные размеры» — последнее, что приходит в голову при виде ледокола

Популярная механика
Чего на Руси больше всего боялись девушки, только что вышедшие замуж Чего на Руси больше всего боялись девушки, только что вышедшие замуж

Девушка, покинувшая после свадьбы дом, понимала: в новой семье ее ждет опасность

Cosmopolitan
5 причин, по которым роботы никогда не заменят человека 5 причин, по которым роботы никогда не заменят человека

Воплощению мечты о роботах мешает многое. В том числе и сам человек

Вокруг света
«Когда заканчиваются слова — начинается насилие» «Когда заканчиваются слова — начинается насилие»

Кирилл Соколов о черной комедии «Оторви и выбрось» и ее трагической актуальности

Weekend
Открыть в приложении