Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В замедленном темпе В замедленном темпе

Многоплановый интерьер, который хочется долго и пристально разглядывать

Идеи Вашего Дома
Почему болит живот Почему болит живот

Боль в животе может возникать по разным причинам

Лиза
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Слова умирающего: это письмо парня, больного раком, изменит твою жизнь Слова умирающего: это письмо парня, больного раком, изменит твою жизнь

Этот пост пользователя с ником mylasttie стал на Reddit первым и последним

Cosmopolitan
Сколько стоит путевка в «ад», зачем русские разморозили доисторических червей и еще 25 крутых фактов Сколько стоит путевка в «ад», зачем русские разморозили доисторических червей и еще 25 крутых фактов

27 шокирующих, забавных и немного грустных фактов

Популярная механика
Знак камикадзе и самураев: 4 значения сакуры, о которых вы могли не знать Знак камикадзе и самураев: 4 значения сакуры, о которых вы могли не знать

Она была символом самураев, ее рисовали на своих самолетах летчики-камикадзе

Вокруг света
Психология бедности: откуда она берется и почему к ней склонны женщины Психология бедности: откуда она берется и почему к ней склонны женщины

Что мешает нам быть богатыми? Если отбросить объективные факторы, то ничего

Cosmopolitan
Магний в рационе: 10 продуктов, которые стоит есть женщинам после 50 лет Магний в рационе: 10 продуктов, которые стоит есть женщинам после 50 лет

В каких продуктах магния больше всего

Популярная механика
Воспоминания об Андрее Тарковском Воспоминания об Андрее Тарковском

Каким был режиссер Андрей Тарковский?

СНОБ
Как устроена работа компании Disney Как устроена работа компании Disney

Как устроена компания Disney, о пути от рядового сотрудника до ее главы

СНОБ
Эдуард Лимонов Эдуард Лимонов

Как жил, кого любил и о чем мечтал хулиган, революционер Эдуард Лимонов

Esquire
Кристоф Андре: «Умение утешать и принимать утешение может открыть перед вами множество новых путей к счастью и благополучию» Кристоф Андре: «Умение утешать и принимать утешение может открыть перед вами множество новых путей к счастью и благополучию»

Кристоф Андре, специалист по лечению тревожных и депрессивных расстройств

Здоровье
5 продуктов, которые все считают полезными, но это не так 5 продуктов, которые все считают полезными, но это не так

Продукты, которые только "притворяются" полезными

Cosmopolitan
Постапокалипсис сегодня Постапокалипсис сегодня

Как кино описывает мир после катастрофы

Weekend
Клара Новикова: «Я могу играть дуру, но не быть ею» Клара Новикова: «Я могу играть дуру, но не быть ею»

У меня интуиция сумасшедшая, она и подсказывала: все получится

Караван историй
Проклятая русская Джоконда: почему картина «Неизвестная» приносит несчастья Проклятая русская Джоконда: почему картина «Неизвестная» приносит несчастья

Даже те, кто не знает названия картины, вздрагивают, увидев ее

Cosmopolitan
Замкнутый круг: почему именно женщины стимулируют развитие циклической экономики Замкнутый круг: почему именно женщины стимулируют развитие циклической экономики

Почему в шеринг-экономике больше женщин

Forbes
Мотивация завистью Мотивация завистью

Завидовать нехорошо, но — полезно. В этом противоречии разбирается психолог

СНОБ
Почему «Дядя Ваня» поступил плохо и как работает регистрация товарного знака Почему «Дядя Ваня» поступил плохо и как работает регистрация товарного знака

Бизнесу в России не удастся сделать обозначения, похожие на иностранные бренды

Inc.
Богиня Луна, страшная клятва и дочь из головы. Отрывок из книги Марии Махановой о древнегреческих мифах Богиня Луна, страшная клятва и дочь из головы. Отрывок из книги Марии Махановой о древнегреческих мифах

Отрывок из сборника мифов и легенд Древней Греции, пересказанных с юмором

СНОБ
Чего на Руси больше всего боялись девушки, только что вышедшие замуж Чего на Руси больше всего боялись девушки, только что вышедшие замуж

Девушка, покинувшая после свадьбы дом, понимала: в новой семье ее ждет опасность

Cosmopolitan
Назад, в прошлое: модные приёмы 80-х, которые стоит повторить сегодня Назад, в прошлое: модные приёмы 80-х, которые стоит повторить сегодня

Модные "фишки" 80-х, которые круто выгуливать и сегодня

VOICE
Сергей Лазарев: «Культа папы-артиста у нас в семье всё-таки нет» Сергей Лазарев: «Культа папы-артиста у нас в семье всё-таки нет»

Сергей Лазарев — о своих детях и творчестве

Cosmopolitan
Магнитное поле сделало спин-обменную связь между калием и гелием сильной Магнитное поле сделало спин-обменную связь между калием и гелием сильной

Физики показали сильную спин-обменную связь между ядрами калия и гелия-3

N+1
Личное пространство: почему нам нужно место силы Личное пространство: почему нам нужно место силы

Почему личное пространство так важно для каждого из нас?

Psychologies
Ох уж эти критические дни: 7 причин для повторной менструации за один месяц Ох уж эти критические дни: 7 причин для повторной менструации за один месяц

Если менструация начинается у тебя два раза в месяц, причин может несколько

VOICE
Екатерина Осипенко: «Женщине достаточно заговорить, чтобы сразу стало понятно, сколько ей лет» Екатерина Осипенко: «Женщине достаточно заговорить, чтобы сразу стало понятно, сколько ей лет»

Красивый голос – показатель качества здоровья, уровня образованности

Здоровье
Когда терапевт ранит. Интервью с клиническим психологом Екатериной Оксанен о травмирующей психотерапии Когда терапевт ранит. Интервью с клиническим психологом Екатериной Оксанен о травмирующей психотерапии

Клинический психолог — что такое абьюзивная психотерапия?

СНОБ
Миллион долларов в месяц: на что тратит деньги Павел Дуров Миллион долларов в месяц: на что тратит деньги Павел Дуров

Павел Дуров говорит, что деньги для него не главное. Разбираемся, так ли это

РБК
Как управлять тревогой и подавленностью: научно-обоснованные практики Как управлять тревогой и подавленностью: научно-обоснованные практики

Чтобы понять эмоции, вам нужен «алфавит», который применим к любой из них

Вокруг света
Открыть в приложении