Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лыжи, вкатка, два ствола Лыжи, вкатка, два ствола

Правила хорошего биатлона

Men Today
6 ликов Москвы: как менялся город при разных правителях 6 ликов Москвы: как менялся город при разных правителях

История Москвы: шесть сменяющих друг друга городов

Вокруг света
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Подтянуть живот: 8 способов избавиться от висцерального жира Подтянуть живот: 8 способов избавиться от висцерального жира

Как избавиться от висцерального жира на животе.

VOICE
Омолодит и украсит: как подобрать челку по форме лица Омолодит и украсит: как подобрать челку по форме лица

Уак правильно подобрать челку по форме лица?

VOICE
7 физических упражнений, которые помогают снизить уровень сахара в крови 7 физических упражнений, которые помогают снизить уровень сахара в крови

Эти спортивные занятия в домашних условиях безопасны и очень эффективны!

Популярная механика
Едем... К Чехову! Едем... К Чехову!

Интересные литературные маршруты

Лиза
«Дочь выросла, мужа нет, живу с мамой. Не вижу смысла в жизни, как его найти?» «Дочь выросла, мужа нет, живу с мамой. Не вижу смысла в жизни, как его найти?»

Что делать, если вас застал личностный кризис?

Psychologies
Конфликт неизбежен: как в него вступить и не пожалеть? Конфликт неизбежен: как в него вступить и не пожалеть?

Почему мы избегаем выяснения отношений?

Psychologies
Барбара Шер: «Кто сказал, что мечты не приносят денег?» Барбара Шер: «Кто сказал, что мечты не приносят денег?»

Барбара Шер — как страшно начинать даже то, что вам нравится

Psychologies
Как узнать возраст кошки: простые способы Как узнать возраст кошки: простые способы

Есть несколько простых методов выяснить, сколько вашей кошке лет

Популярная механика
Промывка двигателя — что это такое, составы, когда требуется Промывка двигателя — что это такое, составы, когда требуется

Загрязнения могут привести к поломке двигателя, поэтому необходима его промывка

РБК
5 по-настоящему полезных сладостей 5 по-настоящему полезных сладостей

Какие полезные вкусности стоит включить в привычный рацион

Psychologies
От удаления комков Биша до броулифтинга: пластика, которая может тебя состарить От удаления комков Биша до броулифтинга: пластика, которая может тебя состарить

Какие бьюти-манипуляции могут добавить тебе лишних лет

Cosmopolitan
Анастасия Волочкова Анастасия Волочкова

Блиц-интервью с Анастасией Волочковой: неожиданные вопросы и быстрые ответы

ЖАРА Magazine
Почему нельзя оправдывать вербальную агрессию Почему нельзя оправдывать вербальную агрессию

Объясняем, почему вербальная агрессия — это безусловное зло

Psychologies
Как подводные лодки связываются друг с другом под водой: нейтринные коммуникации Как подводные лодки связываются друг с другом под водой: нейтринные коммуникации

Как субмарины держат связь под водой

ТехИнсайдер
Врачи поставили испанцу диагноз по переползающим пятнам на коже Врачи поставили испанцу диагноз по переползающим пятнам на коже

Стронгилоидоз — редкая болезнь, которую вызывает круглый червь

N+1
Как просто взять и убежать от тревожности Как просто взять и убежать от тревожности

Как справиться со стрессом и найти в себе силы двигаться дальше?

Psychologies
Не только «Лолита»: 5 важных книг Владимира Набокова Не только «Лолита»: 5 важных книг Владимира Набокова

Вспоминают важнейшие книги Владимира Набокова

СНОБ
Цихлид и скатов научили прибавлять и вычитать единицу Цихлид и скатов научили прибавлять и вычитать единицу

Цихлиды и скаты понимают арифметические операции

N+1
Никакого бега! Рецепт вечной молодости нестареющей Веры Вонг Никакого бега! Рецепт вечной молодости нестареющей Веры Вонг

Как Вера Вонг поддерживает свою идеальную фигуру?

Cosmopolitan
7 привычек в постели, которые могут разрушить ваш брак 7 привычек в постели, которые могут разрушить ваш брак

Время, которое партнеры проводят в постели вечером — самое главное за день

Psychologies
Измена — в природе мужчин: так ли это? Измена — в природе мужчин: так ли это?

Почему мы думаем, что изменять склонны именно мужчины

Psychologies
Отрывок из книги Александра Панчина «Сумма биотехнологии» Отрывок из книги Александра Панчина «Сумма биотехнологии»

О чтении молекул ДНК и перспективах генной инженерии

СНОБ
Каким был режиссер Леонид Хейфец Каким был режиссер Леонид Хейфец

Педагог и режиссер, воспитавший не одно поколение актеров и зрителей

СНОБ
Маргарет Тэтчер — краткая биография первой женщины с Даунинг-стрит Маргарет Тэтчер — краткая биография первой женщины с Даунинг-стрит

Как жила и за что боролась Маргарет Тэтчер

СНОБ
Их ищут коллекционеры: 5 советских вещей, которые можно выгодно продать сегодня Их ищут коллекционеры: 5 советских вещей, которые можно выгодно продать сегодня

Вещи времен СССР можно найти почти в каждом доме. И это не мертвый груз!

Cosmopolitan
Родные пенаты: готовы ли регионы к внутреннему туризму Родные пенаты: готовы ли регионы к внутреннему туризму

Готовы ли Российские города к наплыву туристов?

Forbes Life
Искусство ниоткуда Искусство ниоткуда

Анна Толстова о том, как послевоенные художники отменили предыдущую культуру

Weekend
Открыть в приложении