Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как вы яхту назовёте... Как вы яхту назовёте...

Тест-драйв внедорожника Tank 300 в Хакасии

Robb Report
Как у Альбы и Бекхэм: эта обувь бесповоротно вышла из моды — не повтори ошибки! Как у Альбы и Бекхэм: эта обувь бесповоротно вышла из моды — не повтори ошибки!

Где идеальную пару точно искать не стоит — в этих главных антитрендах весны

Cosmopolitan
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Когда терапевт ранит. Интервью с клиническим психологом Екатериной Оксанен о травмирующей психотерапии Когда терапевт ранит. Интервью с клиническим психологом Екатериной Оксанен о травмирующей психотерапии

Клинический психолог — что такое абьюзивная психотерапия?

СНОБ
Красота тела: 9 главных торсов мирового искусства Красота тела: 9 главных торсов мирового искусства

Изображения людей — особое направление искусства

Вокруг света
Что такое холодное отбеливание зубов Zoom 4 и кому оно подходит Что такое холодное отбеливание зубов Zoom 4 и кому оно подходит

Если природа не наделила тебя белоснежной улыбкой, это не проблема

Cosmopolitan
Водоросли с богатым прошлым и большим будущим: все о пользе и вреде морского мха Водоросли с богатым прошлым и большим будущим: все о пользе и вреде морского мха

Морской мох давно используется в производстве продуктов и косметики

Вокруг света
«Самая высокооплачиваемая ниша индустрии»: Зоя Чернавина о перманентном макияже «Самая высокооплачиваемая ниша индустрии»: Зоя Чернавина о перманентном макияже

Зоя Чернавина — о том, как найти «своего» мастера перманентного макияжа

Cosmopolitan
Аффирмации на богатство и изобилие — 35 самых действенных Аффирмации на богатство и изобилие — 35 самых действенных

Аффирмации имеют силу. Они больше чем просто слова

Cosmopolitan
10 книг, с которыми ты станешь умнее и достигнешь успеха 10 книг, с которыми ты станешь умнее и достигнешь успеха

Просто бери эти книги и умней с каждой прочитанной страницей!

VOICE
Штрафы за среднюю скорость и оформление ДТП: как будут работать камеры Штрафы за среднюю скорость и оформление ДТП: как будут работать камеры

Власти планируют расширить способы применения дорожных камер

РБК
Как управлять сетью пунктов выдачи заказов через чек-листы Как управлять сетью пунктов выдачи заказов через чек-листы

Как открыть точку выдачи заказов и грамотно ей управлять?

VC.RU
Прекрати стареть сейчас: 7 секретов, чтобы выглядеть и чувствовать себя моложе Прекрати стареть сейчас: 7 секретов, чтобы выглядеть и чувствовать себя моложе

Старение — часть жизни, которую мы не можем остановить, но можем замедлить

Cosmopolitan
«О беременности и об измене мужа я узнала в один день» «О беременности и об измене мужа я узнала в один день»

Можно ли простить измену партнера, когда вы ждете общего ребенка?

Psychologies
«Я желаю ей обычной жизни» «Я желаю ей обычной жизни»

Как жить с первичным иммунодефицитом

СНОБ
Женщина-собственница: чем ты рискуешь, если считаешь мужчину своим имуществом Женщина-собственница: чем ты рискуешь, если считаешь мужчину своим имуществом

«Мой мужчина должен быть только моим» — чем это может обернуться на практике?

Cosmopolitan
Мяу по-русски: как понять, о чем на самом деле говорят кошки Мяу по-русски: как понять, о чем на самом деле говорят кошки

Основным средством коммуникации кошки с ее человеком стали звуки

ТехИнсайдер
Алла Довлатова: «Жена Нагиева мстила соперницам» Алла Довлатова: «Жена Нагиева мстила соперницам»

По дороге Нагиев наплел мне, семнадцатилетней дуре, что совершенно свободен

Коллекция. Караван историй
5 способов найти применения старым гаджетам: они вам пригодятся 5 способов найти применения старым гаджетам: они вам пригодятся

Мы знаем лучшее применение устаревших гаджетов

Популярная механика
Папа, плати! Папа, плати!

С кого будут взимать алименты в 2022 году

Лиза
Цепь переменного токена: почему NFT считают фикцией, но все равно покупают Цепь переменного токена: почему NFT считают фикцией, но все равно покупают

Имеет ли владелец NFT исключительные права на произведения искусства?

Популярная механика
Мы боимся говорить о деньгах: почему и как это исправить? Мы боимся говорить о деньгах: почему и как это исправить?

Деньги — одна из самых табуированных тем

Psychologies
Плавали, знаем: как тренироваться в бассейне, чтобы похудеть Плавали, знаем: как тренироваться в бассейне, чтобы похудеть

Выясняем, можно ли похудеть, плавая в бассейне, и как это сделать эффективно

VOICE
Потерянный рай экономики: чудеса находчивости Голландской Ост-Индской компании Потерянный рай экономики: чудеса находчивости Голландской Ост-Индской компании

Морская торговля в XVI-XVII веках стала важным источником дохода Старого Света

Вокруг света
Борьба за выживание: зачем женщинам ПМС Борьба за выживание: зачем женщинам ПМС

Возможно, ПМС у женщин развился как полезная адаптация в ходе эволюции

Psychologies
«Позолоченный век»: сериал о сильных женщинах из великосветских гостиных Нью-Йорка «Позолоченный век»: сериал о сильных женщинах из великосветских гостиных Нью-Йорка

«Позолоченный век» — костюмная драма об одноименной эпохе в истории Америки

Forbes
Домой из «Дома-2» Домой из «Дома-2»

«Нереалити»: русская провинция в сериале Анны Пармас

Weekend
Зинаида Гиппиус. В поисках утраченной любви Зинаида Гиппиус. В поисках утраченной любви

Зинаида Гиппиус — декадентская мадонна

Караван историй
Как чашка кофе может привести к диабету и кому лучше от него отказаться Как чашка кофе может привести к диабету и кому лучше от него отказаться

Как узнать, можно ли вам кофе и сколько?

Популярная механика
8 простых советов, которые позволят протирать пыль раз в месяц и реже 8 простых советов, которые позволят протирать пыль раз в месяц и реже

Как свести пыль в доме к минимуму

Cosmopolitan
Открыть в приложении