Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кроме шуток: что поменяется в Twitter с приходом Маска и чего боятся его сотрудники Кроме шуток: что поменяется в Twitter с приходом Маска и чего боятся его сотрудники

К концу прошлой недели сотрудники Twitter стали высказывать свои опасения

Forbes
Королевское искушение: 5 блюд марокканской кухни Королевское искушение: 5 блюд марокканской кухни

В марокканской кухне экстравагантно сочетаются разные вкусы

Вокруг света
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Как убрать жир с живота? 6 эффективных рекомендаций Как убрать жир с живота? 6 эффективных рекомендаций

Почему откладывается абдоминальный жир и как с ним бороться?

VOICE
Хроническая тревожность: почему очень опасно постоянно переживать и волноваться Хроническая тревожность: почему очень опасно постоянно переживать и волноваться

Тебе знакомо чувство странной, иррациональной тревоги?

Cosmopolitan
5 вопросов об аллергии 5 вопросов об аллергии

Аллергия — болезнь, на которую не начхать

Maxim
Не только «Москва»: 10 знаменитых кораблей российского флота, которые затонули Не только «Москва»: 10 знаменитых кораблей российского флота, которые затонули

Некоторые из них тонули бездарно, другие подарили нам героические истории.

Maxim
Что нужно знать на первом свидании? Что нужно знать на первом свидании?

Советы, как найти внутренний баланс и успешно провести первое свидание

Psychologies
Жилище всем на зависть: 3 главных архитектора в мире насекомых Жилище всем на зависть: 3 главных архитектора в мире насекомых

Сложные гнезда создают не только муравьи

Вокруг света
5 способов найти применения старым гаджетам: они вам пригодятся 5 способов найти применения старым гаджетам: они вам пригодятся

Мы знаем лучшее применение устаревших гаджетов

Популярная механика
Нефть — живая и мертвая: откуда берется черное золото Нефть — живая и мертвая: откуда берется черное золото

Прогноз о скором истощении запасов нефти специалисты воспринимают по-разному

ТехИнсайдер
Как управлять сетью пунктов выдачи заказов через чек-листы Как управлять сетью пунктов выдачи заказов через чек-листы

Как открыть точку выдачи заказов и грамотно ей управлять?

VC.RU
Как менялся климат нашей планеты: непредсказуемые колебания Как менялся климат нашей планеты: непредсказуемые колебания

Насколько велико влияние человечества на климат планеты, почему он меняется

Популярная механика
Как надо воспитывать девушек: цитата Макаренко, актуальная до сих пор Как надо воспитывать девушек: цитата Макаренко, актуальная до сих пор

Способы воспитания, о которых рассказывал Макаренко, актуальны до сих пор

Cosmopolitan
Как сербская старушка стала одной из самых массовых серийных убийц в истории Как сербская старушка стала одной из самых массовых серийных убийц в истории

Нелюдимая старушка Анна де Пиштонья сжила со свету от 50 до 150 человек

Cosmopolitan
7 фактов о Великобритании 7 фактов о Великобритании

Куда отправиться за привидениями и почему британские собаки пахнут бергамотом?

Лиза
Алла Довлатова: «Жена Нагиева мстила соперницам» Алла Довлатова: «Жена Нагиева мстила соперницам»

По дороге Нагиев наплел мне, семнадцатилетней дуре, что совершенно свободен

Коллекция. Караван историй
От заморозки яйцеклеток до искусственной матки: как будут рождаться люди будущего От заморозки яйцеклеток до искусственной матки: как будут рождаться люди будущего

Современная медицина позволяет женщинам заботиться о репродуктивном здоровье

Вокруг света
Погода в доме: как сохранить устойчивые отношения в коллективе во время кризиса Погода в доме: как сохранить устойчивые отношения в коллективе во время кризиса

Как вести себя руководителю в кризисные времена

Inc.
6 продуктов, которые точно не помогут похудеть 6 продуктов, которые точно не помогут похудеть

Пищевые ловушки здоровых продуктов

Популярная механика
Зачем нам суперфуды Зачем нам суперфуды

Топ-6 самых полезных и при этом доступных продуктов

Лиза
Как удержать Солнце: материалы для термоядерных реакторов, и причем здесь пыль Как удержать Солнце: материалы для термоядерных реакторов, и причем здесь пыль

Термоядерная энергетика будоражит умы уже не одного поколения ученых

Популярная механика
БАЗАР сказал БАЗАР сказал

Группа «БАЗАР» — это «очень плохой стартап», но чертовски хорошая музыка

ЖАРА Magazine
Кристоф Андре: «Умение утешать и принимать утешение может открыть перед вами множество новых путей к счастью и благополучию» Кристоф Андре: «Умение утешать и принимать утешение может открыть перед вами множество новых путей к счастью и благополучию»

Кристоф Андре, специалист по лечению тревожных и депрессивных расстройств

Здоровье
9 фактов о космосе, в которые трудно поверить 9 фактов о космосе, в которые трудно поверить

Что необычного скрывает космос?

РБК
Загадочные письма Серклвилля: как один человек держал в страхе целый город Загадочные письма Серклвилля: как один человек держал в страхе целый город

История о любителе шпионить за людьми

Cosmopolitan
Археологи нашли в Норвегии вытаявшую из ледника древнюю кожаную туфлю Археологи нашли в Норвегии вытаявшую из ледника древнюю кожаную туфлю

Археологи сообщили о результатах исследования ледяного пятна Хестфонни

N+1
Современные весы: что означают цифры на «умных» устройствах Современные весы: что означают цифры на «умных» устройствах

Что и как можно понять из выданных показателей умных весов

VOICE
За «бешеными деньгами»: кто поехал в Эмираты и почему многие там не задержатся За «бешеными деньгами»: кто поехал в Эмираты и почему многие там не задержатся

Почему выбирают Эмираты, какие трудности ждут на месте?

Forbes
Генетики разобрались в эволюции динго и домашних собак Генетики разобрались в эволюции динго и домашних собак

Геномы динго и собак указывают на то, что они приспособились к разным видам пищи

N+1
Открыть в приложении