Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

7 физических упражнений, которые помогают снизить уровень сахара в крови 7 физических упражнений, которые помогают снизить уровень сахара в крови

Эти спортивные занятия в домашних условиях безопасны и очень эффективны!

Популярная механика
Что такое сексизм: 6 примеров Что такое сексизм: 6 примеров

Сексистские высказывания, которые женщины слышат в свой адрес каждый день

Psychologies
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Невероятные открытия о работе нашей памяти: как ученые стимулировали воспоминания током и составляли карту мозга Невероятные открытия о работе нашей памяти: как ученые стимулировали воспоминания током и составляли карту мозга

Отрывок из книги Мэтью Кобба «Мозг: биография»

Популярная механика
Неизвестная страница истории Варшавского гетто: как врачи смогли остановить эпидемию Неизвестная страница истории Варшавского гетто: как врачи смогли остановить эпидемию

Медикам, оказавшимся в гетто, удалось предотвратить распространение сыпного тифа

Вокруг света
«Выхожу на работу, через пару месяцев начинаю болеть и увольняюсь» «Выхожу на работу, через пару месяцев начинаю болеть и увольняюсь»

Как замкнутый круг из самообмана может навредить карьере?

Psychologies
11 фильмов о человеке в эпоху экономического кризиса 11 фильмов о человеке в эпоху экономического кризиса

Фильмы, в которых люди важнее денег, а финансовые кризисы — лишь пейзаж

Weekend
Какие физические упражнения нельзя делать после 50 лет: спортивные советы Какие физические упражнения нельзя делать после 50 лет: спортивные советы

Расскажем, как людям старшего возраста тренироваться эффективно и безопасно!

Популярная механика
10 правил, которые помогут контролировать уровень сахара в крови 10 правил, которые помогут контролировать уровень сахара в крови

С этими правилами поддерживать здоровый уровень сахара в крови совсем не сложно

Популярная механика
8 способов обмануть свой мозг, когда вы на диете 8 способов обмануть свой мозг, когда вы на диете

Может ли ваш мозг саботировать ваши усилия по снижению веса?

Популярная механика
Что лучше есть, если повышен сахар в крови: полезные продукты Что лучше есть, если повышен сахар в крови: полезные продукты

Чем опасны йогурты и какие напитки наиболее безопасны?

Популярная механика
От Елизаветы II до Натальи Водяновой: 10 кукол Barbie в виде звезд От Елизаветы II до Натальи Водяновой: 10 кукол Barbie в виде звезд

Вспоминаем куклы Barbie в виде медийных личностей

РБК
Хватка моря: что делать, если вы попали в отбойное течение Хватка моря: что делать, если вы попали в отбойное течение

Что такое отбойные течения и что делать попавшим в них?

Популярная механика
Правила жизни Эди Седжвик Правила жизни Эди Седжвик

Правила жизни Эди Седжвик — модели, актрисы и музы Энди Уорхола

Esquire
Редкие травы: как Ту Юю получила Нобелевскую премию за традиционную медицину Редкие травы: как Ту Юю получила Нобелевскую премию за традиционную медицину

Китайской химику-фармацевту Ту Юю 91 год. В 80 лет она получила премию Ласкера

Forbes
Призывная комиссия: почему служба в армии приводит к экономическим издержкам Призывная комиссия: почему служба в армии приводит к экономическим издержкам

Призыв наносит существенный вред как призывникам так и экономике страны

Forbes
Некоторых кельтов из Вероны заподозрили в альпийском происхождении Некоторых кельтов из Вероны заподозрили в альпийском происхождении

Биоархеологи исследовали останки 49 индивидов, живших в III–I веках до нашей эры

N+1
Свадебная пластика: топ-3 популярных операций, востребованных у невест Свадебная пластика: топ-3 популярных операций, востребованных у невест

Какую пластическую операцию можно успеть сделать до свадьбы

Cosmopolitan
Кто такая Инесса Арманд и правда ли она была любовницей Ленина? Кто такая Инесса Арманд и правда ли она была любовницей Ленина?

Ленин был женат на своей любимой революции и немножко на Крупской

Maxim
Видеть насквозь: разбираемся, что такое машинное зрение и для чего оно нужно Видеть насквозь: разбираемся, что такое машинное зрение и для чего оно нужно

Как улучшение машинного зрения поможет человечеству?

Вокруг света
Можно ли выпасть во время катания на американских горках и другие интересные факты о парке развлечений Можно ли выпасть во время катания на американских горках и другие интересные факты о парке развлечений

Выясняем все подробности о создании и устройстве парка аттракционов

Популярная механика
Энеолитическим скотоводам из Предкавказья приглянулось овечье молоко Энеолитическим скотоводам из Предкавказья приглянулось овечье молоко

Молекулярные биологи провели исследование зубного камня у 45 древних людей

N+1
Робингудская «почемучка» Робингудская «почемучка»

Отвечаем на наиболее распространённые вопросы о Робин Гуде и Средних веках

Дилетант
В спинном мозге мышей обнаружили нейроны приятных прикосновений В спинном мозге мышей обнаружили нейроны приятных прикосновений

Исследователи изучили один из типов нейронов медленных волокон в спинном мозге

N+1
Погода в доме: как сохранить устойчивые отношения в коллективе во время кризиса Погода в доме: как сохранить устойчивые отношения в коллективе во время кризиса

Как вести себя руководителю в кризисные времена

Inc.
Кто такая Amouranth и почему ее хотят половина зрителей Twitch Кто такая Amouranth и почему ее хотят половина зрителей Twitch

Рассказываем о сексуальной красотке и ее многомиллионных заработках.

Maxim
6 случаев, когда учащенное сердцебиение абсолютно безопасно для твоего здоровья 6 случаев, когда учащенное сердцебиение абсолютно безопасно для твоего здоровья

Почему сердце начинает биться чаще?

Лиза
Репортаж со съемок сериала «Нулевой пациент» Репортаж со съемок сериала «Нулевой пациент»

Поговорить о ВИЧ в социальном аспекте решил сценарист «Нулевого пациента»

СНОБ
«Нельзя терять своих»: социальный психолог о разных ценностях в современных семьях «Нельзя терять своих»: социальный психолог о разных ценностях в современных семьях

Как общаться с родственниками в кризисное время?

Forbes
Документальное кино о технологиях будущего: 10 фильмов про изобретателей и инновации Документальное кино о технологиях будущего: 10 фильмов про изобретателей и инновации

Увлекательные документальные фильмы про инновации будущего

Forbes
Открыть в приложении