Что такое deepfake и опасен ли он на самом деле

Популярная механикаHi-Tech

Deepfake и как с ним бороться

Технологии, профессионально обманывающие человеческое восприятие, широко применяются в разных сферах. К примеру, В Южной Корее кандидата в президенты продвигают с помощью дипфейка. Что такое deepfake и опасен ли он на самом деле нам рассказал Александро Паркин, руководитель исследовательских проектов VisionLabs.

Не верь глазам своим, компьютер

Термин deepfake — от deep learning («глубокое обучение») и fake («подделка») — употребляется достаточно широко и обозначает практически любое изменение цифровых медиаданных с целью ввести в заблуждение компьютерную систему распознавания образов или живого наблюдателя. Например, вместо одного лица «приставить» к фигуре человека на видео другое (это называется Face Swap, замена лица), или же вместо довольной улыбки правдоподобно изобразить гримасу негодования (Face Reenactment, замена выражения лица).

Помимо deepfake, есть два основных вектора атак систем распознавания: на вычислительные алгоритмы и на сами камеры. К первому типу относятся Adversarial-атаки — тщательным образом подготовленные изменения входных данных, результатом которых становится выдача нейронной сетью ошибочного решения; скажем, когда изображение черепашки, для человека совершенно однозначное, машиной воспринимается как гоночный автомобиль. Атака «на камеру», пик популярности которой пришёлся на первые годы широкого распространения систем распознавания лиц это Liveness, подмена живого лица перед камерой его искусственным подобием — распечатанным на бумаге фото, портретным снимком на экране планшета, правдоподобно раскрашенной и напечатанной на 3D-принтере маской.

К счастью, современные системы распознавания уже неплохо умеют противостоять Liveness-атакам на уровне алгоритмов. Производится детальный анализ картинки в поисках особых признаков: для распечатанного фото это может быть обрез бумажного листа, для картинки на планшете — радужные блики от внешних источников света на ЖК-матрице и т. п. Стоящего перед камерой человека можно попросить покачать головой вверх-вниз, повернуться в разные стороны, чтобы повысить достоверность отождествления и заодно удостовериться, что «подмены лица» здесь нет.

0e3675c09e0bbbe3d7a850b3f8403e88.jpg

Ситуация несколько сложнее, если вычислительный модуль системы распознавания и камера не совмещены в одном корпусе (как у iPhone в случае Face ID или у системы Face Pay в Московском метрополитене), а взаимодействуют через Интернет. К примеру, человек в ходе Zoom-конференции с сотрудником банка оформляет кредит, и необходимо удостовериться тот ли он, за кого себя выдаёт и чьи документы предъявляет. Здесь уже возникает опасность перехвата трафика: злоумышленник имитирует на ПК изображение с виртуальной камеры, заменяя собственное

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

За люриком под парусами За люриком под парусами

Странные чувства теребят меня после очередной северной экспедиции

Наука и жизнь
Запузыривание: как делают корабли в бутылках Запузыривание: как делают корабли в бутылках

Как модель парусника попадает в бутылку?

ТехИнсайдер
Ночной режим съемки в смартфоне: как творится волшебство Ночной режим съемки в смартфоне: как творится волшебство

Заглянем «под капот» режима ночной съемки в смартфоне

CHIP
Палеоантропологи обнаружили в Колыбели человечества пяточную кость гоминина Палеоантропологи обнаружили в Колыбели человечества пяточную кость гоминина

Палеоантропологи исследовали пяточную кость, обнаруженную во время раскопок

N+1
Диана Иваницкая: «Был период, когда я была жесткой панкухой» Диана Иваницкая: «Был период, когда я была жесткой панкухой»

Любуемся фотосессией певицы Диана Иваницкая

Maxim
8 растений, которые можно подкармливать золой 8 растений, которые можно подкармливать золой

Почти всё, что нужно знать про одно из лучших и доступных удобрений

Популярная механика
Хватка моря: что делать, если вы попали в отбойное течение Хватка моря: что делать, если вы попали в отбойное течение

Что такое отбойные течения и что делать попавшим в них?

Популярная механика
Кто такая Инесса Арманд и правда ли она была любовницей Ленина? Кто такая Инесса Арманд и правда ли она была любовницей Ленина?

Ленин был женат на своей любимой революции и немножко на Крупской

Maxim
Как увольнение помогло мне найти свой путь Как увольнение помогло мне найти свой путь

История нашей героини, которой неудача в карьере помогла изменить жизнь

Psychologies
Как уменьшить риск сердечно-сосудистых заболеваний Как уменьшить риск сердечно-сосудистых заболеваний

Сердечно-сосудистые заболевания – основная причина смерти во всём мире

Здоровье
Как живут аргентинцы и чему у них можно научиться (а чему не стоит) Как живут аргентинцы и чему у них можно научиться (а чему не стоит)

Чему можно научиться, живя в Аргентине?

РБК
Химики получили неорганический аналог ферроцена Химики получили неорганический аналог ферроцена

Химикам удалось синтезировать полностью неорганический аналог ферроцена

N+1
Не поеду, а то заболею. Как перестать бояться за свое здоровье во время путешествий Не поеду, а то заболею. Как перестать бояться за свое здоровье во время путешествий

Возможность заболеть – не значит, что не стоит никуда ездить

Лиза
Как быстро снять стресс: советы нейропсихолога Как быстро снять стресс: советы нейропсихолога

Вы знаете, что при стрессе нужно… смеяться?

Psychologies
В погоне за наживой и спасением души В погоне за наживой и спасением души

Произведения, посвящённые «благородным разбойникам»

Дилетант
Красота и политика: чему учат современных лидеров Кир Великий и Александр Македонский Красота и политика: чему учат современных лидеров Кир Великий и Александр Македонский

Красота всегда была символом власти и, в то же время, — проводником перемен

Вокруг света
Дистанционное управление прожекторами на даче: просто, быстро и дешево Дистанционное управление прожекторами на даче: просто, быстро и дешево

Наладить дистанционное управление освещением на даче довольно просто

CHIP
Как похудеть на 5 кг за неделю? тебе поможет детокс-диета Гвинет Пэлтроу Как похудеть на 5 кг за неделю? тебе поможет детокс-диета Гвинет Пэлтроу

Детокс-диета Гвинет Пэлтроу, которая помогает очистить организм

VOICE
Вымерший гастерантус вымерший оказался невымершим Вымерший гастерантус вымерший оказался невымершим

Редкое растение переоткрыли почти 40 лет спустя после последней находки

N+1
«Позовите капитана Ященко»: топ-10 самых смешных розыгрышей на 1 апреля «Позовите капитана Ященко»: топ-10 самых смешных розыгрышей на 1 апреля

День дурака запомнился нашим читательницам больше всего

Cosmopolitan
Умные алгоритмы онлайн-кинотеатров: как искусственный интеллект диктует нам, что посмотреть этим вечером Умные алгоритмы онлайн-кинотеатров: как искусственный интеллект диктует нам, что посмотреть этим вечером

Почему технологии искусственного интеллекта так важны для контентных платформ

Популярная механика
7 автомобилей и мотоциклов с двигателями от танков: кадры самых мощных моделей 7 автомобилей и мотоциклов с двигателями от танков: кадры самых мощных моделей

Перед нами безумно мощные и очень тяжёлые автомобили с двигателями от танков

ТехИнсайдер
Мир с тенью Мир с тенью

Барри Левинсон о возможности жизни после Освенцима

Weekend
30 лет живет жизнью королевы, забыв о себе: всё об официальном двойнике Елизаветы II 30 лет живет жизнью королевы, забыв о себе: всё об официальном двойнике Елизаветы II

Мало кто знает, что у королевы Елизаветы есть официальный двойник

VOICE
Великие генетики спорят о сексе Великие генетики спорят о сексе

Алексей Алексенко продолжает цикл публикаций «Зачем живые любят друг друга»

СНОБ
Тайминги оперативной памяти: разбираемся, какие значения лучше Тайминги оперативной памяти: разбираемся, какие значения лучше

Что такое тайминги оперативной памяти и какое значение они имеют

CHIP
Здоровое питание и секреты похудения: советы от врачей Здоровое питание и секреты похудения: советы от врачей

В похудении самое главное — никуда не спешить и твердо стоять на своем!

Популярная механика
«Мама заявила, что я ей больше не дочь» «Мама заявила, что я ей больше не дочь»

Что делать, если ваша мама пытается вами манипулировать?

Psychologies
Физики напечатали порцию Физики напечатали порцию

Ученые разработали идеальную по вкусу кусочек шоколада

Популярная механика
Потемки катализа. Почему химики до сих пор ищут катализаторы на ощупь Потемки катализа. Почему химики до сих пор ищут катализаторы на ощупь

Катализаторы — химические соединения, которые ускоряют реакции

N+1
Открыть в приложении