Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как изменить поведение партнера или начальника: методы из коучинга Как изменить поведение партнера или начальника: методы из коучинга

Можем ли мы повлиять на поведение другого человека, и если да, то как?

Psychologies
Физики научили случайные лазеры собираться по требованию Физики научили случайные лазеры собираться по требованию

Физики продемонстрировали технологию самосборки коллоидных частиц в структуры

N+1
Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением

Как решения используют в России по уборке нефтепродуктов?

Inc.
7 признаков, которые выдают псевдоинтеллектуала 7 признаков, которые выдают псевдоинтеллектуала

Как вывести на чистую воду тех, кто привык казаться, а не быть

Maxim
Как научиться принимать комплименты Как научиться принимать комплименты

Почему бывает трудно принимать комплименты и как с этим справиться

Inc.
Как выбрать пуско-зарядное устройство для автомобиля: основные принципы Как выбрать пуско-зарядное устройство для автомобиля: основные принципы

На что обратить внимание при подборе пуско-зарядного устройства для авто

CHIP
Улик не было: насколько распространены ложные обвинения в изнасиловании Улик не было: насколько распространены ложные обвинения в изнасиловании

Отрывок из книги «Право на секс. Феминизм в XXI веке»

Forbes
Портрет на фоне Галактики Портрет на фоне Галактики

Чёрные дыры – самое смелое предсказание общей теории относительности Эйнштейна

Наука и жизнь
«Нельзя терять ни минуты» «Нельзя терять ни минуты»

В 1930 году в СССР состоялись 13 453 массовых крестьянских выступления

Дилетант
Тиа Уильямс: «Семь дней в июне». История о первой любви, отмеченная книжным клубом Риз Уизерспун Тиа Уильямс: «Семь дней в июне». История о первой любви, отмеченная книжным клубом Риз Уизерспун

История, после которой твоя жизнь не будет прежней — роман «Семь дней в июне»

СНОБ
Ядерные испытания второй половины XX века и ядерный мистицизм Сальвадора Дали Ядерные испытания второй половины XX века и ядерный мистицизм Сальвадора Дали

Почему Сальвадор Дали променял Ленина на Гитлера и при чем тут Бог и атом

Правила жизни
От иранской грязи до обесцвечивания: как женщины в СССР боролись с лишними волосами на теле От иранской грязи до обесцвечивания: как женщины в СССР боролись с лишними волосами на теле

Эпиляция по-советски: что помогало женщинам удалять волосы с тела?

VOICE
Звезды, которые пошли по стопам своих родителей: от юных талантов до опытных мастеров актерского дела Звезды, которые пошли по стопам своих родителей: от юных талантов до опытных мастеров актерского дела

Кто из знаменитых детей продолжил дело своих родителей?

Правила жизни
Кто будет убирать мусор после революции: манифест художницы о неоплачиваемом труде Кто будет убирать мусор после революции: манифест художницы о неоплачиваемом труде

Феминисткий текст Мирлы Ладерман Юклс из сборника «100 арт-манифестов»

Forbes
Почему «Лучше звоните Солу» — великий сериал. Полный гид по спин-оффу «Во все тяжкие» Почему «Лучше звоните Солу» — великий сериал. Полный гид по спин-оффу «Во все тяжкие»

Разбираем на составляющие сериал «Лучше звоните Солу»

Правила жизни
Лариса Лужина: Лариса Лужина:

Обычная жизнь всегда скучнее той, которую для тебя придумали в сценарии

Коллекция. Караван историй
Советы и рекомендации для первого путешествия в Норильск Советы и рекомендации для первого путешествия в Норильск

Норильск: попробовать сагудай и познакомиться с оленеводом

СНОБ
Белое вино в прозрачной бутылке быстрее потеряло аромат Белое вино в прозрачной бутылке быстрее потеряло аромат

Как влияет на белое вино длительное хранение на полке магазина

N+1
Инга Девяткина: «Хороший человек — это профессия» Инга Девяткина: «Хороший человек — это профессия»

До руководителя в «Dr. Живаго» я прошла долгий путь от хостес до администратора

Bones
Как с одного пульта управлять всеми устройствами? Как с одного пульта управлять всеми устройствами?

Как управлять всей домашней электроникой с помощью всего одного устройства

CHIP
Русский губернатор Риги Русский губернатор Риги

Современники отмечали князя Репнина как человека несомненной личной храбрости

Дилетант
Зачем наши предки строили колоссальные корабли из дерева размером с пол- Зачем наши предки строили колоссальные корабли из дерева размером с пол-

Что такое беляны и почему они нынче напрочь забыты

Maxim
5 продуктов из магазина, которые можно вырастить дома 5 продуктов из магазина, которые можно вырастить дома

Из магазинных продуктов вы можете вырастить целый сад

ТехИнсайдер
Как без особых проблем удалить себя из интернета: пособие для тех, кто хочет оставаться анонимом Как без особых проблем удалить себя из интернета: пособие для тех, кто хочет оставаться анонимом

Как стать анонимом и получить, наконец, контроль над своей "цифровой личностью"

ТехИнсайдер
Чем русский борщ отличается от украинского Чем русский борщ отличается от украинского

Историки и рестораторы ответили на застарелый и наболевший вопрос

Maxim
Почему у Юпитера нет таких же колец, как у Сатурна? Или мы их просто не видим? Почему у Юпитера нет таких же колец, как у Сатурна? Или мы их просто не видим?

Почему у Юпитера нет великолепной обширной системы видимых колец?

ТехИнсайдер
Животное в человеке: 6 неочевидных лайфхаков по улучшению самочувствия Животное в человеке: 6 неочевидных лайфхаков по улучшению самочувствия

Какие привычки наших соседей по планете служат своеобразным антистрессом?

Psychologies
Боль, преодоление, катарсис. Почему все стоят на гвоздях и зачем за это платить? Боль, преодоление, катарсис. Почему все стоят на гвоздях и зачем за это платить?

Откуда растут ноги практики стояния на гвоздях и как правильно встать на гвозди

Inc.
Что нам стоик Что нам стоик

Как при помощи стоической философии избавиться от боли

Правила жизни
Кошмар, тревога, паника: как определить уровень стресса по твоим сновидениям? Кошмар, тревога, паника: как определить уровень стресса по твоим сновидениям?

Узнай, что значат уровни стресса и как с ними справиться прямо сейчас

VOICE
Открыть в приложении