Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Синдром опустевшего гнезда, часть 1: дети выросли — что происходит с родителями? Синдром опустевшего гнезда, часть 1: дети выросли — что происходит с родителями?

Ваши дети стали жить самостоятельно, а вы остались наедине с собой?

Psychologies
Симметрия инверсии времени оказалась важна для околомагических ядер Симметрия инверсии времени оказалась важна для околомагических ядер

Квадрупольный и магнитный дипольный моменты изотопов индия зависят от нейтронов

N+1
Как можно использовать искусственный интеллект для создания видео? Интересные факты Как можно использовать искусственный интеллект для создания видео? Интересные факты

Как работают ИИ-видеогенераторы, где их применяют и что ждет нас в будущем

ТехИнсайдер
Генетическое тестирование: зачем оно нужно и почему мы (не) решаемся его сделать? Генетическое тестирование: зачем оно нужно и почему мы (не) решаемся его сделать?

Отрывок из книги про гены «Мальчик, который не переставал расти»

Psychologies
«Река горит!» Как необычный пожар изменил отношение Америки к экологии «Река горит!» Как необычный пожар изменил отношение Америки к экологии

Река Куяхога: пожар, переключивший сознание целой нации

ТехИнсайдер
Удивительные Удивительные

Люди впервые отправились на Луну, а за ними — морские обезьяны

ТехИнсайдер
Что такое материнский инстинкт и почему у людей его, скорее всего, нет Что такое материнский инстинкт и почему у людей его, скорее всего, нет

Материнский инстинкт: в чем он проявляется и почему его нет у людей?

ТехИнсайдер
Ученые впервые обучили ИИ мыслить на уровне новорожденного ребенка Ученые впервые обучили ИИ мыслить на уровне новорожденного ребенка

Алгоритм PLATO научился выстраивать логические цепочки на уровне младенца

ТехИнсайдер
Как выбрать итальянский ресторан и не разочароваться? Пошаговая инструкция от Уиллиама Ламберти Как выбрать итальянский ресторан и не разочароваться? Пошаговая инструкция от Уиллиама Ламберти

Какие ошибки совершают рестораторы, открывая итальянский ресторан?

Правила жизни
Шкалик Шкалик

Анатолий живет очень скромно и пишет роман про старый газетный лист

Правила жизни
Кошкин дом Кошкин дом

Какие зоны надо организовать в квартире, чтобы питомцу было комфортно

Лиза
Беннифер навсегда: история любви Дженнифер Лопес и Бена Аффлека — 20 лет назад и сейчас Беннифер навсегда: история любви Дженнифер Лопес и Бена Аффлека — 20 лет назад и сейчас

Бурный роман, расставание и воссоединение: история Джей Ло и Бена Аффлека

Правила жизни
Ученые «выключили» эйфорию от кокаина у мышей. Но это не сработало с женскими особями Ученые «выключили» эйфорию от кокаина у мышей. Но это не сработало с женскими особями

Открытие, которое поможет в лечении наркозависимости

Вокруг света
«Этот журнал создан для изгнанников» «Этот журнал создан для изгнанников»

Зачем эмигранты основывали собственные издания и чем это заканчивалось

Weekend
«Прыжок в темноту». Как принимать важные решения, если очень страшно «Прыжок в темноту». Как принимать важные решения, если очень страшно

Отрывок из книги «Мужество: почему смелым судьба помогает»

Inc.
До города далеко? До города далеко?

Эмин Агаларов – о секрете долгоиграющих ресторанов

Robb Report
Сергей Фокин: «Свое поварское эго надо засунуть куда подальше» Сергей Фокин: «Свое поварское эго надо засунуть куда подальше»

Сергей Фокин о своем первом ресторане в подвале и увольнении из-за фотосъемки

Bones
Отрывок из книги Элин Хильдебранд «Лето 1969» Отрывок из книги Элин Хильдебранд «Лето 1969»

Глава из новой книги «Лето 1969» Элин Хильдебранд

СНОБ
Почему врачи десятилетиями считали, что работа яичников приводит к женскому безумию Почему врачи десятилетиями считали, что работа яичников приводит к женскому безумию

Почему медики так долго не воспринимали всерьез женские болезни?

СНОБ
Заниматься сексом и еще 7 приятных вещей, которые надо регулярно делать летом, чтобы не болеть зимой Заниматься сексом и еще 7 приятных вещей, которые надо регулярно делать летом, чтобы не болеть зимой

Укреплять организм можно по-разному

Maxim
Семейный подряд: как мать помогала маньяку Александру Спесивцеву охотится на детей Семейный подряд: как мать помогала маньяку Александру Спесивцеву охотится на детей

С1991 по 1996 годы Алексей убил в своей квартире по меньшей мере 19 девочек

VOICE
Мартин Иванов: Всех своих «Таурусов» я получил за фильмы о Борне Мартин Иванов: Всех своих «Таурусов» я получил за фильмы о Борне

Чем известен автомобильный каскадёр Мартин Иванов?

4x4 Club
Пивной живот, обвисшая грудь и еще 6 симптомов, которые могут говорить о серьезных заболеваниях Пивной живот, обвисшая грудь и еще 6 симптомов, которые могут говорить о серьезных заболеваниях

Даже супергероям, у которых никогда ничего не болит, иногда нужен врач

Maxim
Поэт и инвалид Поэт и инвалид

Игорь Гулин об Алике Ривине, эксцентрике и пророке блокады

Weekend
Что происходит с телом человека после смерти? Что происходит с телом человека после смерти?

Что происходит с нашими телами после смерти?

ТехИнсайдер
Как найти выход из любого лабиринта: советы, которые помогут вам не заблудиться Как найти выход из любого лабиринта: советы, которые помогут вам не заблудиться

Не обязательно бродить долго по лабиринту, чтобы из него выбраться

ТехИнсайдер
Правда ли, что Правда ли, что

Почему язык тела воспринимают везде по-разному?

ТехИнсайдер
Хватай и беги: как феминистки в Киргизии борются с обычаем похищения невест Хватай и беги: как феминистки в Киргизии борются с обычаем похищения невест

На киргизских женщин до сих пор нападают на улицах и увозят — чтобы жениться

Forbes
Найден способ связать воедино массивы кремниевых кубитов Найден способ связать воедино массивы кремниевых кубитов

Ученый нашел решение фундаментальной проблемы квантовой вычислительной техники

ТехИнсайдер
Равноногие рачки «опылили» красные водоросли Равноногие рачки «опылили» красные водоросли

Биологи доказали, что животные могут переносить мужские гаметы водорослей

N+1
Открыть в приложении