Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

3 причины, почему не растет уровень нашего дохода 3 причины, почему не растет уровень нашего дохода

Что мы делаем не так? Почему у кого-то зарплата растет, а у нас нет?

Psychologies
Почему в мире с мегаполисами люди до сих пор живут в племенах. Фрагмент книги «Разговоры на песке. Как аборигенное мышление может спасти мир» Почему в мире с мегаполисами люди до сих пор живут в племенах. Фрагмент книги «Разговоры на песке. Как аборигенное мышление может спасти мир»

Фрагмент главы «Мальчик-Альбинос» из книги «Разговоры на песке»

Правила жизни
Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер» Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер»

«Косынка» и «Сапер»: какой замысел Билла Гейтса они в себе таили?

ТехИнсайдер
Две полоски: как вести себя при беременности? Две полоски: как вести себя при беременности?

Как будущей маме стоит изменить свой режим

Psychologies
Почему ученые до сих пор не могут предсказывать землетрясения Почему ученые до сих пор не могут предсказывать землетрясения

Почему землетрясения не поддаются прогнозированию?

ТехИнсайдер
Гепарды вернутся в Индию после 70 лет отсутствия Гепарды вернутся в Индию после 70 лет отсутствия

Возвращение гепардов в Индию пойдет на пользу местной экосистеме

N+1
Во все уши: как научиться слушать и слышать людей и стать хорошим собеседником? Несколько простых советов Во все уши: как научиться слушать и слышать людей и стать хорошим собеседником? Несколько простых советов

Как научиться вовлекаться в диалог и перестать обесценивать собеседника

Правила жизни
Секс-скандал Билла Клинтона и Моники Левински: как сложилась судьба участницы одного из самых громких политических скандалов в современной истории США Секс-скандал Билла Клинтона и Моники Левински: как сложилась судьба участницы одного из самых громких политических скандалов в современной истории США

История Моники Левински — «нулевого пациента» кибербуллинга

Правила жизни
Когда Млечный путь столкнется с Туманностью Андромеды, возникнет новая галактика. Но человечество этого уже не увидит Когда Млечный путь столкнется с Туманностью Андромеды, возникнет новая галактика. Но человечество этого уже не увидит

Через несколько миллиардов лет Млечный Путь и галактика Андромеды столкнутся

ТехИнсайдер
Шамиль Идиатуллин: «Возвращение “Пионера”». Фантастический роман о советских школьниках в 2021 году Шамиль Идиатуллин: «Возвращение “Пионера”». Фантастический роман о советских школьниках в 2021 году

Отрывок из «Возвращение “Пионера”» — истории о том, что нет ничего невозможного

СНОБ
Айновы карусели Айновы карусели

Как живет единственная крупная в России колония атлантических тупиков

Наука и жизнь
Империя и летаргия Империя и летаргия

Памяти Андрея Филиппова

Weekend
Бог создал женщину: какими были первые священнослужительницы в разных религиях Бог создал женщину: какими были первые священнослужительницы в разных религиях

Женщины с давних времен были на «мужских постах» в ключевых религиях мира

Forbes
От  От 

Необычные и невероятно красивые места России

Караван историй
«Позорная стигма»: историк Михаил Майзульс о том, как в Средневековье помечали врагов «Позорная стигма»: историк Михаил Майзульс о том, как в Средневековье помечали врагов

Историк-медиевист Михаил Майзульс — как в Средние века использовали цвет

Forbes
Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией Неолитических жителей Словакии заподозрили в насилии над пожилой женщиной с плагиоцефалией

Пожилая женщина могла подвергаться насилию из-за деформированного черепа

N+1
«Работает мало, делает много»: как российские экзоскелеты ускоряют производство «Работает мало, делает много»: как российские экзоскелеты ускоряют производство

Экзоскелеты: как их можно применять в сфере производства

ТехИнсайдер
Контроль государства и контркультура: каким было российское кино в последние 20 лет Контроль государства и контркультура: каким было российское кино в последние 20 лет

Что произошло с российским кинематографом в XXI веке

Forbes
Что такое бубонная чума — симптомы и лечение Что такое бубонная чума — симптомы и лечение

Возможно ли распространение бубонной чумы в современном мире?

СНОБ
«Титановый желудок»: рассказываем историю парня, который питается просрочкой — и пользуется успехом «Титановый желудок»: рассказываем историю парня, который питается просрочкой — и пользуется успехом

Британец ставит эксперименты на собственным желудке

Maxim
Зачем разрешать ребенку баловаться: 5 советов для родителей и воспитателей Зачем разрешать ребенку баловаться: 5 советов для родителей и воспитателей

Почему детская шалость — это абсолютно нормально

Psychologies
Японский кавалер Японский кавалер

По иностранным наградам можно легко проследить изменения внешней политики России

Дилетант
Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо

Женщины, которые первые покорили небо

Forbes
Вредные привычки Кейт Миддлтон — от несоблюдения этикета до курения Вредные привычки Кейт Миддлтон — от несоблюдения этикета до курения

Рассказываем о вредных привычках герцогини Кейт Миддлтон

VOICE
Может ли Человек-паук действительно остановить поезд паутиной Может ли Человек-паук действительно остановить поезд паутиной

Так ли прочна паутина Человека-паука, как это показано в фильмах?

ТехИнсайдер
Национальные десерты Национальные десерты

Современный авторский взгляд на национальные десерты

Bones
3 способа навести порядок в своей жизни 3 способа навести порядок в своей жизни

Кажется, что жизнь мрачна и беспросветна. Можем ли мы что-то с этим сделать?

Psychologies
Без вины виноватые. Как перестать чувствовать ответственность за то, что невозможно контролировать Без вины виноватые. Как перестать чувствовать ответственность за то, что невозможно контролировать

Как не чувствовать себя виноватым в том, на что не можешь повлиять?

Inc.
10 самолетов, изготовленных в неожиданных странах 10 самолетов, изготовленных в неожиданных странах

Ну какая авиадержава из Пакистана или Болгарии? Однако, и там делают самолёты!

ТехИнсайдер
Совместное проживание с партнером: как подготовиться Совместное проживание с партнером: как подготовиться

Как правильно подготовиться к важному этапу совместного проживания?

Psychologies
Открыть в приложении