Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 правил воспитания, которым следует родитель-нарцисс 5 правил воспитания, которым следует родитель-нарцисс

Пять правил воспитания, которым обычно следуют родители-нарциссы

Psychologies
«Титановый желудок»: рассказываем историю парня, который питается просрочкой — и пользуется успехом «Титановый желудок»: рассказываем историю парня, который питается просрочкой — и пользуется успехом

Британец ставит эксперименты на собственным желудке

Maxim
Цифровое око правосудия. Как роботы помогают искать преступников в России Цифровое око правосудия. Как роботы помогают искать преступников в России

Смогут ли роботы заменить следователей и нужно ли это?

Inc.
10 способов приготовить привычные блюда по-новому: кулинарные лайфхаки на каждый день 10 способов приготовить привычные блюда по-новому: кулинарные лайфхаки на каждый день

Оригинальные способы приготовления хорошо знакомых блюд

ТехИнсайдер
Дышать или не дышать: насколько эффективна дорогостоящая ксенонотерапия Дышать или не дышать: насколько эффективна дорогостоящая ксенонотерапия

Ксенонотерапия: что это за метод, безопасен ли он и насколько полезен в лечении?

Forbes
Ученые установили, как Ученые установили, как

Зомби-клетки — это клетки, которые продолжают жить, но уже не могут делиться

ТехИнсайдер
Краденые яблоки мира: 7 уроков Евгения Евтушенко Краденые яблоки мира: 7 уроков Евгения Евтушенко

18 июля 2022 года, Евгению Евтушенко могло бы исполниться 90 лет

Правила жизни
«Джейн глазами Шарлотты»: документальное кино об отношениях в семье Генсбур-Биркин «Джейн глазами Шарлотты»: документальное кино об отношениях в семье Генсбур-Биркин

Почему кино «Джейн глазами Шарлотты» — больше, чем просто байопик

Forbes
Часы за 50 миллионов и дорогие тачки: как и на чем зарабатывает Джиган Часы за 50 миллионов и дорогие тачки: как и на чем зарабатывает Джиган

Откуда у Джигана столько денег?

VOICE
Одна вокруг света: три дня по грунтовке и прощание с Андами Одна вокруг света: три дня по грунтовке и прощание с Андами

177-я серия о кругосветном путешествии Ирины Сидоренко: заповедник в Перу

Forbes
Зеленое меню Зеленое меню

Почему зеленое меню — не панацея

Bones
Галоскоп ORGAN не нашел аксионов массой от 63 до 67 микроэлектронвольт Галоскоп ORGAN не нашел аксионов массой от 63 до 67 микроэлектронвольт

Физики отчитались о первой фазе работы эксперимента ORGAN

N+1
Язык ненависти vs язык мира: как реагировать на агрессию в повседневном общении? Язык ненависти vs язык мира: как реагировать на агрессию в повседневном общении?

Как реагировать на язык вражды и что ему можно противопоставить?

Psychologies
8 вещей и явлений, названных в честь исторических личностей 8 вещей и явлений, названных в честь исторических личностей

Иногда новым словом становится чье-то имя или фамилия

ТехИнсайдер
5 исторических мифов, в которые мы все еще верим 5 исторических мифов, в которые мы все еще верим

Не факт, что историческая информация из письменных источников древности правдива

ТехИнсайдер
«Попкорновое легкое», которое убивает: какая опасность грозит любителям вейпов и других электронных сигарет «Попкорновое легкое», которое убивает: какая опасность грозит любителям вейпов и других электронных сигарет

Электронные сигареты — небезопасная альтернативу «классическому» курению

VOICE
Как найти выход из любого лабиринта: советы, которые помогут вам не заблудиться Как найти выход из любого лабиринта: советы, которые помогут вам не заблудиться

Не обязательно бродить долго по лабиринту, чтобы из него выбраться

ТехИнсайдер
Работа на больничном и еще 5 привычек, из-за которых мы глупеем Работа на больничном и еще 5 привычек, из-за которых мы глупеем

Если вам кажется, что ваши родители в вашем возрасте были умнее, вам не кажется

Psychologies
«Человек-экспонат»: история мальчика из Дудинки, чей портрет висит в офисе ООН «Человек-экспонат»: история мальчика из Дудинки, чей портрет висит в офисе ООН

Мальчик с портрета, который висит в ООН — о жизни и важности сохранения истории

СНОБ
Маленький советский апокалипсис: как за два часа с карты исчез целый город Маленький советский апокалипсис: как за два часа с карты исчез целый город

Информацию об этой трагедии рассекретили только в 2000-х

VOICE
Дикие истории Дикие истории

Как накормить гостя не только вкусной, но и полезной едой?

Bones
6 признаков, что у твоего мужа кризис среднего возраста: ты должна знать их все! 6 признаков, что у твоего мужа кризис среднего возраста: ты должна знать их все!

Как помочь мужу справиться с кризисом среднего возраста

VOICE
Телефон в руке и собака в салоне: за что можно получить штраф от ГИБДД Телефон в руке и собака в салоне: за что можно получить штраф от ГИБДД

Водители пожаловались на непонятные штрафы с камер за ремни и телефоны

РБК
Фруктовый беспредел Фруктовый беспредел

Почему фрукторианство не всегда хорошо?

Здоровье
Потрясающие новые снимки Джеймса Уэбба: новорожденные звезды, сталкивающиеся галактики и горячие экзопланеты Потрясающие новые снимки Джеймса Уэбба: новорожденные звезды, сталкивающиеся галактики и горячие экзопланеты

Уэбб снял новые изображения галактик и туманность Киля

ТехИнсайдер
Власть нарцисса: 9 шагов к свободе Власть нарцисса: 9 шагов к свободе

Как освободиться от крючка нарцисса?

Psychologies
Что такое агрессивное умиление Что такое агрессивное умиление

Признайтесь, вам хотелось задушить в объятиях хорошенького ребенка или питомца

Psychologies
Что делает высокие температуры такими смертоносными Что делает высокие температуры такими смертоносными

Почему жара так сильно сказывается на нашем здоровье?

ТехИнсайдер
Физики сгенерировали ультрафиолетовый суперконтинуум с помощью газообразного азота Физики сгенерировали ультрафиолетовый суперконтинуум с помощью газообразного азота

Китайские физики сгенерировали ультрафиолетовый суперконтинуум

N+1
«Работает мало, делает много»: как российские экзоскелеты ускоряют производство «Работает мало, делает много»: как российские экзоскелеты ускоряют производство

Экзоскелеты: как их можно применять в сфере производства

ТехИнсайдер
Открыть в приложении