Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психологическая роль и символизм Масленицы: как отмечать этот праздник правильно Психологическая роль и символизм Масленицы: как отмечать этот праздник правильно

Масленица с точки зрения истории, традиций и современной психологии

Psychologies

Эта трагичная история об одной из самых талантливых артисток прошлого столетия

VOICE
HDD и SSD накопители — в чем разница и стоит ли переплачивать? HDD и SSD накопители — в чем разница и стоит ли переплачивать?

HDD и SSD: надежный винтаж против скорости света и цены космоса

ТехИнсайдер
Девушка, которая обучала дельфинов-убийц: история советской каскадерки Галины Шуреповой Девушка, которая обучала дельфинов-убийц: история советской каскадерки Галины Шуреповой

«40 дельфинов-афалин, из которых власти СССР намеревались сделать убийц»

VOICE
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
5 самых диких убийц Дикого Запада 5 самых диких убийц Дикого Запада

Самые кровожадные типы, которые прославились своей жестокостью на Диком Западе

Maxim
Ремонтируем от и до Ремонтируем от и до

Как провести ремонт квартиры быстро и без дополнительных хлопот

Идеи Вашего Дома
Чай для стройности Чай для стройности

Быстрый способ сбросить вес или опасность для здоровья?

Лиза
5 неожиданных польз и прелестей борщевика 5 неожиданных польз и прелестей борщевика

Если знать, как обращаться с борщевиком — это полезное растение

Maxim
Уральская волчица: история самой жестокой женщины-убийцы в России Уральская волчица: история самой жестокой женщины-убийцы в России

«Я даже не могу назвать ее женщиной, для меня она безлика»

VOICE
Дружба среднего возраста: россияне рассказали, где можно найти друга после 30 лет Дружба среднего возраста: россияне рассказали, где можно найти друга после 30 лет

Найти близкого человека в зрелом возрасте можно в самых неожиданных местах

Psychologies
Кошелек или жизнь: как научиться безболезненно экономить Кошелек или жизнь: как научиться безболезненно экономить

Как избежать крайностей и получать удовлетворение от финансовых вложений?

Psychologies
Шкалик Шкалик

Анатолий живет очень скромно и пишет роман про старый газетный лист

Правила жизни
На босу ногу: как сделать так, чтобы обувь не натирала На босу ногу: как сделать так, чтобы обувь не натирала

Несколько лайфхаков, которые спасут ваши ноги от натирания

Правила жизни
Секреты флористов: как сохранить розы в букете дольше Секреты флористов: как сохранить розы в букете дольше

Как продлить цветам молодость?

VOICE
«Наконец моя внешность догнала мой внутренний возраст» «Наконец моя внешность догнала мой внутренний возраст»

Нино Нинидзе уже давно не пытается никому ничего доказать

OK!
После нападений волков на скот немцы отдали больше голосов правой партии «Альтернатива для Германии» После нападений волков на скот немцы отдали больше голосов правой партии «Альтернатива для Германии»

Жители мест, где волки нападали на скот, охотнее голосуют за правых популистов

N+1
Почему мы не найдем инопланетян в космосе, даже если они существуют на самом деле Почему мы не найдем инопланетян в космосе, даже если они существуют на самом деле

Почему мы не узнаем о существовании живых существ у чужих звезд?

ТехИнсайдер
Беречь лицо, не врать и не бояться: как «Гоголь-центр» стал зеркалом эпохи Беречь лицо, не врать и не бояться: как «Гоголь-центр» стал зеркалом эпохи

Какую роль сыграл «Гоголь-центр» в современной российской культуре

Forbes
Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха

Как снизить уровень постотпускной тоскливости и настроиться на рабочий лад

Psychologies
Infiniti QX55. Отличный автомобиль с проблемами в имидже Infiniti QX55. Отличный автомобиль с проблемами в имидже

Рестайлинговый Infiniti QX55 — неужели это безупречный автомобиль?

4x4 Club
Как завоевать любого мужчину: секрет неотразимой Лили Брик Как завоевать любого мужчину: секрет неотразимой Лили Брик

Лиля Брик — одна из самых неординарных женщин XX века

VOICE
Разнимать или убежать? Как вести себя, если при тебе ссорятся близкие люди — советы эксперта Разнимать или убежать? Как вести себя, если при тебе ссорятся близкие люди — советы эксперта

Если два близких тебе человека поссорились, что делать?

VOICE
Первый (удачный) отпуск вдвоем Первый (удачный) отпуск вдвоем

Море, солнце, он и она — и кажется, больше ничто в мире не имеет значения…

Psychologies
Психолог на удалёнке Психолог на удалёнке

Интерьер небольшой квартиры демонстрирует лаконичность и грамотное зонирование

Идеи Вашего Дома
Властелин колен Властелин колен

Болгарские сплит-приседания — простое и суперэффективное упражнение

Men Today
Работа на больничном и еще 5 привычек, из-за которых мы глупеем Работа на больничном и еще 5 привычек, из-за которых мы глупеем

Если вам кажется, что ваши родители в вашем возрасте были умнее, вам не кажется

Psychologies
«Пусть они заткнутся»: история медсестры Марии Фикачковой, убивавшей младенцев «Пусть они заткнутся»: история медсестры Марии Фикачковой, убивавшей младенцев

Как Мария Фикачкова три года убивала младенцев и думала, что ее не поймают

VOICE
На Крите нашли 4000-летние случаи инфицирования чумной палочкой и сальмонеллой На Крите нашли 4000-летние случаи инфицирования чумной палочкой и сальмонеллой

Палеогенетики обнаружили древние патогены чумной палочки у четырех индивидов

N+1
«Мальчик, который не переставал расти… и другие истории про гены и людей». Отрывок из книги Эдвина Керка «Мальчик, который не переставал расти… и другие истории про гены и людей». Отрывок из книги Эдвина Керка

Отрывок из книги врача Эдвина Керка о генетических заболеваниях

СНОБ
Открыть в приложении