Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Не взрослей!»: 8 родительских запретов, которые портят нам жизнь «Не взрослей!»: 8 родительских запретов, которые портят нам жизнь

Как родительские запреты влияют на ребенка?

Psychologies
Это слишком: из-за какой черты Ленин требовал сместить Сталина с поста генсека Это слишком: из-за какой черты Ленин требовал сместить Сталина с поста генсека

О чем написал Владимир Ленин в своих последних заметках?

VOICE
Ланч-боксы с подогревом: как они работают и стоит ли брать Ланч-боксы с подогревом: как они работают и стоит ли брать

Как работает ланч-бокс с подогревом и стоит ли вообще его покупать?

CHIP
Сад для ленивых Сад для ленивых

Как облегчить работу на даче? Посадить многолетники!

Лиза
Млечный Путь и Андромеда прямо сейчас мчатся навстречу друг другу — космический апокалипсис или слияние галактик? Млечный Путь и Андромеда прямо сейчас мчатся навстречу друг другу — космический апокалипсис или слияние галактик?

Млечный Путь и Андромеда сейчас стремительно движутся навстречу друг другу

Inc.
Атмосфера драйва Атмосфера драйва

Необычный симбиоз стилей получился из-за разных предпочтений владельцев

Идеи Вашего Дома
Распутство и добродетель в эволюции половых хромосом Распутство и добродетель в эволюции половых хромосом

Прямо сейчас, возможно, на Земле появляется новая половая хромосома

СНОБ
Не только слушать, но и слышать: как и зачем развивать эмпатию Не только слушать, но и слышать: как и зачем развивать эмпатию

Эмпатия — способность понимать чужие эмоции, чувства и потребности

Forbes
Женихи не прощают смешного: что значил бал для девушки в XIX веке Женихи не прощают смешного: что значил бал для девушки в XIX веке

Отрывок из романа «Нашествие» — альтернативного взгляда на мир 1812 года

Forbes
6 моментов в сериале «Оби-Ван Кеноби», которые упустили 99% зрителей 6 моментов в сериале «Оби-Ван Кеноби», которые упустили 99% зрителей

Лишь только настоящие фанаты «Звездных войн» способны их заметить!

Maxim
В Израиле обнаружили 8000-летнюю статуэтку богини-матери В Израиле обнаружили 8000-летнюю статуэтку богини-матери

Археологи обнаружили статуэтку, изображающую богиню-мать

N+1
Много училась, вызывающе ругалась, любила искусство: история королевы Швеции Кристины Много училась, вызывающе ругалась, любила искусство: история королевы Швеции Кристины

Отырвок из книги Кэролайн Боггис-Рольф «История Балтики»

Forbes
«Прыжок в темноту». Как принимать важные решения, если очень страшно «Прыжок в темноту». Как принимать важные решения, если очень страшно

Отрывок из книги «Мужество: почему смелым судьба помогает»

Inc.
В чем секрет Xiaomi: что действительно выпускает компания? В чем секрет Xiaomi: что действительно выпускает компания?

Как Xiaomi превратилась из заурядной компании во всемирно известный бренд

CHIP
Больше, чем три измерения Больше, чем три измерения

Переосмысление стандартной площади и создание гармоничной среды обитания

Идеи Вашего Дома
Проверенные факты о Бермудском треугольнике: что нам известно на самом деле Проверенные факты о Бермудском треугольнике: что нам известно на самом деле

Что на самом деле известно о Бермудском треугольнике?

ТехИнсайдер
Подать голос: интервью с Денисом Колесниковым, создателем студии «Кураж-Бамбей» Подать голос: интервью с Денисом Колесниковым, создателем студии «Кураж-Бамбей»

Денис Колесников — о важнейших российских и иностранных сериалах

Правила жизни
Как охладить котиков в жару: 6 способов защитить питомца от перегрева Как охладить котиков в жару: 6 способов защитить питомца от перегрева

Как легко помочь котику избежать перегрева?

ТехИнсайдер
Фруктовый беспредел Фруктовый беспредел

Почему фрукторианство не всегда хорошо?

Здоровье
Не жук чихнул: почему знаменитости повально начали есть насекомых Не жук чихнул: почему знаменитости повально начали есть насекомых

Как диета из насекомых стала новым мировым трендом?

Правила жизни
«Эти дни»: зачем компании вводят менструальные отгулы «Эти дни»: зачем компании вводят менструальные отгулы

Как внимание к менструации влияет на представление о гендерном равенстве?

Forbes
Депиляция: как удалить волосы в салоне и дома. Советы эксперта Депиляция: как удалить волосы в салоне и дома. Советы эксперта

Рассказываем о самых актуальных методах депиляции

РБК
Метод Мари Кондо: 5 простых советов по уборке дома Метод Мари Кондо: 5 простых советов по уборке дома

Полезные советы Мари Кондо, которые научили людей правильно наводить порядок

Psychologies
Как жить дальше после расставания: 3 совета Как жить дальше после расставания: 3 совета

Что мешает нашему разбитому сердцу исцелиться?

Psychologies
Как отраслевым компаниям работать в связке с изобретателями Как отраслевым компаниям работать в связке с изобретателями

Как крупнейший в мире производитель никеля наладил систему внедрения технологий

СНОБ
Как помочь мужу вернуть уверенность в себе? Как помочь мужу вернуть уверенность в себе?

Как помочь мужу, если у него сложности на работе?

Psychologies
Сохранить отношения после конфликта: 5 советов от психологов Сохранить отношения после конфликта: 5 советов от психологов

Как отстоять свои интересы и сохранить добрые отношения?

Psychologies
Советский Хатико: чем закончилась история овчарки, встречавшей самолеты Советский Хатико: чем закончилась история овчарки, встречавшей самолеты

А ты знаешь, что в СССР был свой Хатико?

VOICE
В курганах ямной культуры нашли расчлененное и сидячее мужские погребения В курганах ямной культуры нашли расчлененное и сидячее мужские погребения

Археолог объяснил нестандартный ритуал погребения влиянием с Северного Кавказа

N+1
Экспресс-тест: тиран ли ты? Экспресс-тест: тиран ли ты?

Сколько характерных признаков тирана ты обнаружишь у себя?

Maxim
Открыть в приложении