Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Первое собеседование в жизни: правила успеха Первое собеседование в жизни: правила успеха

Как подготовиться к собеседованию, особенно к первому в жизни

Psychologies
Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха Постотпускной синдром: 4 совета, как не уволиться сразу после отдыха

Как снизить уровень постотпускной тоскливости и настроиться на рабочий лад

Psychologies
Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Чем занимается теоретическая информатика: первое знакомство с наукой Чем занимается теоретическая информатика: первое знакомство с наукой

Информатика - это продолжение математики, которая может быть и теоретической

ТехИнсайдер
Сменила балет на «Игрушки»: как Агния Барто стала одной из главных детских поэтесс Сменила балет на «Игрушки»: как Агния Барто стала одной из главных детских поэтесс

История Агнии Барто, одной из главных детских поэтесс в России

Forbes
Врачи назвали 3 рабочие привычки, которые ухудшают ваш сон Врачи назвали 3 рабочие привычки, которые ухудшают ваш сон

Работа влияет на все аспекты жизни и не в последнюю очередь на сон

Inc.
«Это бег по кругу»: в прокат выходит фильм «Продукты 24» о современном рабстве «Это бег по кругу»: в прокат выходит фильм «Продукты 24» о современном рабстве

Почему всем важно узнать о том, как трудовых мигрантов превращают в рабов

Forbes
Технологии минувшей эпохи: как работали пейджеры, дисководы и dial-up-модемы Технологии минувшей эпохи: как работали пейджеры, дисководы и dial-up-модемы

Вспоминаем ушедшие технологии, оставившие неизгладимый след в наших сердцах

CHIP
Как читать «Лето Господне» Шмелева Как читать «Лето Господне» Шмелева

Что нужно знать о жизни наших предков, чтобы правильно прочитать «Лето Господне»

Культура.РФ
Эффект Блинова, или Как стать шеф-поваром и успешным ресторатором Эффект Блинова, или Как стать шеф-поваром и успешным ресторатором

Дмитрий Блинов — о таланте и перфекционизме, трендах и гастрономической моде

СНОБ
5 самых ядовитых ягод, которые вы можете встретить 5 самых ядовитых ягод, которые вы можете встретить

Чтобы не стать жертвой ядовитых плодов, стоит разобраться, как они выглядят

ТехИнсайдер
«Психологическая кастрация»: как женщина убивает в мужчине мужчину «Психологическая кастрация»: как женщина убивает в мужчине мужчину

Что чаще всего психологи подразумевают под фразой «убить в мужчине мужчину»?

Psychologies
Как советский спутник наслал безумие на американские школы Как советский спутник наслал безумие на американские школы

Из-за Советского Союза у школьников в США настали очень трудные времена

Maxim
Как объяснить даже детям, что такое маятник Фуко Как объяснить даже детям, что такое маятник Фуко

Как объяснить принцип маятника Фуко любому человеку можно за пять минут

ТехИнсайдер
Как детские игры помогут вернуть нам радость этим летом Как детские игры помогут вернуть нам радость этим летом

Чтобы научиться радости, следует записаться на «мастер-класс» к детям

Psychologies
Овощи как новый тренд Овощи как новый тренд

В последнее время тема овощей в гастрономии актуальна как никогда

Bones
Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии Так сошлись звезды: зачем предприниматели и политики ищут ответы в астрологии

Как обращение к предсказательным практикам определяло историю

Forbes
Как развитие метавселенных повлияет на стриминг? Как развитие метавселенных повлияет на стриминг?

Какое влияние окажут метавселенные на индустрию потокового онлайн-вещания?

ТехИнсайдер
Что такое сценарии Bixby: ваш смартфон умнее, чем кажется Что такое сценарии Bixby: ваш смартфон умнее, чем кажется

Что такое сценарии Bixby, как их создавать и на что они способны

CHIP
Больше, чем три измерения Больше, чем три измерения

Переосмысление стандартной площади и создание гармоничной среды обитания

Идеи Вашего Дома
Почему сервисы доставки еды за 15 минут «сжимаются» один за другим Почему сервисы доставки еды за 15 минут «сжимаются» один за другим

Пока сервисы доставки еды за 15 минут не смогли победить правила экономики

VC.RU
«С русским акцентом»: какой будет новая корпоративная культура после передела рынка «С русским акцентом»: какой будет новая корпоративная культура после передела рынка

Чего ждать старым сотрудникам? Как изменится корпоративная культура?

Forbes
Как сейчас выглядит волшебник Дэвид Копперфильд, которым все восхищались, а потом возненавидели из-за секс-скандала Как сейчас выглядит волшебник Дэвид Копперфильд, которым все восхищались, а потом возненавидели из-за секс-скандала

Что сейчас происходит с Дэвидом Копперфильдом

VOICE
Второй после Чикатило: история советского маньяка по прозвищу «Мосгаз» Второй после Чикатило: история советского маньяка по прозвищу «Мосгаз»

Этого убийцу требовали наказать самым жестоким спосоом

VOICE
Лечит природа Лечит природа

Что нужно учесть, прибегая к помощи трав?

Лиза
Здесь и сейчас Здесь и сейчас

Локальность и сезонность — гастрономический тренд

Bones
Как выбрать повербанк или портативный аккумулятор Как выбрать повербанк или портативный аккумулятор

На что обратить внимание и за что не стоит переплачивать, выбирая повербанк

Maxim
Дженнифер Лопес и Бен Аффлек вместе навсегда или снова расстанутся? Прогноз нумеролога Дженнифер Лопес и Бен Аффлек вместе навсегда или снова расстанутся? Прогноз нумеролога

Нумеролог сделал самый детальный разбор судеб Дженнифер Лопес и Бен Аффлека

VOICE
10 животных, которых человек полностью истребил за последние 150 лет 10 животных, которых человек полностью истребил за последние 150 лет

В последнее время животный мир активно редеет благодаря нам и нашей деятельности

ТехИнсайдер
Укус Тарантула: как звезда может провалиться в черную дыру Укус Тарантула: как звезда может провалиться в черную дыру

Иногда Вселенная обходится без фейерверка

Forbes
Открыть в приложении