Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Проклятие рода или благословение: как быть отдельной частью семьи Проклятие рода или благословение: как быть отдельной частью семьи

Какие привычки мы выносим из родительской семьи?

Psychologies
7 привычек, которые мешают нам жить 7 привычек, которые мешают нам жить

Что следует изменить в своем образе жизни миллениалам?

Psychologies
Наш ответ ChatGPT: как российские стартапы делают бизнес на генеративном ИИ Наш ответ ChatGPT: как российские стартапы делают бизнес на генеративном ИИ

Что происходит на рынке генеративного ИИ в России и мире

Inc.
Исчезнувшие города Древней Руси Исчезнувшие города Древней Руси

Какое место называют «русской Троей» и что осталось от Мологи и Хатуни

Культура.РФ
Крупным планом: что происходит с отечественным кинорынком Крупным планом: что происходит с отечественным кинорынком

Какое кино сейчас интересно зрителям в России?

Inc.
О феномене женского лидерства О феномене женского лидерства

Есть ли отличия между «мужским» и «женским» лидерством?

СНОБ
Если из носа часто идет кровь: как ее остановить и когда пора к врачу Если из носа часто идет кровь: как ее остановить и когда пора к врачу

Почему из носа идет кровь и когда это важный симптом проблем со здоровьем

РБК
Уйти нельзя остаться: «Я прожила с абьюзером 20 лет» Уйти нельзя остаться: «Я прожила с абьюзером 20 лет»

Подвергаться психологическому и физическому насилию и ничего не предпринимать?

Psychologies
Чистая работа Чистая работа

12 способов сделать стирку проще

Лиза
Хентай и ультранасилие: 5 компьютерных игр, которые ни за что нельзя давать детям Хентай и ультранасилие: 5 компьютерных игр, которые ни за что нельзя давать детям

Некоторые релизы игр могут стать причиной детских ментальных травм

Maxim
Приложения для сна: польза или вред? Приложения для сна: польза или вред?

Как приложения, призванные улучшить наш сон, делают его только хуже

Maxim
Двойная победа: как спорт собирает миллионы на благотворительность Двойная победа: как спорт собирает миллионы на благотворительность

Спортивный фандрайзинг — перспективное направление филантропии

Forbes
Еще ого-го: вспоминаем старые игры, которые неплохо выглядят и сегодня Еще ого-го: вспоминаем старые игры, которые неплохо выглядят и сегодня

Подборка старых игр у которых еще есть порох в пороховницах

Maxim
8 нон-фикшн-книг, которые важно прочесть до 35 лет 8 нон-фикшн-книг, которые важно прочесть до 35 лет

Мотивационные бестселлеры, которые необходимо прочесть до 35 лет

СНОБ
Андрей Шемякин, SEA Company — о маркетинговой упаковке брендов Андрей Шемякин, SEA Company — о маркетинговой упаковке брендов

Андрей Шемякин рассказал о маркетинговом позиционировании российских брендов

РБК
Что нам стоик Что нам стоик

Как при помощи стоической философии избавиться от боли

Правила жизни
Как выбрать внешний накопитель: практические советы и рекомендации Как выбрать внешний накопитель: практические советы и рекомендации

Какие характеристики внешних накопителей особенно важны, и как их подобрать

CHIP
Депозиты для жадных: почему индустрия криптозаймов пришла к краху Депозиты для жадных: почему индустрия криптозаймов пришла к краху

Что произошло с криптолендинговой индустрией?

Forbes
Кто такие подонки, и какую грамоту получил Филька? 10 крылатых выражений и их происхождение Кто такие подонки, и какую грамоту получил Филька? 10 крылатых выражений и их происхождение

Докопаемся до сути и разберемся с десятью крылатыми выражениями

ТехИнсайдер
Большинство зубов ранних Homo из Колыбели человечества принадлежало другим гоминидам Большинство зубов ранних Homo из Колыбели человечества принадлежало другим гоминидам

Палеоантропологи повторно исследовали зубы ранних Homo в Колыбели человечества

N+1
Вредные привычки Кейт Миддлтон — от несоблюдения этикета до курения Вредные привычки Кейт Миддлтон — от несоблюдения этикета до курения

Рассказываем о вредных привычках герцогини Кейт Миддлтон

VOICE
Опасные незнакомцы Опасные незнакомцы

Как объяснить ребенку правила общения с чужими людьми

Лиза
Шизофрения: как жить с таким диагнозом и опасно ли заболевание для окружающих Шизофрения: как жить с таким диагнозом и опасно ли заболевание для окружающих

Что такое шизофрения с медицинской точки зрения и как она лечится?

Psychologies
Пляжное чтение: 10 идеальных книг для отпуска Пляжное чтение: 10 идеальных книг для отпуска

Отпуск — лучшее время для чтения

СНОБ
Как детские игры помогут вернуть нам радость этим летом Как детские игры помогут вернуть нам радость этим летом

Чтобы научиться радости, следует записаться на «мастер-класс» к детям

Psychologies
Разговор в пустоту: 10 причин, почему тебя не слушают Разговор в пустоту: 10 причин, почему тебя не слушают

Почему люди отказываются воспринимать информацию, если она исходит от тебя?

VOICE
Одержимая пластическими операциями 81-летняя Одержимая пластическими операциями 81-летняя

Светскую львицу Джослин Вильденштейн называют "невестой Франкенштейна"

VOICE
Почему сбываются гороскопы? Объясняем с точки зрения науки (настоящей) Почему сбываются гороскопы? Объясняем с точки зрения науки (настоящей)

Что такое эффект Барнума-Форера?

Maxim
Откуда берутся психосоматические заболевания и как их лечить Откуда берутся психосоматические заболевания и как их лечить

Почему важно проживать свои эмоции и как вылечить болезнь работой с сознанием?

Maxim
Как вести строительный бизнес, когда твои конкуренты «Леруа Мерлен» и «Петрович»: история интернет-магазина «Кузьмич24» Как вести строительный бизнес, когда твои конкуренты «Леруа Мерлен» и «Петрович»: история интернет-магазина «Кузьмич24»

«Кузьмич24»: как из простого офлайн-магазина получился мощный онлайн-бренд

VC.RU
Открыть в приложении