Что такое дипфейки и насколько они могут быть опасны

PsychologiesHi-Tech

Как играют умершие актеры: что такое дипфейк

В апреле 2022 года на Первом канале вышло продолжение сериала «Диверсант», одну из ролей в котором сыграл актер Владислав Галкин, умерший в 2010 году. Как это возможно? Оказывается, реалистично спародировать любого человека способна технология deepfake. Рассказываем, что это такое и насколько опасны могут быть дипфейки.

Текст: Мария Горшкова

960x540_0xac120003_14342512241656417017.jpeg
Дипфейк Владислава Галкина, фото: Кадр из сериала «Диверсант» 2022 г.

Как работает технология deepfake

Технология deepfake при помощи нейронных сетей анализирует большие массивы данных, чтобы имитировать выражение лица, манеры, голос и интонации человека. Процесс включает в себя передачу отснятого материала двух людей в алгоритм глубокого обучения, чтобы научить его менять лица местами.

При выполнении данной технологии компьютерное программное обеспечение выполняет бесшовное наложение какого-либо человеческого лица на убедительное виртуальное факсимиле. Таким образом создаются аудиовизуальные мистификации, бросающие вызов достоверности информации.

Технологические прорывы в области машинного обучения позволили создавать аудиовизуальные подделки с большой реалистичностью и масштабом. В частности, эти прорывы стали возможными благодаря двум достижениям: появлению больших наборов данных и разработке Генеративных состязательных сетей (GAN) — категории моделей машинного обучения, где нейронные сети конкурируют друг с другом без присмотра.

Опасность дипфейков возросла из-за способности GAN создавать очень реалистичные, поддельные медиапродукты в масштабе, используя большие наборы данных. Обученный GAN может делать сотни фотографий в секунду с различной детализацией, включая выражения мимики и разнообразие ракурсов для одного и того же сгенерированного лица.

Технология сама по себе не является злом. Она может приносить пользу, например, при создании видеоигр и улучшении астрономических изображений, на которых часто встречается шум от фона неба.

Чем нам угрожают дипфейки

Манипулятивные процессы, лежащие в основе дипфейков, все чаще вызывают этические вопросы, касающиеся производства медиаконтента. На данный момент дипфейки не способны полностью обмануть глаз, но, как и у любой технологии глубокого обучения, у данной технологии вполне могут возникнуть большие успехи в ближайшем будущем, когда медиаподделки станут неотличимы от настоящих.

Так, продукты технологии deepfake впервые появились на популярной интернет-платформе reddit.com, когда пользователь под ником «deepfakes» опубликовал порнографические видеоролики с лицами известных голливудских актрис, которые наложили поверх лиц оригинальных звезд фильмов для взрослых. Такие случаи прямо нарушают право человека на частную жизнь и могут повлечь за собой разрушение карьеры и семейных отношений людей, ставших объектами дипфейков.

397x505_0xac120003_1772597921656418597.jpeg
Образец набора данных для обучения ИИ, фото: Источник: Yasrab, R., Jiang, W., & Riaz, A. (2021). Fighting Deepfakes Using Body Language Analysis. Forecasting, 3(2), 303–321

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые описали оптимальный отдых, который действительно восстановит ваши силы Ученые описали оптимальный отдых, который действительно восстановит ваши силы

Как спланировать свой отпуск, чтобы получить от него максимальную пользу

Psychologies
Исследование: работа женщины на посту CEO или в правлении способствует большему разнообразию в компании Исследование: работа женщины на посту CEO или в правлении способствует большему разнообразию в компании

Репрезентация женщин на постах СЕО влияет на гендерное разнообразие в компаниях

Inc.
Как обработать фото, будто вы сделали его на пленку? Сохраните этот простой метод! Как обработать фото, будто вы сделали его на пленку? Сохраните этот простой метод!

Как сделать цифровые снимки похожими на пленку: инструкция

ТехИнсайдер
Синдром отличника: может ли психолог впасть в депрессию, а голливудский актер не иметь идеальной улыбки? Синдром отличника: может ли психолог впасть в депрессию, а голливудский актер не иметь идеальной улыбки?

Как в стремлении к совершенству не угодить в ловушку перфекционизма?

Psychologies
10 крупных секс-скандалов шоу-бизнеса, не считая Пи Дидди 10 крупных секс-скандалов шоу-бизнеса, не считая Пи Дидди

Как звезды теряли свой моральный облик и к чему это приводило

Maxim
Фальшивое будущее: как Adobe готовится к эпидемии дипфейков Фальшивое будущее: как Adobe готовится к эпидемии дипфейков

Генеральный директор Adobe Шантану Нарайен хочет навести порядок в интернете

Forbes
Одна вокруг света: озеро Титикака и ворота в Боливию Одна вокруг света: озеро Титикака и ворота в Боливию

180-я серия о кругосветном путешествии москвички Ирины Сидоренко: в Боливию

Forbes
14000-летний архаичный череп из Китая оказался сапиентным 14000-летний архаичный череп из Китая оказался сапиентным

Палеогенетики отсеквенировали ДНК из останков, найденных в пещере Малудун

N+1
Как отраслевым компаниям работать в связке с изобретателями Как отраслевым компаниям работать в связке с изобретателями

Как крупнейший в мире производитель никеля наладил систему внедрения технологий

СНОБ
Чайлдфри приняли свое решение еще подростками и не изменили ему в сорок лет Чайлдфри приняли свое решение еще подростками и не изменили ему в сорок лет

Ученые выяснили: к решению не иметь детей люди приходят еще подростками

N+1
Пишите! Это залечивает раны (и не только душевные) Пишите! Это залечивает раны (и не только душевные)

Что именно следует писать, чтобы занятие приносило терапевтический результат?

Psychologies
Не надевайте шорты и пейте больше кофе: что нужно для успеха на индийском рынке Не надевайте шорты и пейте больше кофе: что нужно для успеха на индийском рынке

Поиск инвесторов и тестирование гипотез на индийском рынке

Forbes
Рай в шалаше Рай в шалаше

В палатке со всеми удобствами: плюсы и минусы глэмпинга

Лиза
Шизофрения: как жить с таким диагнозом и опасно ли заболевание для окружающих Шизофрения: как жить с таким диагнозом и опасно ли заболевание для окружающих

Что такое шизофрения с медицинской точки зрения и как она лечится?

Psychologies
Как построить карьеру в науке и медицине и преодолеть стереотипы о возрасте Как построить карьеру в науке и медицине и преодолеть стереотипы о возрасте

Четвертая серия сериала, посвященная победителям номинации «Наука и технологии»

Forbes
Пес-подрывник, противотанковые мышки и другие животные-спецназовцы: как хвостатые бойцы помогали выиграть Вторую Мировую Пес-подрывник, противотанковые мышки и другие животные-спецназовцы: как хвостатые бойцы помогали выиграть Вторую Мировую

На фронт уходили все, даже собаки, птицы, мыши, кошки, медведи и олени

ТехИнсайдер
Кто будет убирать мусор после революции: манифест художницы о неоплачиваемом труде Кто будет убирать мусор после революции: манифест художницы о неоплачиваемом труде

Феминисткий текст Мирлы Ладерман Юклс из сборника «100 арт-манифестов»

Forbes
Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо Аэронавты, пилоты, воздушные каскадеры: 6 женщин, которые первыми поднялись в небо

Женщины, которые первые покорили небо

Forbes
«В восемнадцать лет ей досталась страна с тяжким прошлым и шатким будущим». Отрывок из книги о Клеопатре «В восемнадцать лет ей досталась страна с тяжким прошлым и шатким будущим». Отрывок из книги о Клеопатре

Отрывок из книги Стейси Шифф о египетской царице Клеопатре

СНОБ
Повышение пенсионного экшена Повышение пенсионного экшена

«Старик»: Джефф Бриджес против всех

Weekend
До слез: эти 5 фильмов, основанных на реальных событиях, никого не оставят равнодушными До слез: эти 5 фильмов, основанных на реальных событиях, никого не оставят равнодушными

Пять картин с мотивирующими и вдохновляющими историями

ТехИнсайдер
Infiniti QX55. Отличный автомобиль с проблемами в имидже Infiniti QX55. Отличный автомобиль с проблемами в имидже

Рестайлинговый Infiniti QX55 — неужели это безупречный автомобиль?

4x4 Club
За что англичане презирали вторую жену принца Чарльза больше всего, и как Камилла это исправила За что англичане презирали вторую жену принца Чарльза больше всего, и как Камилла это исправила

Раздражение и презрение британцев вызывала одна индивидуальная черта Камиллы

VOICE
Российские физики из ФИАН «сварили» бактерии лазером Российские физики из ФИАН «сварили» бактерии лазером

Ученым из Физического института РАН удалось «сварить» патогенные бактерии

ТехИнсайдер
Бывший продолжает портить вам жизнь: 7 правил самозащиты Бывший продолжает портить вам жизнь: 7 правил самозащиты

Что предпринять, чтобы прекратить агрессию от бывшего в свой адрес?

Psychologies
На Западе об этой советской игре ходили легенды. Почему американцы считали На Западе об этой советской игре ходили легенды. Почему американцы считали

Популярная игра, созданная в СССР, в свое время стала настоящим хитом на Западе

ТехИнсайдер
«Шаббат возвращает меня к жизни» «Шаббат возвращает меня к жизни»

Двадцать четыре часа без работы и суеты, без гонки и спешки

Psychologies
Катастрофическое мышление: как перестать все время думать о плохом Катастрофическое мышление: как перестать все время думать о плохом

Почему тревожные люди постоянно воображают ужасные сценарии неудач?

Psychologies
Девушка рассказала, как на нее в океане напал бешеный кабан (да-да, кабан!) Девушка рассказала, как на нее в океане напал бешеный кабан (да-да, кабан!)

Кто-кто проживает на дне океана?

Maxim
Путеводитель по Ясной поляне Путеводитель по Ясной поляне

Знакомьтесь с бытом, привычками и увлечениями Льва Толстого

Культура.РФ
Открыть в приложении