Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как понять, хорошо ли работает ваш директор по развитию Как понять, хорошо ли работает ваш директор по развитию

Какие KPI нужно измерять у директора по развитию, чтобы бизнес развивался

Inc.
Маркетплейс для мобильных и спонтанных Маркетплейс для мобильных и спонтанных

О том, как платформа автопутешествий создает у туристов новые потребности

Монокль
Почему у одних самолетов крыло находится в нижней части фюзеляжа, а у других в верхней: 15 неочевидных причин Почему у одних самолетов крыло находится в нижней части фюзеляжа, а у других в верхней: 15 неочевидных причин

От чего зависит расположение крыльев у самолетов?

ТехИнсайдер
Хватит дымить! Хватит дымить!

Как очищается организм после отказа от курения: поэтапно

Лиза
6 самых популярных сюжетов снов 6 самых популярных сюжетов снов

Какие сюжеты снов чаще всего снятся людям?

ТехИнсайдер
Как прожить дольше: 5 здоровых привычек, которые помогут встретить сотый день рождения Как прожить дольше: 5 здоровых привычек, которые помогут встретить сотый день рождения

Вам срочно нужно сделать эти полезные привычки частью своей жизни!

ТехИнсайдер
Семья в бассейне: эти 3 правила помогут родителям весело провести время с детьми Семья в бассейне: эти 3 правила помогут родителям весело провести время с детьми

Как качественно провести время с семьей и детьми?

ТехИнсайдер
7 лучших киногероев-скуфов, которыми мы гордимся 7 лучших киногероев-скуфов, которыми мы гордимся

Иногда даже лысеющий мужичок с пончиками может вдохновить на перемены

Maxim
«Принудительные танцы — вид харассмента»: правила этикета на корпоративах «Принудительные танцы — вид харассмента»: правила этикета на корпоративах

Как с элегантностью и честью пережить новогодние корпоративы

РБК
Не вибрируй! Не вибрируй!

4 признака того, что стиральная машина скоро сломается

Лиза
«Похвалы необходимы поэту, как памперсы младенцам и лампасы генералам» — интервью с Дмитрием Бобышевым, соперником Бродского «Похвалы необходимы поэту, как памперсы младенцам и лампасы генералам» — интервью с Дмитрием Бобышевым, соперником Бродского

Готов ли Дмитрий Бобышев был платить за поэзию судьбой

СНОБ
Власть безумия и безумие власти Власть безумия и безумие власти

Русское юродство как сюрреализм до сюрреализма

Weekend
10 вредных пищевых привычек: как поймать себя на них 10 вредных пищевых привычек: как поймать себя на них

Пищевое поведение, которое может нанести ощутимый вред здоровью

Psychologies
Найди меня Найди меня

Зачем люди ищут свои корни и почему готовы платить за это огромные деньги

Grazia
Где найти деньги: советы для предпринимателей, как привлечь инвестиции на старте Где найти деньги: советы для предпринимателей, как привлечь инвестиции на старте

Как привлечь инвестиции и как при этом избежать самых распространенных ошибок?

Inc.
Как следует поменять уход за ногтями зимой: 10 полезных советов Как следует поменять уход за ногтями зимой: 10 полезных советов

Знаешь ли ты, что в холодное время года ногтям нужна дополнительная помощь?

VOICE
Микронос, смена цвета глаз и заплатка на язык: самые безумные и опасные виды пластики Микронос, смена цвета глаз и заплатка на язык: самые безумные и опасные виды пластики

Список самых бесполезных пластических операций

VOICE
«Я терпеливо жду в засаде» «Я терпеливо жду в засаде»

Маргарита Чинкова — о том, как заработать на офертах, допэмиссиях и ликвидациях

Монокль
На пороге перемен На пороге перемен

Как женщине поддержать красоту и молодость кожи в период менопаузы

Лиза
День открытых дверей День открытых дверей

Какими нестандартными решениями поражает электрический минивэн Zeekr Mix

Автопилот
Зимняя Башкирия Зимняя Башкирия

Башкортостан не зря называют «русской Швейцарией»

Отдых в России
Парк лихой культуры и отдыха Парк лихой культуры и отдыха

«Дети перемен»: опять 1995

Weekend
10 новых сериалов, от которых невозможно оторваться 10 новых сериалов, от которых невозможно оторваться

Лучшие сериалы начала 2020-х годов, которые проглотят все ваше свободное время

Maxim
Побойтесь, ради бога Побойтесь, ради бога

«Еретик»: неудавшийся богословский хоррор с Хью Грантом

Weekend
5 ценных навыков, которым хорошие родители обучают детей прямо сегодня 5 ценных навыков, которым хорошие родители обучают детей прямо сегодня

Ключевые навыки для развития детей по мнению психологов

Psychologies
Почему черно-белые фильмы выглядят эстетичнее? Узнайте интересные факты о кино! Почему черно-белые фильмы выглядят эстетичнее? Узнайте интересные факты о кино!

Почему черно-белое кино такое эстетичное?

ТехИнсайдер
Это нужно знать перед операцией! Вот как работает анестезия: интересные факты Это нужно знать перед операцией! Вот как работает анестезия: интересные факты

Что происходит с телом человека под воздействием анестезии?

ТехИнсайдер
Нечетная горбуша Нечетная горбуша

Известную рыбу горбушу следует рассматривать как два отдельных вида

Знание – сила
Как перестать заслуживать и выпрашивать любовь и избавиться от постоянного чувства голода по ней Как перестать заслуживать и выпрашивать любовь и избавиться от постоянного чувства голода по ней

Как удовлетворить свою потребность в любви?

VOICE
Самец краснолицего гульмана вторгся в чужую группу и убил несколько детенышей Самец краснолицего гульмана вторгся в чужую группу и убил несколько детенышей

Почему самцы приматов бывают жестокими по отношению к чужим детенышам?

N+1
Открыть в приложении