Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые нашли «внеземную» химию под крупнейшими литиевыми залежами на Земле Ученые нашли «внеземную» химию под крупнейшими литиевыми залежами на Земле

Химический состав литиевых рассолов резко отличается от привычных соленых вод

Inc.
Ползучая локализация Ползучая локализация

«Соллерс» отчитался об успешной реализации стратегии по локализации продукции

Монокль
Искусственный коллега: как российские нейросети трансформировали бизнес и заменят ли людей алгоритмы Искусственный коллега: как российские нейросети трансформировали бизнес и заменят ли людей алгоритмы

ИИ-экспансия в бизнесе: чего ждать дальше и как подобрать для себя нужный сервис

Inc.
Живу и радуюсь! Живу и радуюсь!

Верна ли позиция, что лучше быть готовым к трудностям, а не к радостям?

Лиза
Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов

Как две девушки сделали бизнес на блюдах с яйцами?

Forbes
Сделаем секс снова великим Сделаем секс снова великим

Как приложить усилия к тому, чтобы разжечь пламя страсти в паре с новой силой?

Men Today
«Быть битмейкером — это не круто» «Быть битмейкером — это не круто»

Wallem, певец и автор песен, поделился наблюдениями за музыкальными трендами

ЖАРА Magazine
Знаменитые пары с большой разницей в возрасте Знаменитые пары с большой разницей в возрасте

15 примеров, что любви все возрасты покорны

Maxim
Остановите, я сойду Остановите, я сойду

Прыгаем с эмоциональных качелей — и убегаем

VOICE
Почему нельзя покупать франшизу без спроса Почему нельзя покупать франшизу без спроса

Опрос действующих франчайзи бренда — один из обязательных этапов выбора франшизы

Forbes
6 правил хорошего брака 6 правил хорошего брака

Какие привычки повышают шансы на то, что вы будете жить вместе долго и счастливо

Psychologies
Через гены к экономической эффективности Через гены к экономической эффективности

В России создается собственная база данных для генотипирования КРС

Агроинвестор
Самая близкая химия Самая близкая химия

Академик Степан Калмыков — о том, насколько Менделеев повлиял на развитие химии

Наука и жизнь
Истоки свободы: почему взгляды коренных народов Америки близки современным ценностям Истоки свободы: почему взгляды коренных народов Америки близки современным ценностям

Как жители Новой Франции воспринимали европейских завоевателей?

Forbes
И твоя мама тоже И твоя мама тоже

«Все совпадения неслучайны»: первый сериал Альфонсо Куарона

Weekend
На маркетплейс за деньгами На маркетплейс за деньгами

Как кэптивные банки маркетплейсов стали игроками финансового рынка

Деньги
Спору — нет / спору — да Спору — нет / спору — да

Где подстерегают людей конфликты и почему они полезны?

Men Today
10 вредных пищевых привычек: как поймать себя на них 10 вредных пищевых привычек: как поймать себя на них

Пищевое поведение, которое может нанести ощутимый вред здоровью

Psychologies
Как за каменной стеной Как за каменной стеной

Почему города становятся заповедниками для редких животных

N+1
Север и Юг США: долгий путь к войне Север и Юг США: долгий путь к войне

Промышленная революция в Европе по-разному сказалась на южных и северных штатах

Наука и техника
Правила выживания Правила выживания

Жесткая ДКП заставляет искать специфические инструменты для защиты денег

Монокль
Как прожить дольше: 5 здоровых привычек, которые помогут встретить сотый день рождения Как прожить дольше: 5 здоровых привычек, которые помогут встретить сотый день рождения

Вам срочно нужно сделать эти полезные привычки частью своей жизни!

ТехИнсайдер
Не вибрируй! Не вибрируй!

4 признака того, что стиральная машина скоро сломается

Лиза
Ангелина Стречина: «Я считаю себя везунчиком» Ангелина Стречина: «Я считаю себя везунчиком»

У меня возникли сомнения: действительно ли мне доверяют, не ошиблись ли?

Коллекция. Караван историй
Найти путь к изобилию Найти путь к изобилию

Как работает обращение к психологам с запросом на финансовое благополучие

Psychologies
Гений вещи Гений вещи

Сенсационные признания того самого мужа, который ничего не выбрасывает

VOICE
Подготовка к зиме: обязательный набор автомобилиста Подготовка к зиме: обязательный набор автомобилиста

Что входит в обязательный набор, который нужно возить с собой в автомобиле зимой

4x4 Club
Жаден и придирчив: как распознать мелочного мужчину — тревожные звоночки в отношениях Жаден и придирчив: как распознать мелочного мужчину — тревожные звоночки в отношениях

Разбираем основные признаки мелочного поведения

VOICE
7 важных истин, которые я осознала, когда мой друг покончил с собой 7 важных истин, которые я осознала, когда мой друг покончил с собой

7 важных истин, которые я осознала после трагической кончины друга

Psychologies
Мое тело: совершенствование VS принятие Мое тело: совершенствование VS принятие

Можно ли найти гармонию с собственным телом, если мы им недовольны?

Psychologies
Открыть в приложении