Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как приручить дедлайн: работаем со сроками Как приручить дедлайн: работаем со сроками

Как не превращать дедлайн в источник ужаса и авралов?

Inc.
«Я терпеливо жду в засаде» «Я терпеливо жду в засаде»

Маргарита Чинкова — о том, как заработать на офертах, допэмиссиях и ликвидациях

Монокль
Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта Код руды: как оптимизировать измельчение руды с помощью искусственного интеллекта

Какие цифровые инструменты используются при измельчении руд

ТехИнсайдер
Было бы желание! Было бы желание!

Женское либидо – штука хрупкая, ненадежная

Лиза
Нехимические зависимости: что это такое, как их распознать и победить Нехимические зависимости: что это такое, как их распознать и победить

Вы просыпаетесь и сразу тянетесь к телефону?

Maxim
Давай сбежим в Баку Давай сбежим в Баку

Баку: и морской курорт, и гастрономический центр Кавказа

ЖАРА Magazine
«Одинокая планета»: драма с Лорой Дерн об отношениях, где женщина намного старше «Одинокая планета»: драма с Лорой Дерн об отношениях, где женщина намного старше

«Одинокая планета»: пляжное чтиво, которое не жалко забыть тумбочке в отеле

Forbes
20 вопросов, которые нужно себе задать, чтобы выявить красные флаги в отношениях 20 вопросов, которые нужно себе задать, чтобы выявить красные флаги в отношениях

Честные ответы на эти вопросы помогут заметить все красные флаги в отношениях

Psychologies
«Еретик»: религиозный хоррор с Хью Грантом в роли профессора-маньяка «Еретик»: религиозный хоррор с Хью Грантом в роли профессора-маньяка

Чем впечатляет хоррор-триллер «Еретик»?

Forbes
«Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО «Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО

Посмотрите на историю первенца автопрома СССР глазами живых очевидцев

ТехИнсайдер
У кредитов бизнесу отказали тормоза У кредитов бизнесу отказали тормоза

Высокая ставка не останавливает корпоративное кредитование

Монокль
«Всякая теория — это хорошо организованный бред» «Всякая теория — это хорошо организованный бред»

Почему Жак Лакан такой сложный и при чем тут любовь

Weekend
Все секреты о том, как работодатели понимают, что сотрудник им подходит Все секреты о том, как работодатели понимают, что сотрудник им подходит

Какие черты соискателя по-настоящему привлекают работодателей?

Inc.
Отцовский баланс Отцовский баланс

Советы для пап, стремящихся уделять достаточно времени семье

Men Today
Хорошо-то как! Хорошо-то как!

Как научиться получать удовольствие от простых вещей?

Лиза
Острые козырьки и острые вопросы Острые козырьки и острые вопросы

Вячеслав Караваев в роли Томаса Шелби — о роли чувств и эмоций в своей жизни

Men Today
Что такое киберфлешинг: зачем мужчины отправляют женщинам дикпики Что такое киберфлешинг: зачем мужчины отправляют женщинам дикпики

Что толкает мужчин высылать малознакомым девушкам снимки своих гениталий

Psychologies
Как растения размножаются Как растения размножаются

Почему одни растения плодятся спорами, а другие семенами?

Наука и жизнь
В чем разница между обычным фотоаппаратом и кинокамерой? Узнайте простой ответ! В чем разница между обычным фотоаппаратом и кинокамерой? Узнайте простой ответ!

Что стоит учесть, выбирая камеру? Чем они отличаются?

ТехИнсайдер
Инфернальный Хью Грант, Пингвин Фаррелл и другие внезапные злодейские роли известных актеров Инфернальный Хью Грант, Пингвин Фаррелл и другие внезапные злодейские роли известных актеров

Актеры, которые отважились сменить амплуа и сыграть отрицательных персонажей

СНОБ
Сладкая жизнь Сладкая жизнь

Плохо это или хорошо – быть сладкоежкой?

Лиза
Это у нас семейное: что происходит с институтом семьи и брака? Это у нас семейное: что происходит с институтом семьи и брака?

Успевают ли семейные отношения за стремительно меняющимся миром?

Правила жизни
Гений вещи Гений вещи

Сенсационные признания того самого мужа, который ничего не выбрасывает

VOICE
Исследование префронтальной коры показало, что одиночество меняет мозг Исследование префронтальной коры показало, что одиночество меняет мозг

Нейронные представления одиноких людей отличаются от типичных для их группы

ТехИнсайдер
Не пытайтесь от него избавиться: 4 способа обратить синдром отличницы себе во благо Не пытайтесь от него избавиться: 4 способа обратить синдром отличницы себе во благо

С чем связан синдром отличницы? Какие у него последствия?

Psychologies
Флаг Чехова Флаг Чехова

«Мелихово» — один из главных музеев, посвященных Антону Чехову

Отдых в России
Зачем Трампу столько власти Зачем Трампу столько власти

Откажется ли Дональд Трамп, став президентом, от революционной тактики?

Монокль
Эффект Манделы: почему у людей возникают одинаковые ложные воспоминания Эффект Манделы: почему у людей возникают одинаковые ложные воспоминания

Почему одинаковые ложные воспоминания могут возникать сразу у множества людей?

Psychologies
На берегу Невы На берегу Невы

Интерьер с тонким петербургским настроением

SALON-Interior
Самец краснолицего гульмана вторгся в чужую группу и убил несколько детенышей Самец краснолицего гульмана вторгся в чужую группу и убил несколько детенышей

Почему самцы приматов бывают жестокими по отношению к чужим детенышам?

N+1
Открыть в приложении