Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В Финляндии стали использовать избыточное тепло дата-центров для отопления В Финляндии стали использовать избыточное тепло дата-центров для отопления

Дата-центр снабжает финский город теплом уже около десяти лет

Inc.
20 вопросов, которые нужно себе задать, чтобы выявить красные флаги в отношениях 20 вопросов, которые нужно себе задать, чтобы выявить красные флаги в отношениях

Честные ответы на эти вопросы помогут заметить все красные флаги в отношениях

Psychologies
Стремительный разгон и быстрый взлет: самые короткие взлетно-посадочные полосы в мире Стремительный разгон и быстрый взлет: самые короткие взлетно-посадочные полосы в мире

Аэропорты, взлетно-посадочные полосы которых проверяют пилотов на прочность

ТехИнсайдер
Наука о счастье: какой может быть хэппиномика Наука о счастье: какой может быть хэппиномика

Какой может быть наука о счастье и что она способна дать человечеству?

Forbes
«Тратить — очень круто»: как зумеры ведут себя с деньгами «Тратить — очень круто»: как зумеры ведут себя с деньгами

Как молодые взрослые ищут баланс между тратами и накоплениями

РБК
Уже не игрушка Уже не игрушка

Как открыть творческий бизнес и продавать свои изделия

Лиза
Петербург будущего Петербург будущего

Основатель бюро SLOI Валентин Коган — самый успешный молодой архитектор Питера

Собака.ru
Новый рекорд Новый рекорд

23 сентября 2024 года совершил посадку аппарат космического корабля «Союз МС-25»

Наука и техника
Это у нас семейное: что происходит с институтом семьи и брака? Это у нас семейное: что происходит с институтом семьи и брака?

Успевают ли семейные отношения за стремительно меняющимся миром?

Правила жизни
7 трюков, которые надо знать, если ты хочешь накрасить ногти лаком с блестками 7 трюков, которые надо знать, если ты хочешь накрасить ногти лаком с блестками

Любишь блеск и гламур? Понимаем и одобряем!

VOICE
«Меня растили как прислугу для родителей» — историю читательницы комментирует психолог «Меня растили как прислугу для родителей» — историю читательницы комментирует психолог

Как начать жить, если родители внушили чувство долга перед ними?

Psychologies
Умный город: утопия или реальное будущее? Умный город: утопия или реальное будущее?

Можно ли создать идеальный город?

Наука и жизнь
Раньше было лучше? Раньше было лучше?

Как научиться ценить себя в настоящем, чтобы через годы не скучать по прошлому

Grazia
Плотный ужин после 5 часов вечера может нанести вред здоровью сердца Плотный ужин после 5 часов вечера может нанести вред здоровью сердца

Исследование: ужин после 5 часов вечера нарушает уровень глюкозы

ТехИнсайдер
Умирающая хромосома Умирающая хромосома

Y-хромосома — cамая маленькая в человеческом геноме, она продолжает уменьшаться

ТехИнсайдер
Между искусством и фейком Между искусством и фейком

10 эпизодов сюр(реализм)а в моде

Weekend
На берегу озера 1,5 миллиона лет назад встретились два гоминина На берегу озера 1,5 миллиона лет назад встретились два гоминина

Ученые обнаружили окаменевшие следы сразу двух гомининов на берегу озера Тукан

ТехИнсайдер
Никаких трещин и белых разводов: как защитить ботинки от реагентов Никаких трещин и белых разводов: как защитить ботинки от реагентов

Как защитить свои ботинки от реагентов этой зимой?

ТехИнсайдер
Как добавить 11 лет своей жизни? Ходьбой! Как добавить 11 лет своей жизни? Ходьбой!

Каждый час ходьбы может принести до шести лет «дополнительной» жизни

ТехИнсайдер
Порно и предубеждение Порно и предубеждение

«Соперники»: чисто английские 1980-е

Weekend
Сон в кровавую ночь Сон в кровавую ночь

Краткая история «Кошмара на улице Вязов» в 20 пунктах

Weekend
Никита Мещерский: Как король полного привода отстал от конкурентов Никита Мещерский: Как король полного привода отстал от конкурентов

Audi Quattro — культовый полноприводный автомобиль

4x4 Club
Энергетика: маневры за перекрестком Энергетика: маневры за перекрестком

Масштабы перекрестного субсидирования в энергетике сильно преувеличены

Монокль
От Рахманинова до рок-группы на ВДНХ: Артемий Артемьев о пути в музыку, учебе у Лукаса и сохранении наследия отца От Рахманинова до рок-группы на ВДНХ: Артемий Артемьев о пути в музыку, учебе у Лукаса и сохранении наследия отца

Сын Эдуарда Артемьева — о влиянии отца и продолжении музыкальной династии

СНОБ
Лиза Моряк: «Если работаешь 24/7, нужно научиться находиться в потоке. Просто расслабиться и получать удовольствие» Лиза Моряк: «Если работаешь 24/7, нужно научиться находиться в потоке. Просто расслабиться и получать удовольствие»

Мне очень важно мое время, мое пространство, свобода, что я могу быть настоящей

Караван историй
Внутри рубина лазерный луч может отбрасывать тень при облучении другим лазером Внутри рубина лазерный луч может отбрасывать тень при облучении другим лазером

Световые мечи из «Звездных войнов» — не просто фантастика

ТехИнсайдер
Джон Тиндаль и уникальные свойства паров воды: физика и метафизика Джон Тиндаль и уникальные свойства паров воды: физика и метафизика

Физик-экспериментатор Джон Тиндаль и его открытие свойств водяного пара

Знание – сила
Культурное наследие Культурное наследие

Авторы, которые в своем творчестве обращаются к историческим корням

Grazia
Брак нужнее мужчинам Брак нужнее мужчинам

Как женщины влияют на своих супругов?

Санкт-Петербургский университет
Косатки снова начали носить на голове мертвых лососей Косатки снова начали носить на голове мертвых лососей

Зоологам так и не удалось выяснить, зачем косатки носят лососей на голове

N+1
Открыть в приложении