Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением Подводный пылесос и чистящее желе: четыре российских технологии для борьбы с нефтяным загрязнением

Как решения используют в России по уборке нефтепродуктов?

Inc.
Семейные ценности Семейные ценности

Уютный загородный дом для большой семьи из трех поколений

SALON-Interior
Крымский мост: сколько строили и когда открыли самый длинный мост Европы Крымский мост: сколько строили и когда открыли самый длинный мост Европы

Факты, которые вы не знали о Крымском мосте

РБК
«О началах и концах света: Рождение и гибель мира в мифологии, религии и науке» «О началах и концах света: Рождение и гибель мира в мифологии, религии и науке»

Когда наш мир утонет в расплавленном металле

N+1
«Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу «Королева небес»: Что известно о самолете за $400 миллионов, который Катар подарил Трампу

Как Америке катарцы подарили самолет.

Maxim
10 новых сериалов, от которых невозможно оторваться 10 новых сериалов, от которых невозможно оторваться

Лучшие сериалы начала 2020-х годов, которые проглотят все ваше свободное время

Maxim
Город солнца Город солнца

Самые яркие локации столицы солнечной Мордовии — Саранска

Лиза
Ученые объяснили, почему жировые клетки не лопаются от накопленного жира Ученые объяснили, почему жировые клетки не лопаются от накопленного жира

Каков механизм в жировых клетках, который позволяет им безопасно увеличиваться?

ТехИнсайдер
«Птица» с Барри Кеоганом: магический реализм в британской глубинке «Птица» с Барри Кеоганом: магический реализм в британской глубинке

Как Андреа Арнольд возвращается к корням и находит надежду в магическом реализме

Forbes
Не вибрируй! Не вибрируй!

4 признака того, что стиральная машина скоро сломается

Лиза
«Скелеты в шкафу: Как наша тайная жизнь управляет явной» «Скелеты в шкафу: Как наша тайная жизнь управляет явной»

В какой момент младенцы начинают хранить тайны лучше шимпанзе

N+1
Передовая на передовой Передовая на передовой

«Великая»: байопик легендарной военной корреспондентки Ли Миллер

Weekend
У кредитов бизнесу отказали тормоза У кредитов бизнесу отказали тормоза

Высокая ставка не останавливает корпоративное кредитование

Монокль
Без молотка и орехокола: 4 дейтвенных совета, как просто и быстро очистить грецкие орехи от скорлупы Без молотка и орехокола: 4 дейтвенных совета, как просто и быстро очистить грецкие орехи от скорлупы

Очистить гору орехов можно в домашних условиях и без особых усилий

ТехИнсайдер
Как ИИ помогает диагностировать смертельные болезни, и чего он пока не умеет Как ИИ помогает диагностировать смертельные болезни, и чего он пока не умеет

Как нейросети могут помочь врачам в их работе?

Inc.
Движение вверх Движение вверх

8 необычных вариантов оформления потолка в квартире

Лиза
Хитрый рис Хитрый рис

Всё, что нужно знать про саке

RR Люкс.Личности.Бизнес.
Изменения к лучшему: каким получился обновленный кросс-купе Exeed RX Flagship Изменения к лучшему: каким получился обновленный кросс-купе Exeed RX Flagship

Чем кросс-купе Exeed RX Flagship отличается от своего «старшего брата»

Forbes
Порто-франко на Суэце Порто-франко на Суэце

Какие возможности открывает российская производственная зона в Египте

Монокль
Плюс в карму Плюс в карму

Как влиять на свою судьбу и менять ход событий

Лиза
Этот голубь по кличке Шер Ами спас 200 человек во время Первой мировой и стал героем США! Этот голубь по кличке Шер Ами спас 200 человек во время Первой мировой и стал героем США!

История геройских подвигов птицы ​​​​​​​Шер Ами во время Первой мировой

ТехИнсайдер
На острове Диско найден возможный источник фосфора для возникновения первых живых организмов На острове Диско найден возможный источник фосфора для возникновения первых живых организмов

Магма могла стать источником фосфора для возникновения первых живых организмов

Знание – сила
Болотный хлопок Болотный хлопок

Пушица — растение с мягким пушком, которое растёт на болотах

Наука и жизнь
Ветряки, солнечные панели и декарбонизация бизнеса: какой будет энергетика будущего Ветряки, солнечные панели и декарбонизация бизнеса: какой будет энергетика будущего

Есть ли у человечества возможность отказаться от грязных ресурсов?

Forbes
Потерянные и обретенные Потерянные и обретенные

Истории пропавших шедевров напоминают сюжеты самых невероятных фильмов

Вокруг света
Помогает ли коллаген здоровью суставов и кожи Помогает ли коллаген здоровью суставов и кожи

Что такое коллаген? Нужно ли его пить для здоровья кожи?

ТехИнсайдер
Дама и осьминоги: как Жанна Вильпре-Пауэр придумала аквариумы и исследовала моллюсков Дама и осьминоги: как Жанна Вильпре-Пауэр придумала аквариумы и исследовала моллюсков

Жанна Вильпре-Пауэр провела детство в глубинке, но связала свою жизнь с морем

Forbes
«Голдфингер-2» «Голдфингер-2»

Трансфигурации Aston Martin DB12 и Rolls-Royce Phantom в третьем тысячелетии

Автопилот
Как противостоять газлайтингу: 7 способов Как противостоять газлайтингу: 7 способов

Газлайтинг: как его определить и не дать сбить себя с толку?

Psychologies
Умирающая хромосома Умирающая хромосома

Y-хромосома — cамая маленькая в человеческом геноме, она продолжает уменьшаться

ТехИнсайдер
Открыть в приложении