Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Эволюция платежных сервисов в регионах: от налички до BNPL Эволюция платежных сервисов в регионах: от налички до BNPL

Потенциал платежных систем и развитие финтеха в российских регионах

Inc.
Путешествие на виртуальном трамвае Путешествие на виртуальном трамвае

Почему современные дети и подростки чувствуют себя усталыми и хотят спать

СНОБ
Почему капитанский мостик находится в корме, если с носа обзор лучше Почему капитанский мостик находится в корме, если с носа обзор лучше

Где должен быть установлен капитанский мостик — на корме или на носу корабля?

ТехИнсайдер
Гений места Гений места

Интересные российские гиды — Алтай и Мончегорск

Новый очаг
Лошади стали прекрасными бегунами из-за генетической ошибки Лошади стали прекрасными бегунами из-за генетической ошибки

Мутация, из-за которой лошади должны были вымереть, но стали отличными бегунами

ТехИнсайдер
Равнение на середину Равнение на середину

Простые упражнения для тонкой талии и плоского живота

Лиза
Что такое киберфлешинг: зачем мужчины отправляют женщинам дикпики Что такое киберфлешинг: зачем мужчины отправляют женщинам дикпики

Что толкает мужчин высылать малознакомым девушкам снимки своих гениталий

Psychologies
Далекий гром: как распознать признаки грядущего разрыва с китайским партнером Далекий гром: как распознать признаки грядущего разрыва с китайским партнером

Как не потерять китайского партнера?

Forbes
Диалог с человечеством: художники и коллекционеры о связи искусства и благотворительности Диалог с человечеством: художники и коллекционеры о связи искусства и благотворительности

Как искусство и благотворительность меняют общество

СНОБ
Женщины, удивившие мир Женщины, удивившие мир

Женщины, установившие мировые рекорды и удивившие мужчин-спортсменов

Караван историй
Тело помнит жир! Ученые рассказали, почему трудно удержать вес после похудения Тело помнит жир! Ученые рассказали, почему трудно удержать вес после похудения

Почему сброшенные килограммы часто возвращаются?

ТехИнсайдер
Закрасить седину Закрасить седину

Методы, которые помогут замаскировать седые волосы и освежить образ

Лиза
Саундтрек «Пингвина»: какая музыка звучит и что она символизирует в сериальном хите этой осени Саундтрек «Пингвина»: какая музыка звучит и что она символизирует в сериальном хите этой осени

Разбор саундтрека «Пингвина»: главные элементы его музыкальной составляющей

СНОБ
Никита Мещерский: Как король полного привода отстал от конкурентов Никита Мещерский: Как король полного привода отстал от конкурентов

Audi Quattro — культовый полноприводный автомобиль

4x4 Club
Брачный контракт: за и против Брачный контракт: за и против

Брачный договор: в каких случаях его стоит заключать?

Psychologies
Палеоиндейцы изготовили иглы из костей пушных животных Палеоиндейцы изготовили иглы из костей пушных животных

Ученые выяснили, из костей каких животных изготавливали иглы палеоиндейцы

N+1
Российский сорт в открытом и закрытом грунте Российский сорт в открытом и закрытом грунте

Сколько лет потребуется отечественной селекции для увеличения доли семян овощей

Агроинвестор
Фокус на тарелке: 10 вопросов фуд-стилисту Фокус на тарелке: 10 вопросов фуд-стилисту

Кто такой фуд-стилист и чем он занимается

СНОБ
На берегу озера 1,5 миллиона лет назад встретились два гоминина На берегу озера 1,5 миллиона лет назад встретились два гоминина

Ученые обнаружили окаменевшие следы сразу двух гомининов на берегу озера Тукан

ТехИнсайдер
Археологи выявили остатки древнейшей окрашенной одежды в Нидерландах Археологи выявили остатки древнейшей окрашенной одежды в Нидерландах

Ученые нашли остатки ткани в погребении раннего железного века в Нидерландах

N+1
Туда-сюда-издат Туда-сюда-издат

14 историй о том, как писатели пользовались тамиздатом

Weekend
Снежная красавица Снежная красавица

Какой уход требуется нашей коже зимой?

Лиза
Записки из раскопа Записки из раскопа

Как жители средневекового Новгорода передавали сообщения

Вокруг света
Сергей Вялов: «Прибегать к Сергей Вялов: «Прибегать к

Нужно ли чистить печень? Отвечает врач гепатолог-гастроэнтеролог

Здоровье
Знаки сервиса дорожного движения: картинки с пояснениями Знаки сервиса дорожного движения: картинки с пояснениями

Какие бывают дорожные знаки сервиса и о чем они информируют?

РБК
Стремящаяся вверх Стремящаяся вверх

Евгения Леонтьева — альпинистка и спортивный фотограф

Отдых в России
Этот всеми любимый напиток повышает риск развития деменции в 3 раза: лучше не злоупотреблять! Этот всеми любимый напиток повышает риск развития деменции в 3 раза: лучше не злоупотреблять!

У людей, употребляющих этот напиток ежедневно, наблюдается снижение памяти

ТехИнсайдер
Во власти эмоций Во власти эмоций

В чем разница между воришкой и клептоманом?

Лиза
Криштиану Роналду невероятно красивый, но очень глупый: миф или правда? Криштиану Роналду невероятно красивый, но очень глупый: миф или правда?

Разрушаем легенды об одном из самых популярных футболистов мира

Maxim
8 профессий, которые нормально освоить мужчине (вопреки стереотипам) 8 профессий, которые нормально освоить мужчине (вопреки стереотипам)

«Женские» профессии, которые становятся все более актуальными и подойдут мужчине

Maxim
Открыть в приложении