Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые пытаются понять, что делать с ледниковым шельфом Уилкинса. Он на грани и грозит катастрофой планете Ученые пытаются понять, что делать с ледниковым шельфом Уилкинса. Он на грани и грозит катастрофой планете

Ледниковый шельф Уилкинса в Антарктиде демонстрирует признаки нестабильности

Inc.
Что такое киберфлешинг: зачем мужчины отправляют женщинам дикпики Что такое киберфлешинг: зачем мужчины отправляют женщинам дикпики

Что толкает мужчин высылать малознакомым девушкам снимки своих гениталий

Psychologies
Курсовая работа: как выпускники психфака создали заметную школу data science Курсовая работа: как выпускники психфака создали заметную школу data science

Онлайн-школа karpov.courses начиналась как pet-проект выпускников психфака

Forbes
Уроки радости Уроки радости

Есть ли у нас центр наслаждения и как его активировать?

Лиза
Как улучшить настроение за 5 минут: простые, но отлично работающие способы Как улучшить настроение за 5 минут: простые, но отлично работающие способы

Несколько приемов, которые помогут быстро встряхнуться и улучшить настроение

VOICE
Дарья Казакова Дарья Казакова

Дарья Казакова о переломном моменте и особенностях ее типажа

Grazia
«Мы постоянно работаем над своим ростом» «Мы постоянно работаем над своим ростом»

Заместитель гендиректора «Продимекса» Вадим Ерыженский о развитии компании

Агроинвестор
Ученые объяснили, почему жировые клетки не лопаются от накопленного жира Ученые объяснили, почему жировые клетки не лопаются от накопленного жира

Каков механизм в жировых клетках, который позволяет им безопасно увеличиваться?

ТехИнсайдер
Подводный меч страны Чучхе Подводный меч страны Чучхе

Военно-морские силы КНДР обладают одним из крупнейших в мире подводных флотов

Наука и техника
Чем гиперзвук отличается от суперзвука: то, что вы давно хотели знать, но стеснялись спросить Чем гиперзвук отличается от суперзвука: то, что вы давно хотели знать, но стеснялись спросить

Есть ли скорость еще более высокая, чем гиперзвуковая?

ТехИнсайдер
Культура публичной порки: почему мы так любим «казнить» провинившихся знаменитостей Культура публичной порки: почему мы так любим «казнить» провинившихся знаменитостей

Глава из книги Джонатана Сакса — о культуре отмены и самосуде

Psychologies
«Принудительные танцы — вид харассмента»: правила этикета на корпоративах «Принудительные танцы — вид харассмента»: правила этикета на корпоративах

Как с элегантностью и честью пережить новогодние корпоративы

РБК
15 витаминов и добавок, о которых не зря все говорят 15 витаминов и добавок, о которых не зря все говорят

Азбука красоты от А (аминокислоты) до Я (янтарная кислота)

VOICE
Почему котировки Ozon обвалились после новости о переезде в Россию Почему котировки Ozon обвалились после новости о переезде в Россию

Почему случилась распродажа депозитарных расписок Ozon на Мосбирже?

Forbes
Знаки сервиса дорожного движения: картинки с пояснениями Знаки сервиса дорожного движения: картинки с пояснениями

Какие бывают дорожные знаки сервиса и о чем они информируют?

РБК
Ускользающая простота Ускользающая простота

Как Геннадий Шпаликов не нашел себе места в застое

Weekend
Ар деко и машинки зрения Ар деко и машинки зрения

Как ар деко нарушает законы логики и перспективы

Знание – сила
«Чувствовала себя коровой»: как грудное вскармливание становится для женщин проблемой «Чувствовала себя коровой»: как грудное вскармливание становится для женщин проблемой

Что переживают женщины, которые только начинают грудное вскармливание

Forbes
Бородавки от лягушек и плохое зрение от чтения в темноте: 7 мифов, в которые мы верили в детстве Бородавки от лягушек и плохое зрение от чтения в темноте: 7 мифов, в которые мы верили в детстве

Мифы, в которые многие из нас верили с детства

ТехИнсайдер
Как уйти от абьюзера и разорвать отношения? Как уйти от абьюзера и разорвать отношения?

Уйти от абьюзера: какие основные шаги и куда можно обратиться?

Psychologies
Зачарованная страна Зачарованная страна

В сердце Турции есть место, где ты почувствуешь себя будто на другой планете

Лиза
ДвуАлександрие ДвуАлександрие

«ДвуАлександрие»: реформы, контрреформы, масоны, декабристы и большевики

Знание – сила
Раскрутить бизнес на полбяном хлебе Раскрутить бизнес на полбяном хлебе

Как на рынке хлебопечения появился белково-полбяной хлеб

Монокль
Тёплое время: 20 идей для уютной атмосферы в семье Тёплое время: 20 идей для уютной атмосферы в семье

Идеи, которые помогут сделать ваше «время вместе» теплее, дружнее и интереснее

Новый очаг
Без молотка и орехокола: 4 дейтвенных совета, как просто и быстро очистить грецкие орехи от скорлупы Без молотка и орехокола: 4 дейтвенных совета, как просто и быстро очистить грецкие орехи от скорлупы

Очистить гору орехов можно в домашних условиях и без особых усилий

ТехИнсайдер
Как за каменной стеной Как за каменной стеной

Почему города становятся заповедниками для редких животных

N+1
Бей, беги, замри, договаривайся: как реагировать на критику в свой адрес на работе Бей, беги, замри, договаривайся: как реагировать на критику в свой адрес на работе

Максим Карпов рассказывает, какой может быть критика и как на нее реагировать

Forbes
Роман Мадянов: «В моей жизни все решал Его величество господин великий случай» Роман Мадянов: «В моей жизни все решал Его величество господин великий случай»

Люди меня встречают и в большинстве случаев просят: «Можно пожать вашу руку?»

Коллекция. Караван историй
«Мне нужна была борьба»: как Екатерина Габашвили открывала в Грузии школы для девочек «Мне нужна была борьба»: как Екатерина Габашвили открывала в Грузии школы для девочек

Екатерина Габашвили: грузинская писательница и общественный деятель

Forbes
Лимфома, удар ножом, ВИЧ и вера: почему чемпионы уходили из спорта и как возвращались Лимфома, удар ножом, ВИЧ и вера: почему чемпионы уходили из спорта и как возвращались

Как величайшие спортсмены уходили на пенсию?

Forbes
Открыть в приложении