Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Безопасность использования ИИ в банках: что важно знать Безопасность использования ИИ в банках: что важно знать

Как именно работает искусственный интеллект в финансовом секторе

Inc.
«Перемещенные»: как подросток из лагеря для беженцев пытается жить в чужой стране «Перемещенные»: как подросток из лагеря для беженцев пытается жить в чужой стране

Отрывок из книги психолога Сании Биккиной «Перемещенные»

Forbes
3D-печать домов, роботы-диагносты, космические двигатели и сверхпрочные ткани: как российские стартапы создают будущее 3D-печать домов, роботы-диагносты, космические двигатели и сверхпрочные ткани: как российские стартапы создают будущее

Подборка историй людей, которые двигают прогресс

ТехИнсайдер
Островок покоя Островок покоя

7 лучших идей для оформления зимнего балкона

Лиза
Я вижу, о чем вы думаете Я вижу, о чем вы думаете

Как агенты ФБР читают людей

kiozk originals
Раньше было лучше? Раньше было лучше?

Как научиться ценить себя в настоящем, чтобы через годы не скучать по прошлому

Grazia
Диалог с человечеством: художники и коллекционеры о связи искусства и благотворительности Диалог с человечеством: художники и коллекционеры о связи искусства и благотворительности

Как искусство и благотворительность меняют общество

СНОБ
Ученые объяснили, почему жировые клетки не лопаются от накопленного жира Ученые объяснили, почему жировые клетки не лопаются от накопленного жира

Каков механизм в жировых клетках, который позволяет им безопасно увеличиваться?

ТехИнсайдер
«Конец Мегафауны: Увлекательная жизнь и загадочная гибель мамонтов, саблезубых тигров и гигантских ленивцев» «Конец Мегафауны: Увлекательная жизнь и загадочная гибель мамонтов, саблезубых тигров и гигантских ленивцев»

Как наших предков заподозрили в истреблении мегафауны

N+1
Эдуард Ратников — о театре «Одеон» и жизни без больших концертов Эдуард Ратников — о театре «Одеон» и жизни без больших концертов

Эдуард Ратников и его путь от стадионных шоу до мюзиклов

Правила жизни
Как превратить «недоотношения» в отношения? Попробуйте «суповой тест» Как превратить «недоотношения» в отношения? Попробуйте «суповой тест»

Как «суповой тест» поможет прояснить отношения?

Psychologies
Как у тебя хорошо! Как у тебя хорошо!

Как правильно просить дом о помощи?

VOICE
Замуж за друга: 3 непридуманные истории Замуж за друга: 3 непридуманные истории

Как получается, что мы вдруг видим возлюбленного в том, кого считали друзьями?

Psychologies
Безумству поем мы славу Безумству поем мы славу

Второй «Джокер»: Хоакин Феникс и Леди Гага отказываются развлекать публику

Weekend
10 маминых фраз, которые помогают во взрослой жизни 10 маминых фраз, которые помогают во взрослой жизни

Что говорить ребенку, чтобы он вырос гармоничным и счастливым человеком?

Psychologies
Семь причин сонливости Семь причин сонливости

Спите 7–8 часов, а днём всё равно клюёте носом?

Здоровье
Игра или проблема Игра или проблема

Что такое квадробинг и как реагировать родителям на эту субкультуру?

Лиза
7 самых смешных и глупых штрафов ПДД, о которых вы даже не догадывались 7 самых смешных и глупых штрафов ПДД, о которых вы даже не догадывались

Самые смешные автомобильные штрафы с дорожных камер фиксации ПДД

РБК
Неумолимая правдивость фантасмагории Неумолимая правдивость фантасмагории

Как разрушаются границы реальности в «Театральном романе» Михаила Булгакова

Weekend
Сильно больше Сильно больше

Tank 700 готов подтвердить свое лидерство не только выразительной внешностью

Автопилот
«Лучшими мечтами души мы жили в университетских стенах» «Лучшими мечтами души мы жили в университетских стенах»

Почему Анатолий Кони не стал математиком

Санкт-Петербургский университет
Правила выживания Правила выживания

Жесткая ДКП заставляет искать специфические инструменты для защиты денег

Монокль
Молодые годы Колчака Молодые годы Колчака

Александр Колчак — не только военный, но и ученый-океанограф

Знание – сила
Легенды Имандры Легенды Имандры

Что же влечет туристов в место, расположенное среди каменистой тундры и гор

Отдых в России
Обзор Geely Tugella: плюсы и минусы, комплектации, фото Обзор Geely Tugella: плюсы и минусы, комплектации, фото

Купе-кроссовер Geely Tugella: что стоит знать о нем

РБК
Код света и музыки Код света и музыки

Современное искусство открывает новые направления. Одно из них — медиативный арт

ЖАРА Magazine
3 признака того, что у вас с партнером «синдром соседа» 3 признака того, что у вас с партнером «синдром соседа»

Как понять, что вы больше не любовники, а просто сожители?

Psychologies
Карта памяти: как навигаторы и GPS меняют работу нашего мозга Карта памяти: как навигаторы и GPS меняют работу нашего мозга

Как навигаторы влияют на человеческий мозг и почему не всегда в лучшую сторону

Forbes
«Мне нужна была борьба»: как Екатерина Габашвили открывала в Грузии школы для девочек «Мне нужна была борьба»: как Екатерина Габашвили открывала в Грузии школы для девочек

Екатерина Габашвили: грузинская писательница и общественный деятель

Forbes
Почему музыка из вашей молодости — лучше? Узнайте интересный ответ ученых! Почему музыка из вашей молодости — лучше? Узнайте интересный ответ ученых!

В чем секрет привлекательности музыки из молодости?

ТехИнсайдер
Открыть в приложении