Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Утерянный 5000 лет назад: ученые воскресили древнейший в мире синтетический краситель. Зачем он нужен? Утерянный 5000 лет назад: ученые воскресили древнейший в мире синтетический краситель. Зачем он нужен?

Откуда взялся яркий, насыщенный синий цвет в Древнем Египте

Inc.
Найти путь к изобилию Найти путь к изобилию

Как работает обращение к психологам с запросом на финансовое благополучие

Psychologies
Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер Новые гибкие актуаторы позволили колесному роботу трансформироваться в квадрокоптер

Инженеры разработали гибкие актуаторы, которые могут плавно деформироваться

N+1
7 трюков, которые надо знать, если ты хочешь накрасить ногти лаком с блестками 7 трюков, которые надо знать, если ты хочешь накрасить ногти лаком с блестками

Любишь блеск и гламур? Понимаем и одобряем!

VOICE
«Налоговая лазейка» и верные клиенты: как Джеффри Эпштейн сделал свое состояние «Налоговая лазейка» и верные клиенты: как Джеффри Эпштейн сделал свое состояние

Хотите узнать способ, благодаря которому Джеффри Эпштейннакопил свое состояние?

Forbes
Спору — нет / спору — да Спору — нет / спору — да

Где подстерегают людей конфликты и почему они полезны?

Men Today
Плотный ужин после 5 часов вечера может нанести вред здоровью сердца Плотный ужин после 5 часов вечера может нанести вред здоровью сердца

Исследование: ужин после 5 часов вечера нарушает уровень глюкозы

ТехИнсайдер
Как вернуть голос Как вернуть голос

Можно ли восстановить голос без помощи врача?

Лиза
В Европу через Океанию: как получить ВНЖ в Греции с помощью паспорта Вануату В Европу через Океанию: как получить ВНЖ в Греции с помощью паспорта Вануату

Почему востребован ВНЖ Греции и какую роль тут играет паспорт Вануату

Forbes
Туда-сюда-издат Туда-сюда-издат

14 историй о том, как писатели пользовались тамиздатом

Weekend
Тёплое время: 20 идей для уютной атмосферы в семье Тёплое время: 20 идей для уютной атмосферы в семье

Идеи, которые помогут сделать ваше «время вместе» теплее, дружнее и интереснее

Новый очаг
Наука о счастье: какой может быть хэппиномика Наука о счастье: какой может быть хэппиномика

Какой может быть наука о счастье и что она способна дать человечеству?

Forbes
От любви до ненависти: представители каких профессий считаются самыми счастливыми и самыми несчастными в мире От любви до ненависти: представители каких профессий считаются самыми счастливыми и самыми несчастными в мире

Представители каких профессий, как правило, наслаждаются своим делом?

ТехИнсайдер
Алексей Иванов «Вегетация». Глава из нового романа Алексей Иванов «Вегетация». Глава из нового романа

Глава из фантастического романа с элементами роуд-муви и антиутопии «Вегетация»

СНОБ
Ваш электромобиль проедет 300.000 км без ремонта батареи, утверждает исследование. Ну что, поверим? Ваш электромобиль проедет 300.000 км без ремонта батареи, утверждает исследование. Ну что, поверим?

Деградация аккумуляторов оказалась значительно меньше, чем многие думали

ТехИнсайдер
Палеоиндейцы изготовили иглы из костей пушных животных Палеоиндейцы изготовили иглы из костей пушных животных

Ученые выяснили, из костей каких животных изготавливали иглы палеоиндейцы

N+1
Цвет и его имя Цвет и его имя

В каком порядке народы приобретали чувствительность к цветам спектра?

Знание – сила
Как уйти от абьюзера и разорвать отношения? Как уйти от абьюзера и разорвать отношения?

Уйти от абьюзера: какие основные шаги и куда можно обратиться?

Psychologies
Геродот ошибался: армяне произошли не с Балкан, а из Леванта Геродот ошибался: армяне произошли не с Балкан, а из Леванта

Древнегреческий историк ошибался: армяне происходят не с Балкан

ТехИнсайдер
Настенный микс Настенный микс

Как комбинировать разные виды обоев в комнате

Лиза
Легенды Имандры Легенды Имандры

Что же влечет туристов в место, расположенное среди каменистой тундры и гор

Отдых в России
Никита Мещерский: Как король полного привода отстал от конкурентов Никита Мещерский: Как король полного привода отстал от конкурентов

Audi Quattro — культовый полноприводный автомобиль

4x4 Club
Живем один джаз Живем один джаз

7 вопросов, из которых Игорь Бутман сложил свою джазовую композицию

Men Today
Ох уж эта свекровь! Ох уж эта свекровь!

На самом деле далеко не каждая свекровь – монстр. Просто нужно знать секреты!

Лиза
Узнайте, есть ли у ваших друзей Узнайте, есть ли у ваших друзей

На какие проблемы со здоровьем может указать нервный смех?

ТехИнсайдер
Алмаз из пробирки Алмаз из пробирки

Российские ювелиры — о лабораторно выращенных бриллиантах

RR Люкс.Личности.Бизнес.
Никаких трещин и белых разводов: как защитить ботинки от реагентов Никаких трещин и белых разводов: как защитить ботинки от реагентов

Как защитить свои ботинки от реагентов этой зимой?

ТехИнсайдер
Что такое «эмоциональное наводнение» и как с ним справиться Что такое «эмоциональное наводнение» и как с ним справиться

Что делать, когда реакция организма на перемены становится чрезмерной?

Psychologies
Менкипинг: как жены становятся «бесплатными психологами» для мужей и почему так происходит Менкипинг: как жены становятся «бесплатными психологами» для мужей и почему так происходит

Почему мужчины обращаются к своим женам, а не к психологам?

Psychologies
Эффект Манделы: почему у людей возникают одинаковые ложные воспоминания Эффект Манделы: почему у людей возникают одинаковые ложные воспоминания

Почему одинаковые ложные воспоминания могут возникать сразу у множества людей?

Psychologies
Открыть в приложении