Дипфейки: можно ли обезопасить себя от мошенников?

Inc.Hi-Tech

Как мошенники используют дипфейки и почему не стоит выкладывать в интернет свои фотографии

Текст: Индира Жарова, руководитель агентства видеоновостей Ruptly. Фото: GuerrillaBuzz, Unsplash

guerrillabuzz-NwD_UggDGs-unsplash.jpg

В эпоху стремительного развития технологий создания и распространения видеоконтента, который сегодня является одним из основных инструментов передачи информации, на повестке дня часто возникает проблема отличия подлинных видео от дипфейков. Дипфейк (от англ. deep learning — глубинное обучение, fake — подделка) — это метод синтеза контента, вырабатываемый посредством машинного обучения и искусственного интеллекта. Для его создания не требуется много информации, достаточно лишь фотографии, видео или записи голоса человека, далее — дело за нейросетью. Как злоумышленники используют технологию в своих целях и можно ли обезопасить себя от них, разобралась для Inc. руководитель российского агентства видеоновостей Ruptly Индира Жарова.

Количество фейковых видео, порождающих ложные инфоповоды, стремительно растет, они становятся все более правдоподобными и труднодоступными для выявления. Если ранее эта технология использовалась для развлечения публики интригующим контентом о селебрити, то в текущей мировой обстановке она задействуется с целью влияния на политику, совершения манипулятивных действий и дезинформирования общественности.

С их распространением возникает все больше случаев „дискредитации” влиятельных личностей. Если не предавать эту проблему активному освещению в информационных источниках и не продумывать эффективные схемы противодействия, в дальнейшем такие видео и вовсе смогут стать угрозой национальной и международной безопасности.

С чего все началось?

Главным виновником появления подобных видео стал искусственный интеллект и его быстро развивающиеся возможности. В числе первых ИИ-моделей, посредством которых создавались первые дипфейки, стала уже всем известная GAN — генеративно-состязательная нейросеть, разработанная в 2014 году американским айтишником Яном Гудфеллоу и его командой. Производительность этой модели поддерживается двумя конкурирующими нейронными сетями — «генератором» случайных реалистичных изображений и «дискриминатором», который отделяет фейковые материалы от подлинных.

Создание дипфейка включает в себя несколько этапов: сбор данных, обучение модели и итоговую реализацию. Для начала требуется большое количество изображений и/или видео человека, который будет заменен на подделке. Затем генератор и дискриминатор обучаются на этих данных, чтобы лучше воспроизводить лицо или голос человека. После обучения модель способна заменять лицо одного человека лицом другого в видео или аудио с высокой степенью реализма.

Первые сгенерированные с помощью ИИ дипфейки появились в 2017 году. Тогда резонансный кейс с применением усовершенствованной технологии связывали с пользователем, который опубликовал на Reddit несколько интимных роликов с участием фальшивых обнаженных звезд, в числе которых — Скарлетт Йоханссон, Эмма Уотсон и другие. Год спустя в сети появилось поддельное видео с Бараком Обамой, произносящим речь, в которой он назвал занимавшего на тот момент должность президента Дональда Трампа «полным идиотом». Этот ролик, созданный с использованием дипфейк-технологии, показывает, насколько реалистичными могут быть подделки и как их можно использовать для манипуляции общественным мнением. Видео было создано американским актером Джорданом Пилом и медиакомпанией BuzzFeed с целью показать опасность дипфейков.

В 2019 году дипфейк-манипуляции оказался подвержен соучредитель и главный исполнительный директор Meta* [признана экстремистской организацией на территории России] Марк Цукерберг. В фейковом видео он «заявил» о том, как контролирует украденные данные миллионов пользователей.

Сегодня, благодаря автоматизации и доступности инструментов, процесс создания компрометирующего контента стал значительно проще для широкой аудитории. Существует множество приложений, позволяющих синтезировать дипфейки с минимальными техническими знаниями, например, DeepFaceLab, FaceSwap, Reface и многие другие. На Youtube можно легко найти туториалы, в которых доходчиво объясняется, как пользоваться подобными программами. То есть при желании сделать дипфейк может любой пользователь интернета. Но качество и убедительность будет зависеть от того, сколько пользователь будет обучаться работе с ИИ и от количества контента с лицом человека, который он «скормит» нейросети.

Так, дипфейк по простому гайду с Youtube вряд ли будет выглядеть достоверно. Но при должном усердии, изучении более продвинутых функций на форумах и обработке большого количества контента может получиться то, что некоторым пользователям будет довольно сложно отличить от реальности. Такие работы, уже можно сказать профессионалов, естественно, распознать сложнее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как United Airlines обслуживает клиентов с помощью ИИ и сколько она на этом выиграла, а не потеряла Как United Airlines обслуживает клиентов с помощью ИИ и сколько она на этом выиграла, а не потеряла

United Airlines использует ИИ, чтобы передавать клиентам важную информацию

Inc.
Почему врач-косметолог может отказать в процедуре: 5 важных причин Почему врач-косметолог может отказать в процедуре: 5 важных причин

Причины, по которым высококлассный косметолог может отказать в приеме

VOICE
Как можно использовать искусственный интеллект для создания видео? Интересные факты Как можно использовать искусственный интеллект для создания видео? Интересные факты

Как работают ИИ-видеогенераторы, где их применяют и что ждет нас в будущем

ТехИнсайдер
Спокойно, первоклассник Спокойно, первоклассник

Как первоклассникам и родителям прожить период адаптации и сохранить мотивацию?

Новый очаг
Что такое психогенное переедание, или binge eating Что такое психогенное переедание, или binge eating

Психогенное переедание: как его распознать и можно ли вылечить?

ТехИнсайдер
Для чего просвещенный бельгийский монарх Леопольд II устроил апокалипсис в Африке Для чего просвещенный бельгийский монарх Леопольд II устроил апокалипсис в Африке

Как король бельгийцев завоёвывал Африку

Forbes
«Сестра использует меня и говорит, что мне нравится быть жертвой»: историю читателя распутывает психолог «Сестра использует меня и говорит, что мне нравится быть жертвой»: историю читателя распутывает психолог

Почему именно близкие ранят нас так сильно?

Psychologies
Почему проваливаются переговоры и как научиться добиваться своего Почему проваливаются переговоры и как научиться добиваться своего

Что такое искусство переговоров? Разбираем в теории и на практике

Forbes
Цвет вашей кожи может влиять на эффективность лекарств Цвет вашей кожи может влиять на эффективность лекарств

Как кожа человека реагирует на лекарства в зависимости от ее типа?

ТехИнсайдер
«Фотокасса» сэкономит еду «Фотокасса» сэкономит еду

В России активно внедряются первые в мире умные весы на основе нейросети

Монокль
Побойтесь, ради бога Побойтесь, ради бога

«Еретик»: неудавшийся богословский хоррор с Хью Грантом

Weekend
Ускользающая простота Ускользающая простота

Как Геннадий Шпаликов не нашел себе места в застое

Weekend
Человек в темной комнате Человек в темной комнате

Как Леонардо Ди Каприо оказался последней голливудской звездой

Weekend
«Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО «Погрузишь легочного, а привозишь с заворотом кишок!» Что говорили водители про первый советский грузовик АМО

Посмотрите на историю первенца автопрома СССР глазами живых очевидцев

ТехИнсайдер
Без желания нравиться и чувства долга: как навык говорить «нет» делает жизнь лучше Без желания нравиться и чувства долга: как навык говорить «нет» делает жизнь лучше

Как научиться отстаивать свои интересы и границы с коллегами и близкими

Forbes
«Есть слово „надо“»: зачем развивать дисциплинированность «Есть слово „надо“»: зачем развивать дисциплинированность

Почему дисциплинированность недооценена и как она помогает нам в жизни

Psychologies
Новые реалии — новые правила: ректор РАНХиГС Алексей Комиссаров — о трансформации бизнес-образования Новые реалии — новые правила: ректор РАНХиГС Алексей Комиссаров — о трансформации бизнес-образования

Ректор РАНХиГС о ценности рейтингов, требованиях времени и «корочке» пилота

СНОБ
Как отменяют Макгрегора: удалили из видеоигры, магазины изымают напитки с его именем Как отменяют Макгрегора: удалили из видеоигры, магазины изымают напитки с его именем

Все про процесс «отмены» Макгрегора

Forbes
Рудознатцы Рудознатцы

Как сейчас в России ищут золото

ТехИнсайдер
Зимняя Башкирия Зимняя Башкирия

Башкортостан не зря называют «русской Швейцарией»

Отдых в России
Хороший мальчик: когда начинать учить детей этикету, чтобы они не выросли невежами Хороший мальчик: когда начинать учить детей этикету, чтобы они не выросли невежами

Когда начинать обучение ребенка нормам поведения?

Psychologies
«Я приношу деньги, дальше — не моя забота»: 5 типов отцов, которые портят детям психику «Я приношу деньги, дальше — не моя забота»: 5 типов отцов, которые портят детям психику

Пять самых деструктивных типов отцов

Psychologies
Изменения к лучшему: каким получился обновленный кросс-купе Exeed RX Flagship Изменения к лучшему: каким получился обновленный кросс-купе Exeed RX Flagship

Чем кросс-купе Exeed RX Flagship отличается от своего «старшего брата»

Forbes
«Еретик»: религиозный хоррор с Хью Грантом в роли профессора-маньяка «Еретик»: религиозный хоррор с Хью Грантом в роли профессора-маньяка

Чем впечатляет хоррор-триллер «Еретик»?

Forbes
Космос начинается с Земли: метрологическое обеспечение космической техники Космос начинается с Земли: метрологическое обеспечение космической техники

Зачем на Луну сбрасывают зеркала? И как мы пользуемся достижениями метрологии?

Наука и техника
Как превратить «недоотношения» в отношения? Попробуйте «суповой тест» Как превратить «недоотношения» в отношения? Попробуйте «суповой тест»

Как «суповой тест» поможет прояснить отношения?

Psychologies
Сыр Сыр

Сыр – один из древнейших продуктов, который люди научились делать

Здоровье
Стремящаяся вверх Стремящаяся вверх

Евгения Леонтьева — альпинистка и спортивный фотограф

Отдых в России
Вышел из тени Вышел из тени

С какими тенями борется актер Борис Хвошнянский?

Men Today
Вторая Луна: в космосе был замечен «прототип» спутника Земли Вторая Луна: в космосе был замечен «прототип» спутника Земли

Два месяца назад ученые обнаружили в космосе астероид неизвестного происхождения

ТехИнсайдер
Открыть в приложении