Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Познавательные факты о малине: что она на самом деле представляет собой и как эта ягода причастна к названиям островов Познавательные факты о малине: что она на самом деле представляет собой и как эта ягода причастна к названиям островов

Почему малину называют суперфудом и точно ли она относится к ягодам?

ТехИнсайдер
Запоры: почему и что делать? Запоры: почему и что делать?

Проблемы с кишечником: как с ними справиться?

Здоровье
Зловещий ИИ: зачем чат-боты рушат семьи и делают нас глупее и кто в этом виноват Зловещий ИИ: зачем чат-боты рушат семьи и делают нас глупее и кто в этом виноват

Действительно ли от нейросетей исходят серьезные угрозы?

Forbes
Праздник жизни Праздник жизни

Новый проект Татьяны Мироновой впечатляет искрящейся витальностью

SALON-Interior
Как нас обманывает Disney: чем на самом деле заканчиваются популярные детские сказки Как нас обманывает Disney: чем на самом деле заканчиваются популярные детские сказки

Почти у каждой сказки, которую вы читали в детстве, есть версия 18+...

ТехИнсайдер
Виктор Горячев: «Я пришел в фотографию из-за Булата Окуджавы» Виктор Горячев: «Я пришел в фотографию из-за Булата Окуджавы»

На счету Виктора Горячева огромное количество профессиональных портретов

Караван историй
Идем в рост Идем в рост

Где черпать силы и как вдохновлять сотрудников, когда сам нуждаешься в поддержке

Psychologies
Светлана Иванова: «Страшно забронзоветь — хочется фантазировать, придумывать, хулиганить» Светлана Иванова: «Страшно забронзоветь — хочется фантазировать, придумывать, хулиганить»

Светлана Иванова — о знакомстве с Волчек, работе в театре и главном страхе

СНОБ
Как строить карьеру в VUCA-мире Как строить карьеру в VUCA-мире

Продолжать профессиональный и служебный рост можно даже в условиях хаоса

РБК
Полный вперед, «Политрук Бочаров»! Полный вперед, «Политрук Бочаров»!

Cемейная пара воссоздала советский теплоходик в духе 1950–60‑х годов

Y Magazine
Музыкальная волна феминизма: какие исполнительницы поют о правах женщин Музыкальная волна феминизма: какие исполнительницы поют о правах женщин

Чьи треки стоит послушать, чтобы почувствовать женскую поддержку

Forbes
Киберпанкреализм Киберпанкреализм

Создатели «Мира Дикого Запада» экранизируют Уильяма Гибсона

Weekend
Перестаньте за все извиняться на работе. Почему это вредно и какие фразы лучше использовать — советы эксперта Перестаньте за все извиняться на работе. Почему это вредно и какие фразы лучше использовать — советы эксперта

Для многих говорить «извините» стало вредной привычкой

Inc.
Постоянно заняты? 3 признака токсичного трудоголизма (и что с этим делать) Постоянно заняты? 3 признака токсичного трудоголизма (и что с этим делать)

Зачем вам быть занятыми на самом деле?

Inc.
Точный подсчет Точный подсчет

Какие тренировки лучше всего помогают избавиться от накопленных калорий?

Лиза
6 книг современных азиатских авторов 6 книг современных азиатских авторов

Необычные и современные произведения авторов из стан Азии

Правила жизни
«Орел или решка?»: 5 приемов, которые помогут принять трудное решение «Орел или решка?»: 5 приемов, которые помогут принять трудное решение

Как принять сложное решение?

Psychologies
Незамерзайка для машины: как выбрать и сколько стоит Незамерзайка для машины: как выбрать и сколько стоит

На что обратить внимание, выбирая эффективную незамерзайку?

РБК
Наступление тишины Наступление тишины

Пора увидеть Spectre

Автопилот
10 булгаковских адресов в Москве 10 булгаковских адресов в Москве

Какой театр стал прототипом Варьете и где располагалась резиденция Воланда?

Культура.РФ
Откуда температура Откуда температура

Всегда ли нужно сбивать повышенную температуру?

Лиза
Фармацевтика держит удар Фармацевтика держит удар

У отечественной фармацевтической отрасли есть потенциал для развития

РБК
Преодолеть обстоятельства Преодолеть обстоятельства

«Радость преодоления» звучит как оксюморон, сочетание несочетаемого

Psychologies
Откуда в пиве женские гормоны: факты против вымысла и народных баек Откуда в пиве женские гормоны: факты против вымысла и народных баек

Пиво – возможно, один из самых ранних напитков, созданных руками человека

ТехИнсайдер
Сергей Кудряшов: «Узнать за 60 дней» Сергей Кудряшов: «Узнать за 60 дней»

Можно ли в сжатые сроки перевести крупную компанию на новые ИТ-рельсы

РБК
Манипуляция — это нормально. Как обращаться с теми, кто вами манипулирует Манипуляция — это нормально. Как обращаться с теми, кто вами манипулирует

Как себя уберечь от манипуляторов?

Psychologies
Не теряйте меня (и себя) Не теряйте меня (и себя)

События и испытания последних лет лишь подливают масла в огонь нашей тревожности

Psychologies
Приключения «Победы» Приключения «Победы»

Первый приз за победу на ЧМ по футболу прожил короткую, но насыщенную жизнь

Дилетант
Диорама Бежецка Диорама Бежецка

Объёмная картина с видом центральной части Бежецка

Дилетант
Дисфункциональная семья: 10 негласных правил токсичных родителей Дисфункциональная семья: 10 негласных правил токсичных родителей

Как понять, что ваша семья токсична?

Psychologies
Открыть в приложении