Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Подарок» с подвохом: что делать, если на банковскую карту поступили деньги от незнакомца «Подарок» с подвохом: что делать, если на банковскую карту поступили деньги от незнакомца

Что стоит за отправленными деньгами от незнакомца и как правильно действовать

ТехИнсайдер
Посмотри мне в глаза Посмотри мне в глаза

Как убрать нависшее веко: методы, которые помогут справиться с проблемой

Лиза
Только не перезванивайте: 5 простых способов, как узнать, кто звонил с неизвестного номера Только не перезванивайте: 5 простых способов, как узнать, кто звонил с неизвестного номера

Как понять, что с незнакомого номера звонит злоумышленник?

ТехИнсайдер
10 ошибок, которые ты совершаешь в ванной комнате 10 ошибок, которые ты совершаешь в ванной комнате

Казалось бы, что может быть проще, чем принять душ?

Лиза
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Береги грудь Береги грудь

13 факторов, повышающих риск развития рака молочной железы

Лиза
Эта древняя техника улучшает жизнь беременных: мнение ученых Эта древняя техника улучшает жизнь беременных: мнение ученых

Акупунктура может значительно облегчить боль в пояснице у беременных

ТехИнсайдер
20 признаков «односторонних» отношений: как выбраться из ловушки невзаимной любви 20 признаков «односторонних» отношений: как выбраться из ловушки невзаимной любви

Как выйти из односторонних отношений?

Psychologies
Жизнь в стиле хюгге Жизнь в стиле хюгге

10 золотых правил в интерьере для создания уюта

Лиза
Гордость Сибири Гордость Сибири

Братская и Иркутская ГЭС: знакомимся с историей и работой этих предприятий

Отдых в России
Красота налицо Красота налицо

Какие косметологические процедуры самые эффективные?

Собака.ru
Начал с кошки, закончил младенцем: как жил (и умер) маньяк из Ярославля, отравивший шесть человек Начал с кошки, закончил младенцем: как жил (и умер) маньяк из Ярославля, отравивший шесть человек

Жертвами Вячеслава Соловьева стали его жена и дочь, любовница и даже следователь

Maxim
Как отдых и физические нагрузки влияют на карьеру: проверенные способы работать эффективнее и продуктивнее Как отдых и физические нагрузки влияют на карьеру: проверенные способы работать эффективнее и продуктивнее

Без отдыха и спорта мы можем рухнуть с карьерного Олимпа

Psychologies
Нормальные герои Нормальные герои

Картина «Строители Братска» Виктора Попкова

Вокруг света
Как правильно выбрать кружку или бокал для пива? Как правильно выбрать кружку или бокал для пива?

Как можно пить из одной и той же посуды лагер и имперский стаут? Нонсенс!

Maxim
Свой человек Свой человек

Сергей Корсаков — о невероятном опыте съемок, яхтинге и фильме «Вызов»

OK!
Как победить дневную сонливость Как победить дневную сонливость

В чем причины дневной сонливости?

СНОБ
Нас восемь миллиардов! Стоит ли бояться, что ресурсов планеты на всех не хватит? Нас восемь миллиардов! Стоит ли бояться, что ресурсов планеты на всех не хватит?

Ждет ли нас всех голод?

Psychologies
Парентификация: 14 признаков, что это произошло с вами Парентификация: 14 признаков, что это произошло с вами

Что такое парентификация? Как она проявляется?

Psychologies
Преодолеть обстоятельства Преодолеть обстоятельства

«Радость преодоления» звучит как оксюморон, сочетание несочетаемого

Psychologies
«Орел или решка?»: 5 приемов, которые помогут принять трудное решение «Орел или решка?»: 5 приемов, которые помогут принять трудное решение

Как принять сложное решение?

Psychologies
Миллионер и блогер Ида Галич — о том, почему не в деньгах счастье Миллионер и блогер Ида Галич — о том, почему не в деньгах счастье

Ида Галич рассказала о токсичности славы

СНОБ
Бог предполагает, спецслужбы располагают Бог предполагает, спецслужбы располагают

Антиклерикальный политический триллер с выдающимся сценарием

Weekend
Роскошные средства передвижения: 10 самых дорогих автомобилей Роскошные средства передвижения: 10 самых дорогих автомобилей

Топ-10 самых дорогих автомобилей в мире по состоянию на 2022 год

Вокруг света
«Мне нужен масштаб!» «Мне нужен масштаб!»

Как Amirchik ворвался в мировой Shazam

OK!
Откуда температура Откуда температура

Всегда ли нужно сбивать повышенную температуру?

Лиза
Как надо жить: мысли вслух — факты, сомнения и иллюзии Как надо жить: мысли вслух — факты, сомнения и иллюзии

Мудрые правила, которые заведомо упростят жизнь

Psychologies
Что будет, если добавить куркуму в свой рацион: все о пользе приправы Что будет, если добавить куркуму в свой рацион: все о пользе приправы

Стоит ли есть куркуму постоянно?

ТехИнсайдер
Как не дать себя обмануть при продаже автомобиля: схемы и совет Как не дать себя обмануть при продаже автомобиля: схемы и совет

Как не стать жертвой обмана при продаже автомобиля

РБК
Ошибки на местах: что мешает российским модным брендам развиваться Ошибки на местах: что мешает российским модным брендам развиваться

Какие ошибки совершают российские марки?

Forbes
Открыть в приложении