Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Обнаружено, что верблюжье молоко уменьшает тяжесть астмы Обнаружено, что верблюжье молоко уменьшает тяжесть астмы

Как употребление верблюжьего молока снижает тяжесть астмы

ТехИнсайдер
Спагетти «Уплывшие рыбки» Спагетти «Уплывшие рыбки»

Это так вкусно, что об «уплывших» морепродуктах и задуматься не успеваешь

Weekend
Оригами-робота научили прижимать ноги и ходить по-крабьи Оригами-робота научили прижимать ноги и ходить по-крабьи

Инженер из Германии разработал четвероногого оригами-робота Fold Walker

N+1
Макияж, массаж, упражнения: как скорректировать форму носа без хирургии Макияж, массаж, упражнения: как скорректировать форму носа без хирургии

Иногда форму носа хочется изменить. Как это сделать?

РБК
Летают ли авиалайнеры над Северным полюсом: да, и это стоит сделать хотя бы раз в жизни Летают ли авиалайнеры над Северным полюсом: да, и это стоит сделать хотя бы раз в жизни

Почему летать через Северный полюс до сих пор рискованно

ТехИнсайдер
Обнаружен механизм, который помогает вирусу оспы блокировать нашу систему клеточной защиты Обнаружен механизм, который помогает вирусу оспы блокировать нашу систему клеточной защиты

Вирусы научили исследователей блокировать восстановление клеток опухоли

ТехИнсайдер
Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей

К чему приводит путаница детских и родительских ролей?

Psychologies
Потерявшие реальность: как женщины осваивались на чужбине Потерявшие реальность: как женщины осваивались на чужбине

Отрывки из дневников женщин, которые надолго уезжали за границу

Forbes
Самый первый, самый маленький, самый дорогой: 7 автомобилей, которые вошли в историю Самый первый, самый маленький, самый дорогой: 7 автомобилей, которые вошли в историю

Рассказываем о нескольких автомобилях, которые вошли в историю

Вокруг света
10 самых необычных новогодних фильмов 10 самых необычных новогодних фильмов

Новогодние фильмы с алкоголиками, карликами и вождем мирового пролетариата!

Maxim
Кухонный компромисс Кухонный компромисс

Планируем и обустраиваем кухню

Идеи Вашего Дома
Исторические огрехи: 14 деталей картины «Князь Михаил Всеволодович перед ставкой Батыя» Исторические огрехи: 14 деталей картины «Князь Михаил Всеволодович перед ставкой Батыя»

В истории гибели князя Михаила Черниговского много загадочного

Вокруг света
Красота налицо Красота налицо

Какие косметологические процедуры самые эффективные?

Собака.ru
Спать любят все, но кто-то - больше: топ-5 животных, впадающих в спячку Спать любят все, но кто-то - больше: топ-5 животных, впадающих в спячку

Спячка — это не просто глубокий сон, это скорее «маленькая смерть»

ТехИнсайдер
Начал с кошки, закончил младенцем: как жил (и умер) маньяк из Ярославля, отравивший шесть человек Начал с кошки, закончил младенцем: как жил (и умер) маньяк из Ярославля, отравивший шесть человек

Жертвами Вячеслава Соловьева стали его жена и дочь, любовница и даже следователь

Maxim
«Ломтик» от Feadship «Ломтик» от Feadship

Feadship показывает, что бывают яхты без низких потолков и темных интерьеров

Y Magazine
Можно ли с помощью гипноза управлять людьми: научный подход Можно ли с помощью гипноза управлять людьми: научный подход

Возможности гипноза интригуют людей уже несколько столетий

ТехИнсайдер
Схватка в вакууме: как Марс разрывает на части собственный спутник Фобос Схватка в вакууме: как Марс разрывает на части собственный спутник Фобос

Астрономы рассмотрели глубокие шрамы на поверхности космического тела

Вокруг света
Представление пленного царя Василия Шуйского Сенату и Сигизмунду III в Варшаве в 1611 году Представление пленного царя Василия Шуйского Сенату и Сигизмунду III в Варшаве в 1611 году

Символизм картины живописца Яна Матейко

Дилетант
Плата за дружбу Плата за дружбу

Как путешествовать с домашними питомцами

Деньги
Холодец и еще 8 продуктов и блюд, которые можно замораживать впрок Холодец и еще 8 продуктов и блюд, которые можно замораживать впрок

Морозильник — незаменимый помощник, когда дело доходит до хранения продуктов

VOICE
На высшем уровне На высшем уровне

Правила хорошего тона: какие из них актуальны в современной жизни?

Лиза
5 заблуждений о серьезности мужских намерений: женские истории комментируют эксперты 5 заблуждений о серьезности мужских намерений: женские истории комментируют эксперты

Можно ли узнать намерения другого человека в начале отношений?

Psychologies
Оцепенение, замирание, деперсонализация: механизмы защиты от шока Оцепенение, замирание, деперсонализация: механизмы защиты от шока

Поговорим об оцепенении — так люди нередко автоматически реагируют на опасность

Psychologies
Одна вокруг света: свадьба рек и встреча с игуаной Одна вокруг света: свадьба рек и встреча с игуаной

194-я серия о кругосветном путешествии москвички Ирины Сидоренко: Бразилия

Forbes
Что будет, если всегда пересаливать еду? Рассказывают нейробиологи Что будет, если всегда пересаливать еду? Рассказывают нейробиологи

Названы последствия употребления большого количества соли

Вокруг света
Стоит ли прощать родителей, которые били вас в детстве? Стоит ли прощать родителей, которые били вас в детстве?

Как ребенку, продолжая любить родителей, защищаться от агрессии?

Psychologies
Что делать, если вы потеряли работу: 3 совета при увольнении Что делать, если вы потеряли работу: 3 совета при увольнении

Уволить могут любого, какими бы опытными и продуктивными мы ни были

Psychologies
Береги грудь Береги грудь

13 факторов, повышающих риск развития рака молочной железы

Лиза
Что такое эмоциональный интеллект и как его «прокачать»? Отвечаем с помощью научных исследований Что такое эмоциональный интеллект и как его «прокачать»? Отвечаем с помощью научных исследований

Эмоциональный интеллект — загадочная субстанция, которой все хотят обладать

Inc.
Открыть в приложении