Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Синдром беспокойных гениталий и алкаптонурия: 6 загадочный болезней, о которых вы могли даже не слышать Синдром беспокойных гениталий и алкаптонурия: 6 загадочный болезней, о которых вы могли даже не слышать

Какие удивительные диагнозы порой ставят людям?

ТехИнсайдер
«Я благодарен всем хейтерам» «Я благодарен всем хейтерам»

Мы поговорили с артистом SHAMAN о его непростом пути к славе

OK!
«Огонь-батареи»: как изменились космические солнечные батареи за 67 лет «Огонь-батареи»: как изменились космические солнечные батареи за 67 лет

Какой путь прошли солнечные элементы космического типа с момента изобретения?

ТехИнсайдер
Секреты старых мастеров Секреты старых мастеров

Новая жизнь советов советским автовладельцам

Автопилот
7 самых распространенных способов обмана на шиномонтаже 7 самых распространенных способов обмана на шиномонтаже

Как не попасться на крючок мошенников в шиномонтаже

Maxim
Оцепенение, замирание, деперсонализация: механизмы защиты от шока Оцепенение, замирание, деперсонализация: механизмы защиты от шока

Поговорим об оцепенении — так люди нередко автоматически реагируют на опасность

Psychologies
От чего стоит отказаться при повышенном сахаре в крови: 7 запрещенных продуктов От чего стоит отказаться при повышенном сахаре в крови: 7 запрещенных продуктов

Какие продукты нужно исключить, чтобы снизить сахар в крови

ТехИнсайдер
Как археологи подтверждали Библию Как археологи подтверждали Библию

Археологи подтвердили библейские рассказы

СНОБ
Чем американская водка отличается от русской Чем американская водка отличается от русской

Американцы извратили даже нашу национальную скрепу — великую и ужасную водку

Maxim
«Он просил взять вину на себя»: как женщины попадают в тюрьмы и при чем здесь мужчины «Он просил взять вину на себя»: как женщины попадают в тюрьмы и при чем здесь мужчины

Почему женщины убивают, крадут или распространяют наркотики?

Forbes
Михаил Козаков. «Как хорошо, что некого винить, как хорошо, что ты никем не связан» Михаил Козаков. «Как хорошо, что некого винить, как хорошо, что ты никем не связан»

История общения с Михаилом Козаковым — самая интересная в моей жизни

Караван историй
«Люди в верности надежные...» «Люди в верности надежные...»

Татарские муфтияты и государство в России с XVIII по XXI век

N+1
Стресс налицо... Стресс налицо...

Переживания неизбежно отражаются на нашем облике

Лиза
Как вы пьете чай: внакладку, вприкуску, или же вприглядку? Вы точно не знаете, как говорить правильно! Как вы пьете чай: внакладку, вприкуску, или же вприглядку? Вы точно не знаете, как говорить правильно!

С чем нужно пить чай?

ТехИнсайдер
Игры престижа: как квашеная капуста победила в игре за статус у британских моряков Игры престижа: как квашеная капуста победила в игре за статус у британских моряков

Отрывок из книги «Статус» — как стремление к успеху сформировало человечество

Forbes
Побои и обрезание: cестры из Дагестана рассказали, почему и как сбежали от семьи Побои и обрезание: cестры из Дагестана рассказали, почему и как сбежали от семьи

Что пришлось пережить сестрам из Дагестана?

Psychologies
Мыслите консервативно? Вот что вам надо изменить, чтобы повысить креативность! Мыслите консервативно? Вот что вам надо изменить, чтобы повысить креативность!

Оказывается, креативность можно тренировать!

ТехИнсайдер
Александра Флоринская. Неправильная актриса Александра Флоринская. Неправильная актриса

Думаю, в моем случае судьбы артистки трудно было избежать

Караван историй
Сериал «Шантарам»: какой получилась экранизация одного из главных бестселлеров 2010-х Сериал «Шантарам»: какой получилась экранизация одного из главных бестселлеров 2010-х

Удалась ли сериальная экранизация романа Грегори Дэвида Робертса?

Psychologies
Не так вредно, как кажется Не так вредно, как кажется

6 неожиданных причин есть макароны как можно чаще

Лиза
Правильные движения глаз, влияние мозга на активность и лечение депрессии: 5 последних открытий спортивной психологии Правильные движения глаз, влияние мозга на активность и лечение депрессии: 5 последних открытий спортивной психологии

Как связаны мозг и выносливость, что такое бос-тренировки?

Psychologies
Нам не оставили Выборга Нам не оставили Выборга

Suzuki Jimny как надежная связь между прошлым и будущим

Автопилот
Как бороться с расширенными порами на лице: советы дерматологов Как бороться с расширенными порами на лице: советы дерматологов

Почему поры становятся большими и можно ли их сузить

РБК
Как смотреть истории ВК анонимно? 6 рабочих способов для ПК и смартфонов Как смотреть истории ВК анонимно? 6 рабочих способов для ПК и смартфонов

6 методов, как смотреть истории ВК анонимно

CHIP
Торг тут уместен Торг тут уместен

Крупнейшие биржи мира делают ставку на ESG-трансформацию

РБК
Что можно узнать о смерти и горе из мультфильма «Тайна Коко»? Что можно узнать о смерти и горе из мультфильма «Тайна Коко»?

Какие сложные вопросы поднимает мультфильм «Тайна Коко»?

Psychologies
«Мусорный» сон: почему, даже проспав 8–10 часов, мы просыпаемся уставшими «Мусорный» сон: почему, даже проспав 8–10 часов, мы просыпаемся уставшими

Почему по утрам вы чувствуете себя уставшими?

Psychologies
«Очерки советской экономической политики в 1965-1989 годах» «Очерки советской экономической политики в 1965-1989 годах»

Как чиновники определяли развитие энергетики

N+1
В чем секрет соленых огурцов: почему все их так любят? В чем секрет соленых огурцов: почему все их так любят?

Объяснить иностранцу на словах, в чем сила соленых огурцов, почти невозможно

Maxim
Любовь к иностранцам и тонны документов: нужно ли открывать бизнес во Вьетнаме Любовь к иностранцам и тонны документов: нужно ли открывать бизнес во Вьетнаме

О чем нужно помнить, чтобы открыть бизнес во Вьетнами и не прогореть?

Forbes
Открыть в приложении