Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В лабиринте страхов: 5 захватывающих детективов в духе фильмов Хичкока В лабиринте страхов: 5 захватывающих детективов в духе фильмов Хичкока

Книги с пугающей мрачной атмосферой

ТехИнсайдер
5 причин, почему вы не пожалеете о поездке в Абхазию зимой 5 причин, почему вы не пожалеете о поездке в Абхазию зимой

В Абхазии даже в холодный сезон достаточно развлечений

Вокруг света
Почему нельзя сдавать пауэрбанк в багаж Почему нельзя сдавать пауэрбанк в багаж

Что может случиться, если сдать power bank в багаж самолета?

CHIP
Мужская безалаберность в сексе Мужская безалаберность в сексе

Почему престолонаследие идет по мужской линии?

СНОБ
Познайте себя: выберите фигуру, а мы расскажем, какая профессия вам лучше всего подходит Познайте себя: выберите фигуру, а мы расскажем, какая профессия вам лучше всего подходит

Выберите фигуру и узнайте, в какой области вы могли бы преуспеть

ТехИнсайдер
На дизайн ужасные, классные внутри: 10 автомобилей со странным внешним видом На дизайн ужасные, классные внутри: 10 автомобилей со странным внешним видом

Глядя на иные автомобили, не всегда понимаешь, что хотели сказать их создатели

Вокруг света
Математическая теорема помогла за час взломать шифр, выбранный правительством США Математическая теорема помогла за час взломать шифр, выбранный правительством США

Алгоритм, казавшийся самым надежным, был взломан всего за час

ТехИнсайдер
Конфликт на работе: как выйти из него с честью — 7 работающих советов Конфликт на работе: как выйти из него с честью — 7 работающих советов

Возможно ли избежать конфронтации?

Psychologies
Легализация ярости Легализация ярости

«Тори и Локита»: Дарденны о мигрантах

Weekend
Почему акула выплевывает свой желудок и не умирает? Почему акула выплевывает свой желудок и не умирает?

Когда акулы подвергаются стрессу, они иногда «выплевывают» желудок

ТехИнсайдер
Кай Метов: «О сексуальном подтексте песни “Position № 2” мне говорят многие люди» Кай Метов: «О сексуальном подтексте песни “Position № 2” мне говорят многие люди»

Заслуженный артист России Кай Метов раскрыл секрет успеха своего хита

VOICE
Что вас удержит на плаву? Что вас удержит на плаву?

Откройте для себя то, что защищает вас и помогает вам преодолевать невзгоды

Psychologies
7 главных моделей оружейника Джона Браунинга 7 главных моделей оружейника Джона Браунинга

Оружие, которое сделал Джон Браунинг

Maxim
Александр Ведяхин: «Сегодня рынок акций отражает геополитические риски» Александр Ведяхин: «Сегодня рынок акций отражает геополитические риски»

Александр Ведяхин о том, как новые условия влияют на частные инвестиции

РБК
«Я здесь как инопланетянин»: рассказ учителя, который после США переехал в сибирскую глубинку «Я здесь как инопланетянин»: рассказ учителя, который после США переехал в сибирскую глубинку

Марат решил изучить российскую провинцию — и нисколько не жалеет о переезде

Вокруг света
Опасно! Bысокое напряжение Опасно! Bысокое напряжение

Стресс хитер и многолик, а потому часто оказывается сильнее нас

Лиза
«Моя дочь хочет пирсинг и тату»: как разговаривать с подростком «Моя дочь хочет пирсинг и тату»: как разговаривать с подростком

Как понять мотивы поведения подростка и правильно влиять на него?

Psychologies
Катя IOWA Катя IOWA

Певица Катя Иванчикова из группы IOWA строит собственную экосистему

Собака.ru
Дитя ночи: история Евы Ионеско, которая снимает фильмы о сексуальной эксплуатации Дитя ночи: история Евы Ионеско, которая снимает фильмы о сексуальной эксплуатации

Ева Ионеско в 11 снялась для Playboy и дебютировала в фильме для взрослых

Forbes
Как Sportradar помогает ФИФА бороться с договорными матчами на ЧМ-2022 Как Sportradar помогает ФИФА бороться с договорными матчами на ЧМ-2022

Как Sportradar помогает бороться с коррупцией на чемпионате мира

Forbes
Все обожают Пита: кто такой Пит Дэвидсон и почему его любят успешные женщины Все обожают Пита: кто такой Пит Дэвидсон и почему его любят успешные женщины

Разбираем особенности образа Пита Дэвидсона

Правила жизни
Последний царь: о чем забыли создатели документального фильма о Петре I Последний царь: о чем забыли создатели документального фильма о Петре I

Факты, которым не нашлось места в документальном фильме о Петре I

Forbes
Наринэ Абгарян: «Молчание цвета». Истории о любви и надежде Наринэ Абгарян: «Молчание цвета». Истории о любви и надежде

Рассказ «Не расстраивайся, моя любимая» Наринэ Абгарян

СНОБ
Семь признаков диабета Семь признаков диабета

Какие симптомы говорят о том, что нужно измерить сахар в крови?

Здоровье
Тело громко намекает: 6 признаков, что вы игнорируете свои истинные желания Тело громко намекает: 6 признаков, что вы игнорируете свои истинные желания

Могут ли болезни и упадок сил быть связаны с эмоциональным состоянием?

Psychologies
От кефира до шиповника От кефира до шиповника

10 доступных суперфудов для укрепления иммунитета

Лиза
Уик-энд в окрестностях Твери Уик-энд в окрестностях Твери

5 нетривиальных мест в окрестностях Твери

Лиза
Гордость Сибири Гордость Сибири

Братская и Иркутская ГЭС: знакомимся с историей и работой этих предприятий

Отдых в России
Если сердце требует любви: как разойтись с женатым любовником Если сердце требует любви: как разойтись с женатым любовником

Зачем мы устанавливаем любовную связь с «занятым» партнером?

Psychologies
Если соперник сильнее: 11 спортивных стратегий — используйте их в жизни Если соперник сильнее: 11 спортивных стратегий — используйте их в жизни

Чем похожи успешные спортсмены и бизнесмены?

Psychologies
Открыть в приложении