Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

История таинственного проекта Cicada 3301, серии запутанных головоломок, опубликованных в интернете без объяснений История таинственного проекта Cicada 3301, серии запутанных головоломок, опубликованных в интернете без объяснений

Cicada 3301: кто и зачем публиковал эти загадки?

ТехИнсайдер
Ицхак Адизес — Forbes: «В истории России никогда не было демократии» Ицхак Адизес — Forbes: «В истории России никогда не было демократии»

Бизнес-консультант Ицхак Адизес — о возможностях демократии в России

Forbes
Ученые превратили растительные отходы в топливо для самолетов Ученые превратили растительные отходы в топливо для самолетов

Технологию производства авиатоплива из биомассы создали в РГУ нефти и газа

ТехИнсайдер
Записки отельера: история о невесте на час, или почему в гостиничном бизнесе необходимы сотрудники с разнообразными навыками Записки отельера: история о невесте на час, или почему в гостиничном бизнесе необходимы сотрудники с разнообразными навыками

Как интерес к личной жизни гостей отеля иногда спасает от лишних проблем

Правила жизни
История культового символа Лондона: почему телефонные будки красного цвета История культового символа Лондона: почему телефонные будки красного цвета

Почему телефонные будки Лондона окрашены именно в яркий красный цвет?

ТехИнсайдер
Ксенонотерапия Ксенонотерапия

Зачем дышать газом и может ли это быть опасно

Лиза
Современная архитектура Москвы: 8 наиболее ярких и заметных проектов Современная архитектура Москвы: 8 наиболее ярких и заметных проектов

Интересные инфраструктурные объекты, недавно появившиеся в городе

РБК
Холодец и еще 8 продуктов и блюд, которые можно замораживать впрок Холодец и еще 8 продуктов и блюд, которые можно замораживать впрок

Морозильник — незаменимый помощник, когда дело доходит до хранения продуктов

VOICE
«Маленькие» картины больших художников «Маленькие» картины больших художников

Какие истории хранят пять «маленьких» картин больших живописцев?

Культура.РФ
Как актриса Дженнифер Кулидж перезапустила карьеру после 60 лет Как актриса Дженнифер Кулидж перезапустила карьеру после 60 лет

Дженнифер Кулидж наконец-то обрела долгожданное признание

Forbes
Американцы реконструировали внешность «вампира» XVIII века Американцы реконструировали внешность «вампира» XVIII века

Как выглядел американский «вампир» XVIII века?

N+1
Роман Курцын: «Из того, что написано о моей личной жизни, 70% — неправда» Роман Курцын: «Из того, что написано о моей личной жизни, 70% — неправда»

Роман Курцын о необходимости находить общий язык с самим собой

Maxim
Как вычислить психологического абьюзера в начале отношений: 6 признаков Как вычислить психологического абьюзера в начале отношений: 6 признаков

На что нас «ловит» абьюзер? И как его вычислить, пока не поздно?

Psychologies
Граф Толстой, давайте без голосовых. Как общались между собой жители Российской империи Граф Толстой, давайте без голосовых. Как общались между собой жители Российской империи

Как связывались и обменивались новостями граждане Российской империи?

СНОБ
«Татьяна поняла, что она во френдзоне»: как воспринимают женщин в русской литературе «Татьяна поняла, что она во френдзоне»: как воспринимают женщин в русской литературе

Что стоит перечитать и как переосмыслить знакомые женские персонажи?

Forbes
Как научиться у ребенка тайм-менеджменту Как научиться у ребенка тайм-менеджменту

Могут ли дети научить нас все успевать?

Psychologies
Будьте здоровы! Будьте здоровы!

Настало время изменить свое здоровье к лучшему!

Men Today
Меню последнего обеда Меню последнего обеда

Вечер 3 марта 1917 года в царском поезде…

Дилетант
Хитрости для дома с зубной щеткой: эти лайфхаки от китайских мастеров пригодятся каждому Хитрости для дома с зубной щеткой: эти лайфхаки от китайских мастеров пригодятся каждому

Ремонт станет проще, а нервы целее, если воспользоваться этими советами

ТехИнсайдер
Почему самые лучшие идеи рождаются во время душа Почему самые лучшие идеи рождаются во время душа

Почему в душе ускоряется креативное мышление?

ТехИнсайдер
Разводной мост: как сохранить отношения с ребенком, если вы расстаетесь с супругом Разводной мост: как сохранить отношения с ребенком, если вы расстаетесь с супругом

Отрывок из книги «Разводный мост» — как ребенку справиться с разводом родителей

Forbes
Без паники. Как принимать взвешенные решения, когда вас захлестывают эмоции Без паники. Как принимать взвешенные решения, когда вас захлестывают эмоции

Как преодолеть панику и начать мыслить разумно

Inc.
Хитроумный математический трюк: профессор рассказал, как доказать, что 1 = 2 и оставить собеседника в дураках Хитроумный математический трюк: профессор рассказал, как доказать, что 1 = 2 и оставить собеседника в дураках

Возможно, все, что вы знаете о математике, — одна большая и жирная ложь

ТехИнсайдер
5 самых абсурдных теорий заговора про знаменитостей. Часть II 5 самых абсурдных теорий заговора про знаменитостей. Часть II

Что масоны и рептилоиды скрывают о наших кумирах?

Maxim
Елизавета II: долг как смысл жизни Елизавета II: долг как смысл жизни

Елизавета II с самого начала твердо знала, что у нее нет возможности ошибиться

Караван историй
Неприметный шедевр Неприметный шедевр

Именно к этому полотну посетители Лувра чаще всего поворачиваются спиной

Дилетант
На золотой волне На золотой волне

По сути, это квартира с функционалом загородного дома

SALON-Interior
Интервью с Николаем Изволовым о реставрации фильма «История гражданской войны» Дзиги Вертова Интервью с Николаем Изволовым о реставрации фильма «История гражданской войны» Дзиги Вертова

В чем ценность восстановленного фильма «История Гражданской войны»?

СНОБ
Как удалить приложение с айфона: 3 способа Как удалить приложение с айфона: 3 способа

Как удалить приложение с айфона, если оно скрыто в библиотеке

CHIP
Чтобы не было заломов: 5 работающих советов по спасению кожаной одежды и обуви которые стоит применить прямо сейчас Чтобы не было заломов: 5 работающих советов по спасению кожаной одежды и обуви которые стоит применить прямо сейчас

Хорошая кожа - идеальная инвестиция в гардероб

VOICE
Открыть в приложении