Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Изобретательные охотники и заботливые родители: подборка увлекательных фактов о жизни крокодилов Изобретательные охотники и заботливые родители: подборка увлекательных фактов о жизни крокодилов

Что следует знать о крокодилах, живущих на на Земле миллионы лет?

ТехИнсайдер
Посмотри мне в глаза Посмотри мне в глаза

Как убрать нависшее веко: методы, которые помогут справиться с проблемой

Лиза
Прорыв или пиар: что представляют собой мозговые имплантаты от Илона Маска Прорыв или пиар: что представляют собой мозговые имплантаты от Илона Маска

Компания Neuralink недавно вживила свое первое устройство в мозг пациента

Forbes
5 человек, в чье существование невозможно поверить: вы поразитесь! 5 человек, в чье существование невозможно поверить: вы поразитесь!

Человеческое тело способно на невероятные вещи

ТехИнсайдер
Правила жизни Александра Ширвиндта Правила жизни Александра Ширвиндта

Правила жизни народного артиста России Александра Ширвиндта

Правила жизни
10 случаев, когда режиссер фильма ненавидел первоисточник 10 случаев, когда режиссер фильма ненавидел первоисточник

Некоторые умники берутся экранизировать книги и комиксы, которые ненавидят

Maxim
Холодец и еще 8 продуктов и блюд, которые можно замораживать впрок Холодец и еще 8 продуктов и блюд, которые можно замораживать впрок

Морозильник — незаменимый помощник, когда дело доходит до хранения продуктов

VOICE
«Время года зима» — редкий российский фильм о болезни Альцгеймера. Не всегда меткий, но с пронзительными женскими ролями «Время года зима» — редкий российский фильм о болезни Альцгеймера. Не всегда меткий, но с пронзительными женскими ролями

«Время года зима» — отчаянное и откровенное кино о болезни Альцгеймера

Правила жизни
Beneteau GT45 Beneteau GT45

Beneteau GT45 — флагман серии экспресс-круизеров Grand Turismo

Y Magazine
Как понять, что вас выживают с работы: 5 признаков Как понять, что вас выживают с работы: 5 признаков

Как заметить неявное принуждение к увольнению?

Psychologies
Только синь сосет глаза Только синь сосет глаза

Что мы знаем и чего не знаем о влиянии синего света на людей

N+1
Утомленные призраками Утомленные призраками

Зачем кино воскрешает тиранов и почему не может их отпустить

Weekend
Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей Кто кому мама: 4 роли, которые играют дети в семье инфантильных родителей

К чему приводит путаница детских и родительских ролей?

Psychologies
Пелевину — 60. Литераторы и режиссеры — о том, почему его проза так актуальна Пелевину — 60. Литераторы и режиссеры — о том, почему его проза так актуальна

Что Пелевин значит для России?

Правила жизни
Ошибка будет свободной Ошибка будет свободной

«Эмили»: волюнтаристский байопик Эмили Бронте

Weekend
Десятка худших российских акций в 2022 году: стоит ли их покупать Десятка худших российских акций в 2022 году: стоит ли их покупать

Антитоп из десяти самых обесценившихся акций за первые девять месяцев года

РБК
«Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies «Что изменилось в вашей жизни, когда вы стали психологом?»: честные истории 16 экспертов Psychologies

Что психология дает самим психологам?

Psychologies
К себе нежно: как даже в тяжелый жизненный период продолжать заботиться о себе К себе нежно: как даже в тяжелый жизненный период продолжать заботиться о себе

Ольга Примаченко — как сохранить ментальное здоровье в кризис

Forbes
Кухонный компромисс Кухонный компромисс

Планируем и обустраиваем кухню

Идеи Вашего Дома
Актриса Светлана Устинова: «Я никогда не думала, что создам полнометражную картину о деменции» Актриса Светлана Устинова: «Я никогда не думала, что создам полнометражную картину о деменции»

Интервью со Светланой Устиновой о ее режиссерском дебюте «Время года зима»

СНОБ
Личный опыт: я живу с биполярным расстройством II типа Личный опыт: я живу с биполярным расстройством II типа

Как живет и чувствует себя человек на разных фазах биполярного расстройства?

Psychologies
Громко кричат и красиво умирают: как хорроры изображают женщин Громко кричат и красиво умирают: как хорроры изображают женщин

Что изображение женщин в фильмах ужасов говорит о социальных установках?

Forbes
Владелец Folk и Amber — о пустующих ресторанах Дубая и «модном Кавказе» Владелец Folk и Amber — о пустующих ресторанах Дубая и «модном Кавказе»

Основатель Folk Team Дмитрий Романов — о необходимой уникальности форматов

РБК
Проявления сексуальности на работе: что они могут рассказать о нас Проявления сексуальности на работе: что они могут рассказать о нас

Ночью занимаются любовью, а днем ведут бизнес — одни и те же люди

Psychologies
Виктория Токарева: «Внутренний голос» Виктория Токарева: «Внутренний голос»

Отрывок из сборника рассказов о людях, их страстях и чувствах

СНОБ
Датчик распредвала — что делает и как понять, что он неисправен Датчик распредвала — что делает и как понять, что он неисправен

Датчик положения распредвала — одна из деталей, о которых не задумываются

РБК
Диорама Бежецка Диорама Бежецка

Объёмная картина с видом центральной части Бежецка

Дилетант
Как перевернуть генетическую пирамиду Как перевернуть генетическую пирамиду

Прогресс в отечественной селекции растений и животных может быть ускорен

Эксперт
Они боялись утратить душу: восстановлено лицо единственной в мире беременной мумии Они боялись утратить душу: восстановлено лицо единственной в мире беременной мумии

Ученые исследовали мумию писца и жреца богов Гора и Тота по имени Хор-Джехути

Вокруг света
Серая орешковая соня Серая орешковая соня

Кем умилялись читатели в 1861 году

Вокруг света
Открыть в приложении