Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 пород собак, которых больше не существует 11 пород собак, которых больше не существует

11 примеров собак, которые больше не ходят по земле

ТехИнсайдер
«Мне нужен масштаб!» «Мне нужен масштаб!»

Как Amirchik ворвался в мировой Shazam

OK!
Разработана умная роботизированная инвалидная коляска Разработана умная роботизированная инвалидная коляска

Как умное кресло-коляска позволяет находить оптимальный путь к пункту назначения

ТехИнсайдер
Мягкий характер Мягкий характер

Как рождается лучший английский кашемир

Robb Report
Саудовская Аравия Саудовская Аравия

Люди, прошлое, религия, противоречия – и будущее

kiozk originals
«Скрытно использует элегантный стиль»: топ-5 самых ярких образов Кейт Миддлтон в 2022 году «Скрытно использует элегантный стиль»: топ-5 самых ярких образов Кейт Миддлтон в 2022 году

Эксперты выбрали самые интересные выходы Кейт Миддлтон в 2022 году

VOICE
Гидрогелевая пленка или стекло: что лучше? Гидрогелевая пленка или стекло: что лучше?

Гидрогелевая пленка или стекло: какой материал надежнее в точки зрения защиты?

CHIP
Как появился десерт «Павлова»? Как появился десерт «Павлова»?

Почему торт безе со свежими фруктами назвали в честь балерины Анны Павловой?

Культура.РФ
Правило 6 + 2. Врач Кливлендской клиники рассказал, как улучшить здоровье и увеличить продолжительность жизни Правило 6 + 2. Врач Кливлендской клиники рассказал, как улучшить здоровье и увеличить продолжительность жизни

Стоит ли пытаться влиять на продолжительность жизни?

Inc.
Вот сколько нужно пить воды в день: ученые все объяснили Вот сколько нужно пить воды в день: ученые все объяснили

Не стоит строго руководствоваться "правилом о 8 стаканах воды в день"

ТехИнсайдер
Право на утопию Право на утопию

Как Питер Уоткинс отвоевал у истории Парижскую коммуну

Weekend
Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней Как читать метафорические карты? Представляем новую колоду и рассказываем принципы работы с ней

Новая авторская колода метафорических карт «Сад царевны»

Psychologies
Десятка худших российских акций в 2022 году: стоит ли их покупать Десятка худших российских акций в 2022 году: стоит ли их покупать

Антитоп из десяти самых обесценившихся акций за первые девять месяцев года

РБК
«Совершенно безумная ракета»: Почему советскому «Бурану» не нашли применения «Совершенно безумная ракета»: Почему советскому «Бурану» не нашли применения

В 1988 состоялся первый и единственный полет советской системы «Энергия-Буран»

Maxim
6 повседневных привычек, повышающих риск развития рака незаметно для вас 6 повседневных привычек, повышающих риск развития рака незаметно для вас

Сладкое, горячие напитки и сидячий образ жизни повышают риск развития онкологии

ТехИнсайдер
Модный приговор Модный приговор

Omoda — открытие года

Автопилот
Сохранились даже противогазы: посмотрите, как выглядят сегодня бомбоубежища, которые массово строили в СССР Сохранились даже противогазы: посмотрите, как выглядят сегодня бомбоубежища, которые массово строили в СССР

Какими были светские бомбоубежища? Публикуем фотографии и рассказы диггеров

Вокруг света
Выбираем переноску для собаки Выбираем переноску для собаки

Вес, порода и размер — как выбрать переноску для питомца?

Лиза
Простой рецепт венгерского гуляша от шеф-повара Простой рецепт венгерского гуляша от шеф-повара

Александр Белькович рассказывает, как приготовить суп с тысячелетней историей

VOICE
«Пора заводить собаку!»: что нужно знать до появления питомца — взвесьте за и против «Пора заводить собаку!»: что нужно знать до появления питомца — взвесьте за и против

Как понять, что пора завести щенка? И когда этого делать категорически не нужно?

Psychologies
Кухонный компромисс Кухонный компромисс

Планируем и обустраиваем кухню

Идеи Вашего Дома
Краски Кольского Краски Кольского

Зимой Кольский полуостров обретает удивительные краски природы

Отдых в России
Ар-брют: искусство, которое зародилось в кабинете психиатра Ар-брют: искусство, которое зародилось в кабинете психиатра

Ар-брют — грубое и необработанное искусство

Psychologies
Актриса Светлана Устинова: «Я никогда не думала, что создам полнометражную картину о деменции» Актриса Светлана Устинова: «Я никогда не думала, что создам полнометражную картину о деменции»

Интервью со Светланой Устиновой о ее режиссерском дебюте «Время года зима»

СНОБ
14 признаков настоящей дружбы: проверьте себя 14 признаков настоящей дружбы: проверьте себя

Ученые попытались разложить дружбу на составляющие

Psychologies
Джонатан Уэллс: «Слабак». Автофикшн о токсичной маскулинности Джонатан Уэллс: «Слабак». Автофикшн о токсичной маскулинности

«Слабак» — автофикшн о силе слепой и всепоглощающей отцовской любви

СНОБ
Как не дать себя обмануть при продаже автомобиля: схемы и совет Как не дать себя обмануть при продаже автомобиля: схемы и совет

Как не стать жертвой обмана при продаже автомобиля

РБК
Анастасия Сапожникова: «Когда живешь в комфорте, легко быть гуманным» Анастасия Сапожникова: «Когда живешь в комфорте, легко быть гуманным»

Анастасия Сапожникова — о съемках и борьбе со стрессом

Psychologies
Дарья Донцова: «Гурманов в моей семье нет» Дарья Донцова: «Гурманов в моей семье нет»

«Собираясь приготовить вкусную еду, следует морально настроиться на хороший лад»

Лиза
Слишком свободный. История Джулиана Ассанжа Слишком свободный. История Джулиана Ассанжа

Как Джулиан Ассанж вошел в историю журналистики

СНОБ
Открыть в приложении