Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пророческий мультсериал: 7 сбывшихся предсказаний из «Симпсонов» Пророческий мультсериал: 7 сбывшихся предсказаний из «Симпсонов»

Про 7 самых интересных предсказаний «Симпсонов», которые сбылись

ТехИнсайдер
Компенсация за негатив: 5 историй о людях, которых спасают деревья Компенсация за негатив: 5 историй о людях, которых спасают деревья

Зачем люди сажают деревья?

Psychologies
Японцы сделали роборуку с человеческими мышцами Японцы сделали роборуку с человеческими мышцами

Японские инженеры разработали биогибридную руку с человеческими мышцами

N+1
«Время года зима» — редкий российский фильм о болезни Альцгеймера. Не всегда меткий, но с пронзительными женскими ролями «Время года зима» — редкий российский фильм о болезни Альцгеймера. Не всегда меткий, но с пронзительными женскими ролями

«Время года зима» — отчаянное и откровенное кино о болезни Альцгеймера

Правила жизни
Чистота Чистота

Почему современная одержимость гигиеной может принести больше вреда, чем пользы

kiozk originals
Дать себе волю Дать себе волю

Отчего же мы не спешим упражняться в управлении своей жизнью?

Psychologies
Город, который построил Осип. Как 200 лет назад Москва приобрела свой нынешний облик Город, который построил Осип. Как 200 лет назад Москва приобрела свой нынешний облик

Осип Бове — архитектор, который создал современный облик Москвы

СНОБ
Главные вопросы секса: как и зачем Главные вопросы секса: как и зачем

Как эволюция могла породить мейоз?

СНОБ
Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы Марионетки в тренде: как Театр кукол Образцова стал одним из самых модных мест Москвы

Театр, традиционно считавшийся детским, вдруг стал модным и актуальным

Forbes
Что вас удержит на плаву? Что вас удержит на плаву?

Откройте для себя то, что защищает вас и помогает вам преодолевать невзгоды

Psychologies
Ископаемые ДНК из средневекового немецкого города рассказали о происхождении евреев-ашкенази Ископаемые ДНК из средневекового немецкого города рассказали о происхождении евреев-ашкенази

Анализ данных современной и древней ДНК может пролить свет на прошлое

ТехИнсайдер
На короткой волне На короткой волне

КВ-радиостанция может сильно выручить в дальнем походе

Y Magazine
Никакая часть меня не может быть дефектом Никакая часть меня не может быть дефектом

Открытый разговор о личном с Екатериной Сигитовой, специалистом по самопринятию

Psychologies
Ложная близорукость: что это и как лечится Ложная близорукость: что это и как лечится

Что такое временное падение зрения?

Psychologies
«Не допрос, а исповедь» «Не допрос, а исповедь»

Кульминация операции в отношении «антисоветской интеллигенции»

Дилетант
Ученые показали, чем мозг осьминога похож на мозг человека Ученые показали, чем мозг осьминога похож на мозг человека

Эволюция мозга головоногих моллюсков, связана с резким расширением микроРНК

ТехИнсайдер
Права и свободы: 7 доказательств, что современные женщины живут лучше своих предшественниц Права и свободы: 7 доказательств, что современные женщины живут лучше своих предшественниц

Что было невозможно раньше, но стало возможно для нас?

Psychologies
Население Южной Америки разделилось на две группы не менее десяти тысяч лет назад Население Южной Америки разделилось на две группы не менее десяти тысяч лет назад

Население Южной Америки разделилось на группы в андском регионе

N+1
5 самых смертоносных видов оружия за всю историю: от напалма до атомной бомбы 5 самых смертоносных видов оружия за всю историю: от напалма до атомной бомбы

Виды вооружений, соперничать с которыми на всей Земле не мог никто

ТехИнсайдер
Вот сколько нужно пить воды в день: ученые все объяснили Вот сколько нужно пить воды в день: ученые все объяснили

Не стоит строго руководствоваться "правилом о 8 стаканах воды в день"

ТехИнсайдер
Елена Валюшкина: «У актрисы не может быть зажимов и страхов» Елена Валюшкина: «У актрисы не может быть зажимов и страхов»

Интервью с Еленой Валюшкиной

Лиза
Новая половая мораль и роман с Лениным: правда и мифы о жизни Александры Коллонтай Новая половая мораль и роман с Лениным: правда и мифы о жизни Александры Коллонтай

Где мифы, а где реальность в биографии революционерки Александры Коллонтай?

Forbes
Испытание холодом Испытание холодом

Холод помогает думать быстрее и стареть медленнее

Здоровье
Как три школьника Дурова обманули: история об эксплойте в Telegram на миллионы долларов Как три школьника Дурова обманули: история об эксплойте в Telegram на миллионы долларов

Рассказываем о самом громком ограблении Павла Дурова

Maxim
На изящном: «мертвая природа» Франса Снейдерса, или почему художник любил изображать на своих картинах мертвую рыбу На изящном: «мертвая природа» Франса Снейдерса, или почему художник любил изображать на своих картинах мертвую рыбу

Глядя на картины Снейдерса, задаешься вопросом: что за любовь к мертвой рыбе?

Правила жизни
Иран паркуется в России Иран паркуется в России

Как выбрать автомобиль с восточными фишками

Деньги
«Презервативы надежнее всего» и еще 4 мифа о контрацепции, которые давно пора забыть «Презервативы надежнее всего» и еще 4 мифа о контрацепции, которые давно пора забыть

«Правдоподобные» мифы о контрацепции, которые люди продолжают считать правдой

VOICE
«Выигрывает тот, чьи руки крепче связаны». Почему нелогичные на первый взгляд поступки приводят нас к успеху (а мозг хитрее, чем нам кажется) «Выигрывает тот, чьи руки крепче связаны». Почему нелогичные на первый взгляд поступки приводят нас к успеху (а мозг хитрее, чем нам кажется)

Отрывок из книги Стивена Пинкера «Рациональность»

Inc.
Сергей Кудряшов: «Узнать за 60 дней» Сергей Кудряшов: «Узнать за 60 дней»

Можно ли в сжатые сроки перевести крупную компанию на новые ИТ-рельсы

РБК
Усатая сердцеедка покорила монарха Ирана после странной смерти его жены: любовная история Усатая сердцеедка покорила монарха Ирана после странной смерти его жены: любовная история

Многие до сих пор поражаются неконвенциональной красоте принцессы Анис аль-Долях

ТехИнсайдер
Открыть в приложении