Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

ТехИнсайдерHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужны ли пресс-формы серийному производству: инженер развеял популярные мифы о литье Нужны ли пресс-формы серийному производству: инженер развеял популярные мифы о литье

Нужно ли предприятиям разрабатывать для своего производства «идеальную модель»?

ТехИнсайдер
Актер Кирилл Пирогов рассказывает о роли в сериале «Переговорщик» и цитирует Чехова Актер Кирилл Пирогов рассказывает о роли в сериале «Переговорщик» и цитирует Чехова

Актер Кирилл Пирогов — о режиссерских амбициях и любимых ролях

СНОБ
Почему интернет перестает быть свободным и переходит к гиперконтролю Почему интернет перестает быть свободным и переходит к гиперконтролю

Какой будет новая этика для мессенджеров в условиях гиперконтроля интернета

Forbes
Головоногие моллюски смогли пройти когнитивный тест, предназначенный для человеческих детей Головоногие моллюски смогли пройти когнитивный тест, предназначенный для человеческих детей

Cтранные мозги каракатиц сложнее, чем мы думали

ТехИнсайдер
Все фильмы Пон Джун Хо, снявшего «Микки 17» и «Паразиты»: от худшего к лучшему Все фильмы Пон Джун Хо, снявшего «Микки 17» и «Паразиты»: от худшего к лучшему

8 фильмов южнокорейского режиссера, от легких комедий до мощных триллеров

Maxim
Фронтмен INXS Майкл Хатченс писал великие песни, а еще прекрасно одевался. Изучаем по его фотографиям образ рок-звезды Фронтмен INXS Майкл Хатченс писал великие песни, а еще прекрасно одевался. Изучаем по его фотографиям образ рок-звезды

Вспоминаем Майкла Хатченса, изучаем его стиль и осваиваем некоторые приемы

Правила жизни
Араму 60! Араму 60!

Латук недолговечен, воспоминания великого человека — бесценны!

Собака.ru
«Мы ни разу не поцеловались»: как вырваться из сети френдзоны «Мы ни разу не поцеловались»: как вырваться из сети френдзоны

Что делать, если вы попали в унылое место под названием «френдзона»?

Psychologies
Как взаимосвязаны ваша старость и взрыв сверхновой? Объясняет биофизик Как взаимосвязаны ваша старость и взрыв сверхновой? Объясняет биофизик

Продление жизни на 10-20 лет — не предел для современных медицинских технологий

Вокруг света
Как в СССР копировали автомобили капиталистического автопрома: не хуже оригинала Как в СССР копировали автомобили капиталистического автопрома: не хуже оригинала

Автопром в Советском Союзе всегда был как хромая лошадь

ТехИнсайдер
«Я благодарен всем хейтерам» «Я благодарен всем хейтерам»

Мы поговорили с артистом SHAMAN о его непростом пути к славе

OK!
Капитал, клещи и другие страшные вещи Капитал, клещи и другие страшные вещи

«Дурной глаз»: социально-экономический хоррор с Евой Грин

Weekend
Безуглеводная диета Безуглеводная диета

Насколько безуглеводная диета полезна для организма?

Лиза
6 книг современных азиатских авторов 6 книг современных азиатских авторов

Необычные и современные произведения авторов из стан Азии

Правила жизни
Катя IOWA Катя IOWA

Певица Катя Иванчикова из группы IOWA строит собственную экосистему

Собака.ru
Ах, как кружится голова Ах, как кружится голова

У вас бывало, что самочувствие неожиданно ухудшается, а ноги становятся ватными?

Лиза
Sirena 78 Sirena 78

Почему Sirena 78 вошла в топ-20 новых моделей яхт категории must seen?

Y Magazine
Заморозить будущее: как политика и кризис влияют на планирование беременности Заморозить будущее: как политика и кризис влияют на планирование беременности

Как политический фон и общественное настроение меняют репродуктивное поведение

Forbes
Маленькие и неприхотливые Маленькие и неприхотливые

Нет времени ухаживать за домашними питомцами, но завести кого-нибудь хочется?

Лиза
Где ездят самые быстрые поезда планеты? Это вам не Где ездят самые быстрые поезда планеты? Это вам не

Некоторые поезда уже ездят со скоростью равной почти половине скорости звука

ТехИнсайдер
Юлиан Семенов: как он придумал легендарного Штирлица? Юлиан Семенов: как он придумал легендарного Штирлица?

Штирлиц пройдет с ним через всю жизнь, став героем тринадцати романов и повести

Коллекция. Караван историй
Пластилиновые люди против чернильного дождя Пластилиновые люди против чернильного дождя

История одной китайской семьи, оказавшейся сильнее большой истории

Weekend
Башни, родство и традиции: чем удивляет туристов Ингушетия Башни, родство и традиции: чем удивляет туристов Ингушетия

Ингушетия — самый маленький регион России

Вокруг света
Город, который построил Осип. Как 200 лет назад Москва приобрела свой нынешний облик Город, который построил Осип. Как 200 лет назад Москва приобрела свой нынешний облик

Осип Бове — архитектор, который создал современный облик Москвы

СНОБ
Криптопираты Карибского моря: как Бэнкман-Фрид подставил власти Багамских островов Криптопираты Карибского моря: как Бэнкман-Фрид подставил власти Багамских островов

Гендиректор биржи FTX использовал вклады клиентов для трейдинга

Forbes
Как живет немецкая коммуна анархистов, в которой дети могут выбирать себе родителей Как живет немецкая коммуна анархистов, в которой дети могут выбирать себе родителей

Коммуны Нидеркауфунген — удивительная история анархистов из Германии

Maxim
Что поможет стать богаче? Что поможет стать богаче?

Заняться собой и начать новую жизнь? Этот путь прошли две наши героини

Psychologies
Как правильно спорить, чтобы не испортить отношения: 4 приема Как правильно спорить, чтобы не испортить отношения: 4 приема

Любое слово, сказанное в пылу спора, может помешать интересному знакомству

Psychologies
Запечатленный навеки: что такое импринтинг и как он влияет на характер и поведение Запечатленный навеки: что такое импринтинг и как он влияет на характер и поведение

Как работает механизм импринтинга и какова его роль в жизни человека

Forbes
Основатель MDK Роберто Панчвидзе о работе с блогерами, алгоритмах социальных сетей и востребованном контенте Основатель MDK Роберто Панчвидзе о работе с блогерами, алгоритмах социальных сетей и востребованном контенте

Роберто Панчвидзе о том, как блокировки интернет-площадок сказались на блогинге

СНОБ
Открыть в приложении