Искусственный интеллект: какие есть риски и как себя защитить от злоумышленников

TechInsiderHi-Tech

Обратная сторона ИИ: как нейросети работают в руках кибермошенников

Александр Грек

a90df400a0efb0958625a422c1077b50_ce_1314x875x109x54.jpg
Freepik

Нейросети созданы для автоматизации привычных процессов и помощи человеку, однако по мере развития искусственного интеллекта (ИИ) и машинного обучения стал повышаться и уровень киберпреступности. О рисках ИИ и о том, как защитить себя от злоумышленников, рассказала Оксана Ульянинкова, руководитель перспективных проектов в области информационной безопасности IT кластера Фонда «Сколково».

В 2021 году потери экономики от действий киберпреступников только в России составили около 6 трлн рублей, причем использование нейросетей значительно расширило возможности хакеров. Например, в прошлом году они распространили deepfake-видео основателя компании Dbrain Дмитрия Мацкевича с рекламой о том, как легко и быстро заработать. А в ОАЭ кибермошенники смогли украсть у банка 35 млн долларов, благодаря имитации голоса его главы с помощью продвинутого искусственного интеллекта.

Дипфейки

Слово deepfake объединяет два понятия: «глубокое обучение» (deep learning) и «подделка» (fake). Это фальшивый аудио- и видеоконтент, созданный с помощью нейросетей, практически неотличимый от подлинного. Для разработки deepfake используется генеративно-состязательная сеть (GAN), которая включает две системы: генератор, создающий изображения, и дискриминатор, который их критикует. Сеть анализирует массив данных медиаконтента и самообучается.

Дипфейки несут угрозу не только для компаний и финансовых организаций, но и для репутации публичных людей, которые рискуют стать жертвами шантажа и ложных обвинений. Поэтому подобный материал регулируется на государственном уровне: например, в Китае публикация фейковой информации с использованием дипфейков является уголовным преступлением.

Фишинг

Благодаря технологическим возможностям ИИ фишинг становится более изощренным. Теперь мошенники не просто отправляют одинаковую для всех пользователей ссылку на вредоносное ПО: они рассылают цепочку персонализированных обращений, соответствующих портрету каждого человека и сформированных нейросетью на основе данных, собранных в том числе из социальных сетей.

За год количество фишинговых атак в России удвоилось, причем в 2022 году широкое распространение получили схемы таргетированного фишинга c использованием популярных брендов, выгодных предложений на их покупку в интернет-магазинах, а также розыгрышей призов от имени известных компаний.

Атаки на системы

Мошенники используют ИИ, чтобы становиться невидимками в информационном поле. Машинное обучение дает преимущество: позволяет адаптировать техники к системам безопасности и находить новые пути обхода инструментов защиты инфраструктуры. Хакеры научились имитировать компоненты ИТ-систем и скрывать вредоносные коды в официальных приложениях. Готовить атаки стало проще, а вероятность успеха только растет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новая молекула придает полимерам свойства металлов: будущее 3D-печати Новая молекула придает полимерам свойства металлов: будущее 3D-печати

Эта новая молекула может увеличить долговечность множества вещей

TechInsider
Хлебное ухо Хлебное ухо

Сибирь. Рецепт необычных пельменей

Вокруг света
SSD или HDD: что лучше использовать для бэкапов и архивов? SSD или HDD: что лучше использовать для бэкапов и архивов?

Какой тип памяти лучше всего подходит для «консервации» своих данных?

CHIP
Школа не учит свободе выбора: как в образовании работают гендерные стереотипы Школа не учит свободе выбора: как в образовании работают гендерные стереотипы

Почему учителя воспроизводят гендерные стереотипы?

Forbes
5 наклонностей, которые характеризируют социопатов 5 наклонностей, которые характеризируют социопатов

Как проявляется истинное лицо социопата?

Psychologies
С тобой всё в порядке: почему не иметь хобби — это нормально С тобой всё в порядке: почему не иметь хобби — это нормально

Что делать, если ты не знаешь, какое у тебя хобби?

VOICE
7 главных моделей оружейника Джона Браунинга 7 главных моделей оружейника Джона Браунинга

Оружие, которое сделал Джон Браунинг

Maxim
«Я благодарен всем хейтерам» «Я благодарен всем хейтерам»

Мы поговорили с артистом SHAMAN о его непростом пути к славе

OK!
«Если делать то, что делаете, — будете иметь то, что имеете»: 4 шага к переменам в жизни «Если делать то, что делаете, — будете иметь то, что имеете»: 4 шага к переменам в жизни

Как помочь себе сделать первый шаг к переменам?

Psychologies
Чего боятся мужчины в постели: 3 главных страха Чего боятся мужчины в постели: 3 главных страха

Список мужских страхов, связанных с сексом, и рекомендации специалиста

Psychologies
Как перевернуть генетическую пирамиду Как перевернуть генетическую пирамиду

Прогресс в отечественной селекции растений и животных может быть ускорен

Эксперт
В одном окопе В одном окопе

Россия обнаружила значительный потенциал сотрудничества с Ираном

Эксперт
Вроде не против: как вынужденное согласие становится опорой для порно-индустрии Вроде не против: как вынужденное согласие становится опорой для порно-индустрии

Отрывок из книги «Темная сторона сексуальной революции»

Forbes
Насколько безопасно скачивать с торрентов? Насколько безопасно скачивать с торрентов?

Насколько можно доверять торрентам?

CHIP
На фото люкс, а в номере кушетка и тумбочка: 5 советов, как грамотно отстаивать права в отелях На фото люкс, а в номере кушетка и тумбочка: 5 советов, как грамотно отстаивать права в отелях

Что делать, если при заселении в гостиницу что-то пошло не так?

Вокруг света
Практики сопротивления виртуальной власти Практики сопротивления виртуальной власти

Современного человека нельзя описать исходя из его цифрового следа

Эксперт
Диковинные собрания: 8 музеев с удивительной архитектурой Диковинные собрания: 8 музеев с удивительной архитектурой

Музеи, которые знамениты не только своими коллекциями

Вокруг света
В мире молекул: власть и очарование органического синтеза В мире молекул: власть и очарование органического синтеза

Академик Борис Трофимов рассказывает, как стал химиком

Наука и жизнь
Как обновить БИОС на материнской плате: все проще, чем кажется Как обновить БИОС на материнской плате: все проще, чем кажется

Обновить БИОС на материнской плате намного легче, чем кажется

CHIP
Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности Как не потерять себя в мире, где все одинаковы: фрагмент из сборника рассказов «Невидимые голоса» — о бедности

Если просто, это книга о надежде — надежде на тепло и понимание

Правила жизни
Елена Валюшкина: «У актрисы не может быть зажимов и страхов» Елена Валюшкина: «У актрисы не может быть зажимов и страхов»

Интервью с Еленой Валюшкиной

Лиза
Спагетти «Уплывшие рыбки» Спагетти «Уплывшие рыбки»

Это так вкусно, что об «уплывших» морепродуктах и задуматься не успеваешь

Weekend
Герой и правда: обязательные составляющие маркетинговой истории Герой и правда: обязательные составляющие маркетинговой истории

Рецепт хорошей маркетинговой истории

VC.RU
«Опять ничего не получается»: как перестать быть неудачником «Опять ничего не получается»: как перестать быть неудачником

Можно ли поймать удачу и прервать черную полосу?

Psychologies
«Идеи о справедливости» «Идеи о справедливости»

Шариат и культурные изменения в русском Туркестане: отрывок из книги

N+1
Не теряйте меня (и себя) Не теряйте меня (и себя)

События и испытания последних лет лишь подливают масла в огонь нашей тревожности

Psychologies
Как выглядели известные женщины-политики в молодости Как выглядели известные женщины-политики в молодости

Ангела Меркель, Людмила Набиуллина и другие известные лица в молодости

Maxim
Когда вода нуждается в очистке Когда вода нуждается в очистке

Российская компания разработала технологию очистки водозаборных скважин

Эксперт
После вечеринки. Сколько алкоголь выводится из организма? После вечеринки. Сколько алкоголь выводится из организма?

Сколько нужно ждать трезвости после выпитого

VOICE
Как появился десерт «Павлова»? Как появился десерт «Павлова»?

Почему торт безе со свежими фруктами назвали в честь балерины Анны Павловой?

Культура.РФ
Открыть в приложении