Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Про кабанов, стада червей и теневые растения: пять книг о происходящем в природе Про кабанов, стада червей и теневые растения: пять книг о происходящем в природе

Книги о природе: через зарисовки, философские эссе и медленные наблюдения

Forbes
Вечная жизнь: нужно ли людям бессмертие — размышления философа Вечная жизнь: нужно ли людям бессмертие — размышления философа

Вы бы хотели жить вечно? Давайте пофантазируем

Psychologies
Наш ответ ChatGPT: как российские стартапы делают бизнес на генеративном ИИ Наш ответ ChatGPT: как российские стартапы делают бизнес на генеративном ИИ

Что происходит на рынке генеративного ИИ в России и мире

Inc.
Как носить бижутерию, чтобы не выглядеть «дешево»: мнение стилиста Как носить бижутерию, чтобы не выглядеть «дешево»: мнение стилиста

Развенчиваем мифы: не только в ювелирных украшениях можно выглядеть дорого

VOICE
Как кофеин влияет на мозг и тело: неожиданные факты Как кофеин влияет на мозг и тело: неожиданные факты

Исследования выявили ряд интересных фактов, связанных с кофеином

Psychologies
Люди недооценили вес ладоней Люди недооценили вес ладоней

Ладони кажутся нам почти в два раза легче своего реально веса

N+1
В титане нашли орбитальный эффект Холла В титане нашли орбитальный эффект Холла

Открытие, которое поможет уточнить механизм поведения металлов в магнитном поле

N+1
Кандидат в вакцины Кандидат в вакцины

Российские ученые получили вакцинный штамм, эффективно защищающий свиней от АЧС

Агроинвестор
Ругань, слезы и прессинг «старших»: что делают женщины в российских тюрьмах Ругань, слезы и прессинг «старших»: что делают женщины в российских тюрьмах

Женщины в российских тюрьмах: условия содержания, материнство и «политические»

Forbes
«Кукум». Отрывок из книги канадского писателя Мишеля Жана «Кукум». Отрывок из книги канадского писателя Мишеля Жана

Отрывок из пронзительного романа о любви «Кукум»

СНОБ
Почему пассажирам нельзя меняться местами в самолетах? Попробуйте догадаться о причинах Почему пассажирам нельзя меняться местами в самолетах? Попробуйте догадаться о причинах

Почему вы не можете занять другое место в самолете, если оно свободно?

ТехИнсайдер
Ищите котика Ищите котика

«В поисках снежного барса»: два француза псевдофилософствуют в снегах Тибета

Weekend
«Красивый, плохой, злой»: почему женщины влюбляются в маньяков — 2 фильма о психологии поклонниц «Красивый, плохой, злой»: почему женщины влюбляются в маньяков — 2 фильма о психологии поклонниц

Вспоминаем две такие картины о самых жестоких убийцах XX века

Psychologies
Непотопляемая Вайолет: история единственной женщины, пережившей гибель «Титаника» и его двух братьев-близнецов Непотопляемая Вайолет: история единственной женщины, пережившей гибель «Титаника» и его двух братьев-близнецов

История Вайолет Джессоп больше похожа на сюжет фантастического блокбастера

ТехИнсайдер
Самый везучий неудачник: история Фране Селака, который 7 раз выживал в катастрофах и сорвал куш в лотерею Самый везучий неудачник: история Фране Селака, который 7 раз выживал в катастрофах и сорвал куш в лотерею

Согласитесь, эта история походит на сюжет какого-то фильма

ТехИнсайдер
Выше ниши: как меняются приоритеты компаний на пути к цифровой трансформации Выше ниши: как меняются приоритеты компаний на пути к цифровой трансформации

Цифровая трансформация остается важным элементом развития российских компаний

Forbes
Химики научились получать фторорганику напрямую из флюорита Химики научились получать фторорганику напрямую из флюорита

Исходник для всех фторсодержащих органических веществ — это минерал флюорит

N+1
К китам и оленям: как в России растет спрос на приключенческий туризм К китам и оленям: как в России растет спрос на приключенческий туризм

Приключенческий туризм, который раньше был незаметен, выходит в массовый сегмент

Forbes
Сложно ли зарегистрировать бизнес в Дубае? И еще несколько задач, которые решала команда Wind Rises Сложно ли зарегистрировать бизнес в Дубае? И еще несколько задач, которые решала команда Wind Rises

Команда Wind Rises — о «легкой» регистрации и неработающих скидках

Правила жизни
Морозная свежесть антоновки: подробный гид по российскому сидру Морозная свежесть антоновки: подробный гид по российскому сидру

Из каких яблок делают сидры в России, зачем их пить из винных бокалов?

СНОБ
Капля жизни Капля жизни

Красивая этикетка не гарантируют качества воды. А что гарантирует?

Лиза
Комедия «Мое преступление»: как Франсуа Озон нежно высмеивает движение #Metoo Комедия «Мое преступление»: как Франсуа Озон нежно высмеивает движение #Metoo

Какой получилась комедия «Мое преступление» Франсуа Озона

Forbes
Как перестать ненавидеть понедельники: 3 простых решения Как перестать ненавидеть понедельники: 3 простых решения

Как построить свою жизнь, чтобы мысли о понедельнике приносили радость?

Psychologies
Астрономы используют дипфейки, созданные ИИ, для исследования солнечной атмосферы Астрономы используют дипфейки, созданные ИИ, для исследования солнечной атмосферы

Как созданные ИИ изображения помогают исследовать корональный солнечный дождь

ТехИнсайдер
Как Барби видит свой розовый мир. И почему это важно для космических путешествий Как Барби видит свой розовый мир. И почему это важно для космических путешествий

Идеальная розовая обитель в фильме «Барби» ставит реальные научные вопросы

ТехИнсайдер
Стыдные привычки, которые нам подарил СССР Стыдные привычки, которые нам подарил СССР

Если вам больше 40 лет, то перечисленные рефлексы вы уже в себе не переборете

Maxim
Первые успехи и неудачи: как ситуации из детства влияют на самооценку — наглядный пример Первые успехи и неудачи: как ситуации из детства влияют на самооценку — наглядный пример

Как научиться чаще замечать собственные успехи?

Psychologies
Почти два миллиарда человек пострадали от анемии в 2021 году Почти два миллиарда человек пострадали от анемии в 2021 году

В 2021 году распространенность анемии среди людей всех возрастов составила 24,3%

N+1
Остаться в живых: невероятная история Джулианы Кёпке – единственной выжившей в страшной авиакатастрофе Остаться в живых: невероятная история Джулианы Кёпке – единственной выжившей в страшной авиакатастрофе

Выжить в авиакатастрофе кажется невозможным, но 17-летней девушке удалось

ТехИнсайдер
Операция «Ы» и другие приключения шерифа Операция «Ы» и другие приключения шерифа

«Мэгги Мур(ы)»: криминальная комедия с Джоном Хэммом

Weekend
Открыть в приложении