Чего нам ждать от использования нейросетей хакерами

ForbesHi-Tech

На службе силы зла: как хакеры используют ChatGPT

Анастасия Гаврилюк, Роман Рожков

Фото Hannes P. Albert / dpa

Мошенники уже научились использовать нашумевший чат-бот ChatGPT для выполнения рутинных задач по написанию фишинговых писем и вредоносного кода, несмотря на то что программа от OpenAI имеет этические ограничения на такую деятельность. При этом получают свое распространение и специальные чат-боты для хакеров, например WormGPT. Forbes поговорил со специалистами по информационной безопасности о том, чего нам ждать от использования нейросетей хакерами и создадут ли они переворот в киберсреде

На начальном уровне

Хакеры по всему миру активно интересуются ChatGPT от OpenAI. Более 200 000 доступов к ChatGPT в даркнете обнаружила канадская компания Flare, работающая в сфере безопасности. На тематических хакерских форумах и в группах за полгода ChatGPT упоминается более 27 000 раз, пишет BleepingComputer со ссылкой на данные Flare.

Сам по себе ChatGPT не опасен — человек всегда напишет более точечное письмо, подчеркивает сооснователь проекта StopPhish Юрий Другач. Но когда злоумышленникам потребуется масштабировать атаку на большое количество организаций или пользователей, то нагрузку, связанную с человеческим ресурсом, они могут переложить на ChatGPT, поясняет он.

ChatGPT может писать код на уровне начинающего программиста, поэтому с его помощью можно создавать различные вредоносные программы и сайты без каких-либо знаний в программировании, отмечает ведущий инженер CorpSoft24 Михаил Сергеев. Нельзя сказать, что нейросеть оставит без работы криминальных кодеров и копирайтеров, но свою основную задачу — автоматизацию рутинных процессов и сокращение требуемого на работу времени — она выполняет хорошо, продолжает эксперт центра мониторинга внешних цифровых угроз Solar AURA компании «РТК-Солар» Александр Вураско.

С помощью чат-ботов можно генерировать дипфейки на основе личных фотографий пользователей, чтобы потом шантажировать жертву и требовать выкуп, отмечает руководитель управления киберразведки Bi.Zone Олег Скулкин. Еще одна схема мошенничества, по его словам, — имитация голоса с помощью искусственного интеллекта, например для звонков из «службы безопасности».

«Известны также случаи, когда преступники создают сайты, предлагающие якобы бесплатный доступ к нейросетям и чат-ботам. Чтобы получить его, человек вводит свои личные данные, после чего они становятся доступны мошенникам», — добавляет Олег Скулкин. Злоумышленники активно собирают чувствительные данные, которыми люди делятся с чат-ботами. Именно поэтому важно не размещать в них важную информацию, добавляет он.

Для ленивых хакеров

Злоумышленники уже активно используют, в том числе и в России, языковые модели как приманки в рамках мошеннических схем, говорит ведущий исследователь данных в «Лаборатории Касперского» Владислав Тушканов. «Недавно наши контент-аналитики обнаружили схему, в которой злоумышленники выманивали деньги через умный чат-бот для поиска интимных фотографий в Telegram, — рассказывает он. — Авторы чат-бота заявляли, что он якобы работает на основе ChatGPT и с его помощью можно искать в некой базе слитые фотографии человека, имея на руках ссылку на его профиль в социальных сетях или номер телефона. На определенном этапе человека просили заплатить 399 рублей за разовый доступ к базе или 990 рублей за безлимитный. Если жертва переводила деньги, то они уходили злоумышленникам, никаких фотографий человек, разумеется, не получал».

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Крах города машин. 10 лет назад Детройт объявил о банкротстве Крах города машин. 10 лет назад Детройт объявил о банкротстве

Банкротству Детройта в США исполнилось 10 лет

РБК
5 неожиданных технологий, которые изменили 3D-графику 5 неожиданных технологий, которые изменили 3D-графику

Какие технологии стояли у истоков современной 3D-графики

ТехИнсайдер
Рабочей копии гена оказалось недостаточно для устранения врожденной цветовой слепоты Рабочей копии гена оказалось недостаточно для устранения врожденной цветовой слепоты

Рабочая копия гена CNGA3 не восстанавливает цветовое зрение

N+1
6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
Образование с градусом. Где учат делать авторский алкоголь Образование с градусом. Где учат делать авторский алкоголь

Где учат варить пиво, делать сидр, настойки, коктейли и работать с су-видом

СНОБ
Ехать нельзя остаться Ехать нельзя остаться

Как отлично провести время в отпуске дома?

Лиза
О чем были песни группы «Звуки Му» О чем были песни группы «Звуки Му»

Чем интересно творчество группы «Звуки Му»

СНОБ
Неочевидное, но вероятное: зачем ехать на выходные в Каргополь Неочевидное, но вероятное: зачем ехать на выходные в Каргополь

Хотите открыть для себя Русский Север — начинайте с Каргополя

Правила жизни
Алена Долецкая — про дачу как культурный код и жизнь за городом Алена Долецкая — про дачу как культурный код и жизнь за городом

Алена Долецкая размышляет о жизни деревенской и жизни дачной

РБК
Доктор, это опасно? Почему ананас жжет и разъедает слизистую и язык? Доктор, это опасно? Почему ананас жжет и разъедает слизистую и язык?

Почему ананас жжет? Есть ли способ победить коварный фрукт?

ТехИнсайдер
Что делать, если муж ревнует вас к ребенку: 3 совета от медиатора Что делать, если муж ревнует вас к ребенку: 3 совета от медиатора

Нормально ли, если мужчина ревнует вас к ребенку?

Psychologies
Активные тучные клетки заставили мышей избегать аллерген Активные тучные клетки заставили мышей избегать аллерген

Названы главные медиаторы воспаления, опосредующие избегание пищевого аллергена

N+1
«Лучше сделать и пожалеть?»: почему мужчины и женщины по-разному переживают о случайном сексе «Лучше сделать и пожалеть?»: почему мужчины и женщины по-разному переживают о случайном сексе

Чем отличаются мужские и женские переживания о сексе?

Psychologies
Кроме чая и специй: зачем российскому предпринимателю Индия Кроме чая и специй: зачем российскому предпринимателю Индия

Что мешает нам строить свои фабрики в дружественной Индии?

Forbes
Древние люди из Леванта добыли несколько тонн кремня для рубил примерно в 20 километрах от стоянки Древние люди из Леванта добыли несколько тонн кремня для рубил примерно в 20 километрах от стоянки

Исследователи выяснили, где брали сырье обитатели двух ашельских стоянок

N+1
Непохожие вербейники Непохожие вербейники

Посмотришь на вербейники, не можешь поверить их родству — насколько они различны

Наука и жизнь
Экстрим на всю голову: почему людям так нравятся опасные виды спорта? Экстрим на всю голову: почему людям так нравятся опасные виды спорта?

С чем связана тяга к риску у людей? Им что, жить не хочется?

ТехИнсайдер
Выше ниши: как меняются приоритеты компаний на пути к цифровой трансформации Выше ниши: как меняются приоритеты компаний на пути к цифровой трансформации

Цифровая трансформация остается важным элементом развития российских компаний

Forbes
Хореограф Павел Глухов о работе над постановкой «Дуо» с Дианой Вишневой и Дарьей Павленко Хореограф Павел Глухов о работе над постановкой «Дуо» с Дианой Вишневой и Дарьей Павленко

Хореограф Павел Глухов рассказал — об особенностях общения с прима-балеринами

СНОБ
Ищите котика Ищите котика

«В поисках снежного барса»: два француза псевдофилософствуют в снегах Тибета

Weekend
Ужин подан! Ужин подан!

9 вопросов о правильном ужине

Лиза
«Мы были выше бога, который сотворил нас». Отрывок из книги об Адаме и Еве «Мы были выше бога, который сотворил нас». Отрывок из книги об Адаме и Еве

«Взлет и падение Адама и Евы»: отрывок из книги Стивена Гринблатта

СНОБ
5 книг, которые расскажут об истории создания великих изобретений 5 книг, которые расскажут об истории создания великих изобретений

Книги о любознательных изобретателях, которые двигали человечество вперед

СНОБ
Бережный уход Бережный уход

Как уволиться по закону, с радостью и выгодой

VOICE
«Говорили, что он не мог управлять даже выдачей гамбургеров в забегаловке». Профессор Гарварда рассказал о Роберте Оппенгеймере «Говорили, что он не мог управлять даже выдачей гамбургеров в забегаловке». Профессор Гарварда рассказал о Роберте Оппенгеймере

Историк Стивен Шейпин: вклад Оппенгеймера в создание ядерного оружия преувеличен

Правила жизни
Многое теряют Многое теряют

Насколько безопасны новые инъекции для похудения?

VOICE
Пол гоминин возрастом более двух миллионов лет установили по белкам зубной эмали Пол гоминин возрастом более двух миллионов лет установили по белкам зубной эмали

Ученые выполнили анализ протеомов зубной эмали четырех особей гоминин

N+1
Следствие ведут экстрасенсы Следствие ведут экстрасенсы

«Гипнотик»: Бен Аффлек в долгострое Роберта Родригеса

Weekend
Как скрыть недостатки фигуры в летних образах: лайфхаки против Как скрыть недостатки фигуры в летних образах: лайфхаки против

Эти модные трюки помогут скрыть недостатки фигуры

VOICE
Открыть в приложении