OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Замахнуться на святое: как молоко стало самым спорным продуктом XXI века Замахнуться на святое: как молоко стало самым спорным продуктом XXI века

Как молоко из символа здоровья стало предметом споров

Forbes
Кейт Бланшетт в фильме «Тар»: как женщина-дирижер существует в культуре отмены Кейт Бланшетт в фильме «Тар»: как женщина-дирижер существует в культуре отмены

Каким получился фильм «Тар» Тодда Филда с Кейт Бланшетт в главной роли

Forbes
Полный, но не только. Тест-драйв Omoda C5 AWD Полный, но не только. Тест-драйв Omoda C5 AWD

Компактный кроссовер С5 свежеиспеченной марки Omoda получил новую модификацию

РБК
Наше время Наше время

Seasons — это про смену времен года, про ритм. Наша команда живет в нем

Seasons of life
Работа на опережение Работа на опережение

Предупреждать заболевание, до того как появились симптомы и изменения в анализах

Robb Report
Как говорить, чтобы партнер понял? 5 советов из психологической практики Как говорить, чтобы партнер понял? 5 советов из психологической практики

Как вести диалог с любимым человеком, чтобы избежать недопонимания и конфликтов?

Psychologies
«Сто лет без одиночества» в Аргентине: как переплетаются истории женщины и страны «Сто лет без одиночества» в Аргентине: как переплетаются истории женщины и страны

Отрывок из романа аргентинской писательницы Исабель Альенде «Виолета»

Forbes
Какой ужас: хохлатые пингвины всегда бросают свое первое яйцо. Но почему они поступают так жестоко? Какой ужас: хохлатые пингвины всегда бросают свое первое яйцо. Но почему они поступают так жестоко?

Почему хохлатые пингвины живут по спартанским законам?

ТехИнсайдер
Нейл-эксперт рассказала, должен ли сочетаться цвет лака на ногах и руках Нейл-эксперт рассказала, должен ли сочетаться цвет лака на ногах и руках

Насколько сегодня актуально красить ногти на ногах и руках в одинаковые оттенки?

VOICE
Как ездить на АТ и не страдать? Как ездить на АТ и не страдать?

Что такое АТ-шины и как на них ездить?

4x4 Club
Нарциссы: как их распознать и правильно вести себя с ними Нарциссы: как их распознать и правильно вести себя с ними

Как вычислить нарциссов в окружении и всегда ли нужно рвать отношения с ними

Правила жизни
5 идей для тревел-девичника на 8 марта 5 идей для тревел-девичника на 8 марта

Если ты хочешь встретить 8 марта в компании близких подруг, у нас есть маршруты

Лиза
Эти машины лучше не покупать. Список самых проблемных моделей с пробегом Эти машины лучше не покупать. Список самых проблемных моделей с пробегом

Какие подержанные автомобили грозят проблемами с ремонтом своим владельцам

РБК
Все о модной голливудской «диете» на уколах для диабетиков: риски, побочки и мнение врачей Все о модной голливудской «диете» на уколах для диабетиков: риски, побочки и мнение врачей

Как на самом деле работает и чем «диета» на уколах опасна для здоровых людей

VOICE
Экспедиция «Северный полюс-41»: что ученые нашли на глубине Северного Ледовитого океана Экспедиция «Северный полюс-41»: что ученые нашли на глубине Северного Ледовитого океана

Ученые дрейфующие в водах Северного Ледовитого океана, отбирают пробы грунта

ТехИнсайдер
Гормон роста: на что он влияет и почему нужен не только культуристам Гормон роста: на что он влияет и почему нужен не только культуристам

Зачем звезды делают уколы роста?

Правила жизни

Полезные привычки, которые помогут держать давление в норме

VOICE
Возвращение шедевров: как бренды тратят миллионы на спасение памятников культуры Возвращение шедевров: как бренды тратят миллионы на спасение памятников культуры

Как миллионы евро помогают восстанавливать исторические здания

Forbes
Не до секса: почему в трудные времена пропадает желание и как его вернуть Не до секса: почему в трудные времена пропадает желание и как его вернуть

Какую роль в сексе играет чувство безопасности и как настроиться на близость?

Psychologies
Астрономы обнаружили в глубинах космоса галактику-одиночку — похоже, она поглотила всех своих сородичей Астрономы обнаружили в глубинах космоса галактику-одиночку — похоже, она поглотила всех своих сородичей

Галактика 3C 297 таинственным образом осталась в полном одиночестве

ТехИнсайдер
Твой камень-талисман по знаку зодиака Твой камень-талисман по знаку зодиака

Хочешь привнести волшебство в свою жизнь и обзавестись талисманом на удачу?

VOICE
«При чем тут любовь?»: как ромком о браках по расчету возрождает веру в романтику «При чем тут любовь?»: как ромком о браках по расчету возрождает веру в романтику

Почему нехитрый набор приемов от создателей «Реальной любви» действует освежающе

Forbes
Не работает клавиатура на компьютере или ноутбуке: что делать? Не работает клавиатура на компьютере или ноутбуке: что делать?

Почему клавиатура компьютера или ноутбука может перестать работать?

CHIP
Смола и цветы Смола и цветы

История любви к хобби, которое стало профессией

Новый очаг
«Полковнику никто не пишет»: что делать, если нет друзей — 4 простых шага «Полковнику никто не пишет»: что делать, если нет друзей — 4 простых шага

С возрастом друзей становится меньше или вообще не остается. Как это изменить?

Psychologies
Мучной рост с низкой базы Мучной рост с низкой базы

Потенциал экспорта муки из России оценивается в 3 млн т

Агроинвестор
Брови на зависть Брови на зависть

От аккуратного и ухоженного вида бровей зависит общее впечатление от образа

Лиза
Надежда и сопричастность: 5 эмоций людей, на которые делают ставку политики Надежда и сопричастность: 5 эмоций людей, на которые делают ставку политики

Какие эмоции становятся мишенью охотников за голосами и народной любовью?

Psychologies
Ади Ади

Ади наливает воду в металлический таз, ополаскивает руки, берет заготовку глины…

Seasons of life
Как Land Cruiser, но вдвое дешевле: в России представили Tank 500 Как Land Cruiser, но вдвое дешевле: в России представили Tank 500

Большой рамный китайский внедорожник Tank 500 добрался до российского рынка

РБК
Открыть в приложении