OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дар неудачи Дар неудачи

Отпустите детей – они сами справятся

kiozk originals
4 мифа о сексуальной жизни — проверьте себя 4 мифа о сексуальной жизни — проверьте себя

Наша сексуальная жизнь полна мифов

Psychologies
Музыка Музыка

Что общего у симфонии Авраамова с изящным модернизмом Стравинского

Правила жизни
«Сердце пармы» и не только: 13 фильмов с Александром Кузнецовым «Сердце пармы» и не только: 13 фильмов с Александром Кузнецовым

13 беспроигрышных тайтлов с Александром Кузнецовым, которые стоит посмотреть

Правила жизни
Что такое искусственная кома и чем она отличается от обычной Что такое искусственная кома и чем она отличается от обычной

Зачем человека специально вводят в кому?

ТехИнсайдер
Фигура на фоне Холодной войны Фигура на фоне Холодной войны

Как художник Евгений Рухин вел американский образ жизни в застойном Ленинграде

Weekend
«В молекуле от безумия» «В молекуле от безумия»

Истории о том, как ломается мозг

N+1
Без стандартов, но по призванию. Является ли оценка проектов и программ профессией? | No Standards, Just Calling. Is Project and Program Evaluation a Profession? Без стандартов, но по призванию. Является ли оценка проектов и программ профессией? | No Standards, Just Calling. Is Project and Program Evaluation a Profession?

Является ли оценка проектов и программ профессией?

Позитивные изменения
Рейс MH370: каким получился сериал о самой загадочной катастрофе в истории авиации Рейс MH370: каким получился сериал о самой загадочной катастрофе в истории авиации

Сериал о том, что могло произойти с рейсом MH370

Forbes
Боль и слова Боль и слова

Актеры сериала «Содержанки» – о любви

Новый очаг
Почему люди моргают? Почему люди моргают?

Для чего человеческому организму нужен механизм моргания?

ТехИнсайдер
Когда связи не рвутся Когда связи не рвутся

Что нужно сделать, чтобы мобильная связь была доступна везде

ТехИнсайдер
Зов далеких островов Зов далеких островов

Дальний Восток России — регион с обилием уникальных природных ландшафтов

Y Magazine
Угол презрения Угол презрения

Русские футуристы пытались освистать Маринетти так, чтобы ему это не польстило

Правила жизни
Уравнение с квадратом Уравнение с квадратом

Как понять, не висит ли «Черный квадрат» вверх ногами?

Правила жизни
Как мы мешаем сами себе Как мы мешаем сами себе

На дефицит личного пространства в последнее время не жалуется только ленивый

4x4 Club
Припекло везде и сразу Припекло везде и сразу

«Экстраполяции»: голливудские звезды в климатической проповеди Скотта Бёрнса

Weekend
Ангорский кролик: даст фору любым котикам Ангорский кролик: даст фору любым котикам

Немного об ангорских кроликах, которые "утрут нос" вашим любимым интернет-героям

ТехИнсайдер
Совместное творчество Совместное творчество

О точках соприкосновения мира искусства и индустрии красоты

Правила жизни
Отцы как дети Отцы как дети

«Солнце мое»: самый нежный фильм 2022 года

Weekend
«Почему он мне не пишет»: гостинг, бенчинг, брэдкрампинг, мунинг — виды отвержения в онлайн-знакомствах «Почему он мне не пишет»: гостинг, бенчинг, брэдкрампинг, мунинг — виды отвержения в онлайн-знакомствах

Что делать, если вы стали жертвой «человека-призрака»?

Psychologies
9 внутренних установок, которые сделают из вас неудачника 9 внутренних установок, которые сделают из вас неудачника

Какие внутренние установки активируют в людях комплекс неудачника?

Psychologies
HR-специалисты — о том, существует ли эйджизм при приеме на работу HR-специалисты — о том, существует ли эйджизм при приеме на работу

В каких сферах востребованы зрелые соискатели?

РБК
Правила жизни Киану Ривза Правила жизни Киану Ривза

Жизнь и высказывания актера Киану Ривза

Правила жизни
Нет, Стоунхендж на самом деле не был древним календарем: ученые ошибались Нет, Стоунхендж на самом деле не был древним календарем: ученые ошибались

По мнению ученых, в дизайне Стоунхенджа есть нечто большее, чем просто календарь

ТехИнсайдер
Литература Литература

«Дыр бул щыл убеш щур», – до сих пор одно из самых глубоких русских высказываний

Правила жизни
«В душе я обыватель» «В душе я обыватель»

Петр Тодоровский о своем фильме «Здоровый человек»

Weekend
Карту на стол Карту на стол

Искусствовед рассказывает, по какой схеме развивался русский авангард

Правила жизни
Вопрос на миллион: кого и о чем стоит спрашивать, чтобы достигать целей Вопрос на миллион: кого и о чем стоит спрашивать, чтобы достигать целей

Кому и как правильно задавать вопросы, чтобы достичь цели

Psychologies
Впервые за десятилетия математики приблизились к разгадке таинственных Впервые за десятилетия математики приблизились к разгадке таинственных

Границы чисел Рамсея наконец были сужены

ТехИнсайдер
Открыть в приложении