OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Мы сейчас все время в контексте окупаемости»: как меняется ресторанная индустрия «Мы сейчас все время в контексте окупаемости»: как меняется ресторанная индустрия

Светлана Дробот — о тренде на ближневосточную кухню и ведении бизнеса с мужем

Forbes
В коллайдере удалось зафиксировать «неуловимые» частицы В коллайдере удалось зафиксировать «неуловимые» частицы

Новая работа представляет собой первое прямое наблюдение коллайдерных нейтрино

ТехИнсайдер
Живи с комфортом Живи с комфортом

10 правил дизайна интерьера, которые сделают твой дом уютным и комфортным

Лиза
7 редких экспонатов Музея-квартиры Николая Голованова 7 редких экспонатов Музея-квартиры Николая Голованова

Удивительные предметы из коллекции музыканта Николая Голованова

Культура.РФ
5 решений, которые делают цветочный бизнес экологичнее 5 решений, которые делают цветочный бизнес экологичнее

Простые экологичные решения в сфере флористики

СНОБ
Мучной рост с низкой базы Мучной рост с низкой базы

Потенциал экспорта муки из России оценивается в 3 млн т

Агроинвестор
Безусловное принятие: как (не) вырастить монстра Безусловное принятие: как (не) вырастить монстра

Что случится с ребенком, если ему все позволять и ни в чем не ограничивать?

Psychologies
Новая атака сибирской язвы: чем так опасна эта болезнь? Новая атака сибирской язвы: чем так опасна эта болезнь?

Как происходит заражение, чем лечиться и как оградить себя от сибирской язвы

ТехИнсайдер
«Нужна конфиденциальность — не вступайте в программу лояльности»: какие покупательские данные может собирать супермаркет «Нужна конфиденциальность — не вступайте в программу лояльности»: какие покупательские данные может собирать супермаркет

Монетизация данных о клиентах — это ещё один источник дохода для компаний

VC.RU
Как люди отреагировали на смерть Сталина? Прочтите эти воспоминания! Как люди отреагировали на смерть Сталина? Прочтите эти воспоминания!

Тревога, радость и всенародное горе — как люди восприняли кончину Сталина

ТехИнсайдер
Няня-убийца: единственная казненная женщина в Новой Зеландии Няня-убийца: единственная казненная женщина в Новой Зеландии

Дин давала приют детям, от которых отказались родители, а потом убивала их

VOICE
5 признаков кризиса в ваших отношениях 5 признаков кризиса в ваших отношениях

Как восстановить баланс в паре?

Psychologies
Распаривание лица: кому нужно, зачем и как его делать, объясняют эксперты Распаривание лица: кому нужно, зачем и как его делать, объясняют эксперты

Как и зачем нужно распаривать кожу?

VOICE
Маша Белик Маша Белик

Маша Белик — главный (пост)кутюрье страны

Собака.ru
Вложись по минимуму Вложись по минимуму

Как стать инвестором, даже если в кармане всего 500 рублей

Лиза
Любить нельзя стесняться Любить нельзя стесняться

Почему любовь к себе – большой ресурс в отношениях с другими?

Новый очаг
Смола и цветы Смола и цветы

История любви к хобби, которое стало профессией

Новый очаг
Садо-мазо в сексе: экзотические увлечения или компенсация внутренних конфликтов? Садо-мазо в сексе: экзотические увлечения или компенсация внутренних конфликтов?

Что на самом деле побуждает людей к увлечению БДСМ?

Psychologies
Спи, моя красавица Спи, моя красавица

7 комнатных растений, которые помогают уснуть

Лиза
«Какое гендерное равенство, если женщины и мужчины разные?»: 10 глупых вопросов феминистке «Какое гендерное равенство, если женщины и мужчины разные?»: 10 глупых вопросов феминистке

Феминистка развеивает главные мифы о деятельности единомышленниц

Psychologies
Почему люди проваливаются под лёд: самые страшные недавние трагедии на замерзших реках Почему люди проваливаются под лёд: самые страшные недавние трагедии на замерзших реках

Почему люди выходят на лед, если знают, что это очень опасно?

VOICE
Британцы — алкоголики? Каждый выпивает примерно 10 литров в год, но цифра снижается Британцы — алкоголики? Каждый выпивает примерно 10 литров в год, но цифра снижается

Британцы много пьют? С чем это связано?

Maxim
«Лягушка в кипятке»: как мы привыкаем к домашнему насилию «Лягушка в кипятке»: как мы привыкаем к домашнему насилию

Что такое синдром «лягушки в кипятке»

Psychologies
Оценка в настоящем и будущем: взгляд грантодающих организаций | The Present and the Future of Evaluation: The Donors’ View Оценка в настоящем и будущем: взгляд грантодающих организаций | The Present and the Future of Evaluation: The Donors’ View

Какие значимые изменения произошли в 2022 году в сфере оценки в целом?

Позитивные изменения
Кейт Бланшетт в фильме «Тар»: как женщина-дирижер существует в культуре отмены Кейт Бланшетт в фильме «Тар»: как женщина-дирижер существует в культуре отмены

Каким получился фильм «Тар» Тодда Филда с Кейт Бланшетт в главной роли

Forbes
На нюансах На нюансах

Уникальность этого интерьера в гармоничном сочетании разных составляющих

SALON-Interior
«Я понял, каково потерять все деньги» «Я понял, каково потерять все деньги»

Андрей Дороничев — о том, как его стартап пережил крах Silicon Valley Bank

Inc.
Режиссер и продюсер Бауддхаян Мукхерджи: Мы в неоплатном долгу перед русскими мастерами Режиссер и продюсер Бауддхаян Мукхерджи: Мы в неоплатном долгу перед русскими мастерами

Бауддхаян Мукхерджи — о том, что общего между российским и индийским кино

СНОБ
Системный анализ Системный анализ

Анастасия Волкова: российский арт-рынок — «непаханое поле возможностей»

Robb Report
12 шпионов из сериалов 12 шпионов из сериалов

Дюжина самых необычных шпионов на ТВ

Weekend
Открыть в приложении