OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Два мира — два Вишневских. Откуда берутся «двойники» на выборах в России и в США Два мира — два Вишневских. Откуда берутся «двойники» на выборах в России и в США

Как выглядит доведенная до абсурда электоральная демократия

СНОБ
«Учился по дороге между играми и после тренировок»: как топ-баскетболист стал разработчиком на Swift «Учился по дороге между играми и после тренировок»: как топ-баскетболист стал разработчиком на Swift

Александр Пустогвар рассказал о смене профессии

VC.RU
На балийской вилле На балийской вилле

В небольшой квартире удалось создать аутентичную атмосферу тропической виллы

Идеи Вашего Дома
В отпуск в Петербург В отпуск в Петербург

Квартира в синих, молочно-бежевых и золотых оттенках настраивает на позитив

Идеи Вашего Дома
Михаил Миндлин — о том, как решить спор между музеями и РПЦ и где грань между идеологией и PR Михаил Миндлин — о том, как решить спор между музеями и РПЦ и где грань между идеологией и PR

Как решить спор о перевозке древних икон?

СНОБ
Отрывок из новой книги Алены Долецкой «К столу» Отрывок из новой книги Алены Долецкой «К столу»

Новая книга Алены Долецкой «К столу» — это не классическая книга рецептов

СНОБ
Как принимать витамин С Как принимать витамин С

10 продуктов и препаратов, которые не дают витамину С нормально усваиваться

Лиза
Тумблер для генов: как работает эпигенетика и при чем тут косметология Тумблер для генов: как работает эпигенетика и при чем тут косметология

Какие перспективы есть у эпигенетической косметологии?

Forbes
«Мы шутили, что к нам еще только медведь не пришел»: Анастасия Стежко о съемках сериала «Вампиры средней полосы» «Мы шутили, что к нам еще только медведь не пришел»: Анастасия Стежко о съемках сериала «Вампиры средней полосы»

Анастасия Стежко раскрыла секреты съемок экшн-сцен «Вампиров средней полосы»

VOICE
Как создавать свои картинки в Midjourney: простой гид Как создавать свои картинки в Midjourney: простой гид

Краткое руководство для начинающих изучать Midjourney

Maxim
Линейная служба Линейная служба

Ижевские беспилотники Supercam не игрушки для миллениалов, а серьезные машины

ТехИнсайдер
15 фактов о сериале «Уэнсдэй» 15 фактов о сериале «Уэнсдэй»

Чему Дженне Ортеге училась для роли и как снимали сцены с отрубленной рукой?

ЖАРА Magazine
Мои дорогие. Mercedes EQE против BMW iX Мои дорогие. Mercedes EQE против BMW iX

Смертельная битва шикарных и очень немецких электрических внедорожников!

4x4 Club
Психолог — о возрастных стереотипах и «третьей молодости» Психолог — о возрастных стереотипах и «третьей молодости»

Как наслаждаться второй половиной жизни?

РБК
Как компакт-диски стали самой наглой аферой шоу-бизнеса Как компакт-диски стали самой наглой аферой шоу-бизнеса

Факты, которые мы вспомнили на 40-летний юбилей первого CD

Maxim
Велимир Хлебников Велимир Хлебников

Велимир Хлебников: поэт, умер в 1922 году

Правила жизни
«Почему мужчина так себя ведет?»: как решать проблемы в отношениях— 4 типичных примера «Почему мужчина так себя ведет?»: как решать проблемы в отношениях— 4 типичных примера

Как не превратить противоречия в конфликт?

Psychologies
Зачем черепахам панцирь и могут ли они жить без него? Зачем черепахам панцирь и могут ли они жить без него?

Почему у черепах панцирь?

ТехИнсайдер
В чем ваш социальный капитал? Перечисляем 7 способов его увеличить В чем ваш социальный капитал? Перечисляем 7 способов его увеличить

Как окружающие люди влияют на нашу собственную жизнь?

Psychologies
Все о модной голливудской «диете» на уколах для диабетиков: риски, побочки и мнение врачей Все о модной голливудской «диете» на уколах для диабетиков: риски, побочки и мнение врачей

Как на самом деле работает и чем «диета» на уколах опасна для здоровых людей

VOICE
Формула жизни Формула жизни

Корейцы уверены, что лапша – символ долголетия, а суп – его гарантия

Вокруг света
«Я никогда не была с женатыми мужчинами»: Лолита рассказала о съёмках сериала «Актрисы» «Я никогда не была с женатыми мужчинами»: Лолита рассказала о съёмках сериала «Актрисы»

Лолита Милявская рассказала, каково ей было работать с популярным режиссером

VOICE
Гоша Гоша

Гоша Карцев выходит из треугольника печали и амплуа фэшн-суки

Собака.ru
20 лучших фантастических сериалов 2010–2023 годов 20 лучших фантастических сериалов 2010–2023 годов

Максимально кратко перечисляем и описываем золотой фонд современной фантастики

Maxim
От Эдипа до Нарцисса: как изменилось воспитание детей — взгляд нейропсихолога От Эдипа до Нарцисса: как изменилось воспитание детей — взгляд нейропсихолога

Почему все чаще современные дети чувствуют себя несчастными?

Psychologies
Найти свою половинку в Эмиратах: две истории с (не)счастливым концом Найти свою половинку в Эмиратах: две истории с (не)счастливым концом

Каковы шансы обрести в Эмиратах близкие отношения и построить семью?

Psychologies
Ретропричинность: как квантовый мир может изменять привычные нам законы физики Ретропричинность: как квантовый мир может изменять привычные нам законы физики

Физики предложили смелую теорию ретропричинности

ТехИнсайдер
Европейские диктаторы, средневековые ученые и универсальные люди: 6 книг, которые помогут погрузиться в историю Европейские диктаторы, средневековые ученые и универсальные люди: 6 книг, которые помогут погрузиться в историю

Как обычно заканчиваются диктаторские режимы?

ТехИнсайдер
Лекарство от депрессии Лекарство от депрессии

Как Вторая мировая сделала из США сверхдержаву

Деньги
7 книг о будущем 7 книг о будущем

Семь книг ученых и социологов, которые приоткроют дверь в будущее

СНОБ
Открыть в приложении