OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое сценарии Bixby: ваш смартфон умнее, чем кажется Что такое сценарии Bixby: ваш смартфон умнее, чем кажется

Что такое сценарии Bixby, как их создавать и на что они способны

CHIP
Зеленый бриллиант: почему зеленку не применяют нигде в мире, кроме стран СНГ Зеленый бриллиант: почему зеленку не применяют нигде в мире, кроме стран СНГ

Для чего на самом деле нужна зеленка?

ТехИнсайдер
Час расплаты: истории трех девушек, которые попали в кредитную кабалу Час расплаты: истории трех девушек, которые попали в кредитную кабалу

Взяла один кредит, потом другой, а дальше долги стали множиться

VOICE
Отличной посадки на Титан, «Стрекоза»! Отличной посадки на Титан, «Стрекоза»!

Посадка на другие планеты — дело весьма непростое

Наука
Быстрее гиперзвука: величайший космический рекорд, поставленный крышкой от люка Быстрее гиперзвука: величайший космический рекорд, поставленный крышкой от люка

Нет ничего удивительного в том, что инопланетяне не вступают с нами в контакт

Maxim
Сгоревшая демократия Сгоревшая демократия

27 февраля 1933 года в Берлине был подожжён Рейхстаг

Дилетант
Грибы-копыта Грибы-копыта

Грибы, которые можно встретить почти в любом лесу

Наука и жизнь
4 признака того, что вы плохо знакомы с собой 4 признака того, что вы плохо знакомы с собой

Как ни парадоксально, часто мы знаем самих себя лишь поверхностно

Psychologies
Что нам дает умение желать и как его развить: 3 техники Что нам дает умение желать и как его развить: 3 техники

В чем заключается связь между желанием и потребностью?

Psychologies
Бритва, полотенце, фен и еще 7 вещей, которые не стоит хранить в ванной - они не терпят влажную среду Бритва, полотенце, фен и еще 7 вещей, которые не стоит хранить в ванной - они не терпят влажную среду

Проведи инвентаризацию в ванной комнате и очисти ее от ненужных предметов!

ТехИнсайдер
Большая игра: что смотреть с Джессикой Честейн Большая игра: что смотреть с Джессикой Честейн

Несколько лучших фильмов с Джессикой Честейн для просмотра на выходных

Правила жизни
Золотой век тирании: как прогрессивная демократия на Филиппинах стала диктатурой Золотой век тирании: как прогрессивная демократия на Филиппинах стала диктатурой

Фердинанд Маркос — один из самых расчетливых азиатских диктаторов XX века

Forbes
Новая точка туристического притяжения Новая точка туристического притяжения

Всесезонные возможности для отдыха на алтайском курорте «Манжерок»

Деньги
После 60-летнего юбилея у женщины умерла мама и ушел муж. Но она нашла в себе силы начать новую жизнь После 60-летнего юбилея у женщины умерла мама и ушел муж. Но она нашла в себе силы начать новую жизнь

Как после череды трагических событий американка сумела встать на ноги

ТехИнсайдер
Стоп, не снято: 5 звезд, которые умерли в разгар съемок фильма Стоп, не снято: 5 звезд, которые умерли в разгар съемок фильма

Трагические случаи, в которых звезды внезапно умирали в разгар съемок

VOICE
Режиссер Масааки Юаса: Я хотел бы сделать анимацию, которую наш глаз не отличит от фотореалистичного изображения Режиссер Масааки Юаса: Я хотел бы сделать анимацию, которую наш глаз не отличит от фотореалистичного изображения

Интервью с аниматором Масааки Юасой о его фильме «Ину-о: Рождение легенды»

СНОБ
Любовь и кровь: знаменитости, жестоко убитые собственными фанатами Любовь и кровь: знаменитости, жестоко убитые собственными фанатами

Случаи, когда звезды умерли именно от рук тех, кто еще недавно их боготворил

VOICE
Как восстановить кожу после затяжной зимы: гид по самым нужным весенним процедурам Как восстановить кожу после затяжной зимы: гид по самым нужным весенним процедурам

Хочешь порадовать свою кожу весенним походом в кабинет к косметологу?

VOICE
Надёжен ли подержанный Mercedes-Benz GL? Надёжен ли подержанный Mercedes-Benz GL?

Основные неисправности, которые могут возникнуть у подержанного Mercedes-Benz GL

4x4 Club
Овцеводство поддержат по-новому Овцеводство поддержат по-новому

Новая программа овцеводства должна учесть специфику развития отрасли

Агроинвестор
«Амели», «Французский поцелуй», «Старая дева»: 7 необыкновенных фильмов о любви — посмотрите на выходных «Амели», «Французский поцелуй», «Старая дева»: 7 необыкновенных фильмов о любви — посмотрите на выходных

Фильмы о неслучайности случайного, о дивных парадоксах и любовной «химии»

Psychologies
Без интернатов: как социализация помогает детям с инвалидностью стать частью общества Без интернатов: как социализация помогает детям с инвалидностью стать частью общества

Кто и как в России занимается социализацией детей с инвалидностью

Forbes
«Ген. Очень личная история» «Ген. Очень личная история»

Как концепция гена изменила мир

N+1
День тэнкиста День тэнкиста

Первый автомобиль китайского бренда «Тэнк» – серьезный внедорожник

Автопилот
Был беженцем, стал звездой: виражи судьбы Ке Хью Квана — первого актера вьетнамского происхождения с Был беженцем, стал звездой: виражи судьбы Ке Хью Квана — первого актера вьетнамского происхождения с

Биография вьетнамского актера Ке Хью Квана достойна экранизации

VOICE
Новые лица: пять молодых театральных актеров, за которыми стоит следить Новые лица: пять молодых театральных актеров, за которыми стоит следить

Пять самых интересных новых актеров московской сцены

Forbes
Кем стали крестные дети принцессы Дианы: что о них известно Кем стали крестные дети принцессы Дианы: что о них известно

Кем выросли крестники «королевы людских сердец»? Рассказываем об их судьбах

VOICE
Сколько на самом деле стоит автомобиль? Сколько на самом деле стоит автомобиль?

Жизнь автомобиля начинается задолго до момента, когда мы впервые садимся за руль

4x4 Club
Сбой запроса дескриптора USB устройства: что делать? Сбой запроса дескриптора USB устройства: что делать?

Сбой запроса дескриптора USB устройства Код 43. Что это за проблема?

CHIP
Найдена аномальная звезда, рожденная в адски горячем облаке материи рядом с черной дырой Найдена аномальная звезда, рожденная в адски горячем облаке материи рядом с черной дырой

Звезда, которая не умирает, а рождается прямо возле чудовищной пасти Стрельца A*

ТехИнсайдер
Открыть в приложении