OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

POINTER: новой системе спасения пожарных не мешает ни дым, ни огонь POINTER: новой системе спасения пожарных не мешает ни дым, ни огонь

POINTER. Технология, позволяющая выявлять пожарных внутри зданий

Популярная механика
Ботинки больше не промокнут! 5 способов сделать водоотталкивающую пропитку для обуви Ботинки больше не промокнут! 5 способов сделать водоотталкивающую пропитку для обуви

Как можно сделать обувь непромокаемой в домашних условиях

ТехИнсайдер
Зелёные великаны: 7 самых высоких деревьев в мире Зелёные великаны: 7 самых высоких деревьев в мире

Зеленые гиганты, которые вас поразят

ТехИнсайдер
Воображая интернет: как появились сетевые манифесты Воображая интернет: как появились сетевые манифесты

Манифесты ― ключевой формат дискуссий интернета

ТехИнсайдер
Системный анализ Системный анализ

Анастасия Волкова: российский арт-рынок — «непаханое поле возможностей»

Robb Report
Эксперт рассказал, как гладить кота, чтобы он не злился на вас Эксперт рассказал, как гладить кота, чтобы он не злился на вас

Забавный факт: вашей кошке, вероятно, не нравится, как вы ее гладите

ТехИнсайдер
Путь к тебе Путь к тебе

Bahh Tee & Turken — один из самых красивых и романтичных дуэтов шоубизнеса

OK!

Новое поколение передовых методов лечения поднимает серьезные этические проблемы

ТехИнсайдер
Оазис гармонии Оазис гармонии

Стиль джапанди превратил обычную квартиру в комфортное место отдыха

Идеи Вашего Дома
В египетском храме нашли полную картину зодиаков. Удивительная находка! В египетском храме нашли полную картину зодиаков. Удивительная находка!

Увлечение астрологией возникло не в 21 веке!

ТехИнсайдер
Как пилот Амелия Эрхарт изменила авиацию, а потом загадочно исчезла во время полета Как пилот Амелия Эрхарт изменила авиацию, а потом загадочно исчезла во время полета

Амелия Эрхарт не боялась новых рекордов, даже если это было слишком рискованно

Forbes
О чем на самом деле мистический детектив «Детектор» О чем на самом деле мистический детектив «Детектор»

«Детектор» Костаса Марсаана — современный мистический триллер

СНОБ
Переключаемся на весну Переключаемся на весну

В начале весны многие из нас переживают ощущения Спящей красавицы

Лиза
Что почитать в ожидании нового сезона «Ведьмака»? Что почитать в ожидании нового сезона «Ведьмака»?

Книги, так или иначе напоминающие «Ведьмака»

Maxim
Как планеты спасают воду от слишком активных звезд: неожиданное исследование Как планеты спасают воду от слишком активных звезд: неожиданное исследование

Планета может сохранить воду, даже если её омывали потоки солнечной радиации

ТехИнсайдер
Мы так же любим любить Мы так же любим любить

Юлия Высоцкая – о том, что её бесит и почему завтраки должны быть запрещены

Новый очаг
Если партнер манипулирует чувством вины: 3 шага противодействия Если партнер манипулирует чувством вины: 3 шага противодействия

Что делать, если вы постоянно испытываете чувство вины в паре?

Psychologies
Энергетическая революция: ученые создают накопители энергии на сверхпроводниках Энергетическая революция: ученые создают накопители энергии на сверхпроводниках

Ученые разрабатывают революционные накопители энергии нового типа

ТехИнсайдер
Не психолог и не коуч: кто такой наставник Не психолог и не коуч: кто такой наставник

Что входит в задачи наставника?

Psychologies
«Тайна одной саламандры»: 5 причин прочитать книгу Дмитрия Миропольского о приключениях и научных открытиях «Тайна одной саламандры»: 5 причин прочитать книгу Дмитрия Миропольского о приключениях и научных открытиях

«Тайна одной саламандры» погрузит вас в водоворот приключений и научных открытий

ТехИнсайдер
Маникюр-камуфляж: особенности, технологии и 8 трендовых идей Маникюр-камуфляж: особенности, технологии и 8 трендовых идей

Что такое маникюр-камуфляж?

РБК
Под колпаком: как травмирует материнская любовь Под колпаком: как травмирует материнская любовь

Отрывок из книги «Переживание чувств» Сьюзан Кейн

Psychologies
Вы будете удивлены: почему кошки мнут нас лапками, спят в лотке, а потом усаживаются на лицо? Вы будете удивлены: почему кошки мнут нас лапками, спят в лотке, а потом усаживаются на лицо?

Если ваш кот постоянно поворачивается к вам задом, то вы счастливый человек!

ТехИнсайдер
Закоренелые холостяки: как впустить в свою жизнь человека, если вы привыкли к одиночеству Закоренелые холостяки: как впустить в свою жизнь человека, если вы привыкли к одиночеству

Как все-таки решиться на совместное проживание?

Psychologies
И смех и грех И смех и грех

Как нарастить броню, надежно защищающую от насмешек?

Лиза
Как такое возможно: советский хирург Леонид Рогозов взял в руки скальпель и вырезал себе аппендицит Как такое возможно: советский хирург Леонид Рогозов взял в руки скальпель и вырезал себе аппендицит

Как молодой хирург Леонид Рогозов сам себе удалил аппендикс

ТехИнсайдер
Физика в НИИ Черногорье Физика в НИИ Черногорье

Большой и подробный разбор досок из Black Mesa — ремейка оригинального Half-Life

N+1
«Дейзи Джонс и The Six»: красивая мелодрама о вымышленной рок-группе в стиле 1970-х «Дейзи Джонс и The Six»: красивая мелодрама о вымышленной рок-группе в стиле 1970-х

Сериал «Дейзи Джонс и The Six» — аутентичная история о любви и саморазрушении

Forbes
И хочется, и надо, но лень не дает... И хочется, и надо, но лень не дает...

14 нескучных мотиваций для похудения

Лиза
Любовь и кровь: знаменитости, жестоко убитые собственными фанатами Любовь и кровь: знаменитости, жестоко убитые собственными фанатами

Случаи, когда звезды умерли именно от рук тех, кто еще недавно их боготворил

VOICE
Открыть в приложении