OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дмитрий Нагиев: «Я дорос до той стадии, когда хочу видеть свет в искусстве» Дмитрий Нагиев: «Я дорос до той стадии, когда хочу видеть свет в искусстве»

Дмитрий Нагиев — о фильмах про убийства и блокировке шоу «Везде Нагиев»

GQ
Искусство советского плаката: как Эль Лисицкий продвинул идеологию на Запад Искусство советского плаката: как Эль Лисицкий продвинул идеологию на Запад

Как Элю Лисицкому удалось прославиться на Западе и прославить при этом СССР

Правила жизни

"Крысиный король" существует на самом деле

ТехИнсайдер
Первая русская манифестация Первая русская манифестация

С юности Владимир Новосильцев был, как казалось, настоящим баловнем судьбы

Дилетант
Продолжение истории о подростке с болезненной привязанностью к смартфону Продолжение истории о подростке с болезненной привязанностью к смартфону

Почему современные подростки так привязаны к своим телефонам?

СНОБ
Ученые засняли уникальные кадры ударов молний по высотным зданиям Ученые засняли уникальные кадры ударов молний по высотным зданиям

Как выглядит молния во время её удара?

ТехИнсайдер
Мы нашли ответ, куда бежит время и как его остановить! Мы нашли ответ, куда бежит время и как его остановить!

Куда бежит время?

ТехИнсайдер
Почему люди моргают? Почему люди моргают?

Для чего человеческому организму нужен механизм моргания?

ТехИнсайдер
Переключаемся на весну Переключаемся на весну

В начале весны многие из нас переживают ощущения Спящей красавицы

Лиза
Как выглядит кожа женщины, сбросившей 71 килограмм: почему лучше не набирать вес, чем потом худеть Как выглядит кожа женщины, сбросившей 71 килограмм: почему лучше не набирать вес, чем потом худеть

Как выглядит девушка, похудевшая на 71 килограмм

VOICE
Велимир Хлебников Велимир Хлебников

Велимир Хлебников: поэт, умер в 1922 году

Правила жизни
«Как будем делить квартиру?» 7 мифов о брачном договоре — объяснения адвоката «Как будем делить квартиру?» 7 мифов о брачном договоре — объяснения адвоката

Что же такое этот самый брачный договор и почему о нем бытует столько мифов?

Psychologies
Оказывается, красотки: как выглядели в молодости актрисы, которых мы знаем только по ролям бабушек Оказывается, красотки: как выглядели в молодости актрисы, которых мы знаем только по ролям бабушек

Как выглядели в молодости актрисы, которых мы знаем только по ролям бабушек?

VOICE
Макар Кожухов, заместитель генерального директора Premier: Онлайн-кинотеатры — это новые библиотеки Макар Кожухов, заместитель генерального директора Premier: Онлайн-кинотеатры — это новые библиотеки

Заместитель генерального директора Premier — о герое нашего времени и аналитике

СНОБ
Как перестать врать по мелочам: 3 верных способа Как перестать врать по мелочам: 3 верных способа

В какой момент можно считать, что вы патологический лгун? Что с этим сделать?

Psychologies
Почему вот здесь «стреляет» Почему вот здесь «стреляет»

Легко ли распознать защемление седалищного нерва и что с этим делать

Лиза
Гречка, виноград и проклятие инсулина: 10 самых распространенных мифов о диабете Гречка, виноград и проклятие инсулина: 10 самых распространенных мифов о диабете

Вы уверены, что диабет — болезнь сладкоежек?

Psychologies
Ионосфера: между космосом и землёй Ионосфера: между космосом и землёй

Как ионосфера взаимодействует с другими геосферными оболочками?

Наука и жизнь
Терапия одиночества: почему время наедине с собой помогает нам исследовать жизнь Терапия одиночества: почему время наедине с собой помогает нам исследовать жизнь

Как рассматривать время, проверенное наедине с собой, не как лишение

Forbes
Большая распаковка: почему невозможно отказаться от пластика в России Большая распаковка: почему невозможно отказаться от пластика в России

Можно ли ограничить производство в России товаров из пластика?

Forbes
«Хочу управлять электропоездом!» Спецрепортаж к 8 Марта «Хочу управлять электропоездом!» Спецрепортаж к 8 Марта

Истории наших героинь, которые работают помощниками машиниста

Лиза
Как бывший инженер «Газпрома» и юристка зарабатывают на балете для взрослых 257 млн руб. в год. История Levita Как бывший инженер «Газпрома» и юристка зарабатывают на балете для взрослых 257 млн руб. в год. История Levita

История студии балета и растяжки Levita

Inc.
Сериал «Экстраординарная»: краткое пособие по выживанию во взрослой жизни Сериал «Экстраординарная»: краткое пособие по выживанию во взрослой жизни

«Экстраординарная» — яркий сериал о молодых людях, ищущих смысл жизни

Forbes
Брюс всемогущий: как Брюс Уиллис стал «своим парнем» с экрана и постепенно исчез с него Брюс всемогущий: как Брюс Уиллис стал «своим парнем» с экрана и постепенно исчез с него

Вспоминаем яркую карьеру Уиллиса и рассказываем, как Джон Макклейн сдал пост

Правила жизни
Не психолог и не коуч: кто такой наставник Не психолог и не коуч: кто такой наставник

Что входит в задачи наставника?

Psychologies
Самые экологичные гонки Самые экологичные гонки

Что будет, если скрестить «Дакар» и ралли-кросс на машинах с электродвигателями?

ТехИнсайдер
В Британии домашних питомцев, вероятно, начнут генетически модифицировать В Британии домашних питомцев, вероятно, начнут генетически модифицировать

Новый закон позволит создавать кошек и собак с "экстремальными особенностями"

ТехИнсайдер
Жертва кризиса доверия: почему закончилась полуторавековая история Credit Suisse Жертва кризиса доверия: почему закончилась полуторавековая история Credit Suisse

Что привело Credit Suisse к тупику, из которого он оказался не в состоянии выйти

Forbes
Лира в руках Орфея: неожиданные смыслы древнегреческих мифов Лира в руках Орфея: неожиданные смыслы древнегреческих мифов

О силе, творчестве, силе творчества и неожиданных смыслах греческих мифов

ТехИнсайдер
30 потрясающих вещей, которым в 2023-м году исполнилось 30 лет 30 потрясающих вещей, которым в 2023-м году исполнилось 30 лет

У тебя есть возможность с ужасом ощутить, как быстро пролетели годы

Maxim
Открыть в приложении