OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

ForbesHi-Tech

И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

Роман Рожков

Фото Gabby Jones / Bloomberg via Getty Images

На минувшей неделе компания OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT. Из-за сбоя некоторые пользователи могли видеть чужие сообщения, а также имена, фамилии, электронную почту и платежную информацию платных подписчиков сервиса. Forbes опросил российских участников рынка и специалистов в области кибербезопасности об этой утечке, о том, что они думают об этом происшествии и как это может повлиять на их дальнейшую работу с использованием ChatGPT.

Бот так история

20 марта OpenAI была вынуждена временно отключить ChatGPT из-за «ошибки в работе библиотеки с открытым исходным кодом», которая позволила некоторым пользователям видеть сообщения других людей, общавшихся с чат-ботом. Инцидент стал публичным после того, как пользователи Reddit начали публиковать скриншоты из ChatGPT, на которых были видны заголовки и первые сообщения активных чатов других пользователей. По данным издания Engadget, сервис не работал около 10 часов.

Расследование инцидента показало, что скомпрометированной могла оказаться и личная информация некоторых платных подписчиков сервиса, говорится в сообщении OpenAI: «За несколько часов до того, как мы отключили ChatGPT в понедельник, некоторые пользователи могли видеть имя и фамилию других активных пользователей, их емейлы, платежные адреса, последние четыре цифры кредитных карт и сроки действия кредитных карт».

В компании заверили, что утечка коснулась только 1,2% подписчиков ChatGPT Plus, а уязвимость была устранена. «Мы считаем, что число пользователей, чьи данные действительно были раскрыты кому-то другому, крайне мало. <...> Мы уведомили затронутых пользователей о том, что их платежная информация могла быть раскрыта. Мы уверены в отсутствии рисков для данных пользователей», — заявили в OpenAI.

Гендиректор компании Сэм Олтмэн рассказал о «значительной проблеме в работе ChatGPT» в среду, 22 марта, на своей странице в Twitter (заблокирован в России). Он сообщил, что пользователи временно потеряют доступ к истории сообщений, добавив, что разработчики «чувствуют себя ужасно» из-за произошедшего.

Угроза для бизнеса

В России уже есть немало компаний, которые начали использовать ChatGPT. «Сервис помогает им создавать маркетинговые тексты, для чего в ChatGPT на сервер в Америку, где запущена нейросеть, передаются данные — персональные и коммерческие. Что с ними происходит дальше, знает только OpenAI», — рассуждает гендиректор Smart Engines Владимир Арлазаров. По его мнению, бизнесу следует учитывать, что ChatGPT и подобные ей нейросети создают новые угрозы.

Forbes опросил участников рынка, использующих ChatGPT в своей работе, что они думают об утечке и не боятся ли, что данные их клиентов могут быть скомпрометированы.

Глеб Обломский, директор по продуктам разработчика решений на базе разговорного ИИ Just AI:

«Сама по себе конкретно эта утечка — не утечка данных логов работы модели и тех запросов, которые в нее отправляли, а утечка подписчиков, тех, кто непосредственно регистрировался в Open AI для работы. Если верить официальной информации, логи работы и данные, которые передавались в процессе работы в СhatGPT, не утекали.

Но есть намного более серьезный риск — передача данных, в том числе персональных и конфиденциальных, в закрытую и сложную модель, размещенную в облаке. Как будут использоваться эти данные и насколько создатели модели контролируют их использование — неизвестно. Поэтому я бы не рекомендовал строить решения, которые предполагают передачу персональных данных или чувствительной информации в модели, размещенной в облаке, и использовать такие решения.

Для разработчиков решений с точки зрения создания рабочих и надежных решений я бы смотрел на open source LLM модели, которые могут быть развернуты в контуре заказчика и на которых можно построить намного более контролируемый процесс обработки данных.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вред алкоголя: 6 причин отказаться от спиртных напитков Вред алкоголя: 6 причин отказаться от спиртных напитков

Алкоголь безопасен в малых дозах? Почему есть смысл отказаться от него насовсем?

РБК
Мать Леонардо да Винчи была рабыней, которую похитили на Кавказе и продали в Италию еще подростком Мать Леонардо да Винчи была рабыней, которую похитили на Кавказе и продали в Италию еще подростком

Мать Леонардо да Винчи была подростком, похищенным и порабощенным на Кавказе

ТехИнсайдер
Спорт в любую погоду: как беговая дорожка может улучшить результаты бега Спорт в любую погоду: как беговая дорожка может улучшить результаты бега

Как беговая дорожка помогает выжать максимум пользы из беговых тренировок

ТехИнсайдер
Какой шанс встретить идеального партнера: математические аспекты любви — проверьте на практике Какой шанс встретить идеального партнера: математические аспекты любви — проверьте на практике

Применимы ли математические методы к любовному поиску?

Psychologies
Елена Шевченко Елена Шевченко

Как Елена Шевченко стала главной в Петербурге по пирожным

Собака.ru
Как правильно пользоваться стиральной машиной Как правильно пользоваться стиральной машиной

Рассказываем основные правила эксплуатации стиральных машин

CHIP
Вопрос на миллион: кого и о чем стоит спрашивать, чтобы достигать целей Вопрос на миллион: кого и о чем стоит спрашивать, чтобы достигать целей

Кому и как правильно задавать вопросы, чтобы достичь цели

Psychologies
Переключаемся на весну Переключаемся на весну

В начале весны многие из нас переживают ощущения Спящей красавицы

Лиза
Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске Взяли матушек, сделали круг с молитвами: Андрей Малахов вспомнил о неожиданном звонке Жанны Фриске

Андрей Малахов поддерживал связь с Жанной Фриске до самой ее смерти

VOICE
Что Дженнифер Лопес сказала Бену Аффлеку на церемонии «Грэмми» Что Дженнифер Лопес сказала Бену Аффлеку на церемонии «Грэмми»

Бен Аффлек раскрыл детали разговора с женой во время известной церемонии

VOICE
Физика в НИИ Черногорье Физика в НИИ Черногорье

Большой и подробный разбор досок из Black Mesa — ремейка оригинального Half-Life

N+1
Как жалит муравей-пуля, самый опасный муравей в мире Как жалит муравей-пуля, самый опасный муравей в мире

Как муравей-пуля, или Paraponera clavata, получил свое название?

ТехИнсайдер
Закоренелые холостяки: как впустить в свою жизнь человека, если вы привыкли к одиночеству Закоренелые холостяки: как впустить в свою жизнь человека, если вы привыкли к одиночеству

Как все-таки решиться на совместное проживание?

Psychologies
Так как правильно: крайний или последний? Поставим точку в вечном споре Так как правильно: крайний или последний? Поставим точку в вечном споре

Споры в очереди в поликлинике не стихают. "Кто последний?"

ТехИнсайдер
Двигаться вперед Двигаться вперед

Suzuki Vitara в городе пушек, пряников и самоваров

Автопилот
Гречка, виноград и проклятие инсулина: 10 самых распространенных мифов о диабете Гречка, виноград и проклятие инсулина: 10 самых распространенных мифов о диабете

Вы уверены, что диабет — болезнь сладкоежек?

Psychologies
Как полюбить планету: 5 книг об экологии и осознанной жизни Как полюбить планету: 5 книг об экологии и осознанной жизни

5 книг для начинающих эко-активистов, защитников природы и даже эко-скептиков

ТехИнсайдер
Отрывок из дебютного романа Салли Пейдж «Хранительница историй» Отрывок из дебютного романа Салли Пейдж «Хранительница историй»

Уборщица Дженис собирает истории — они складываются обрывков разговоров

СНОБ
Ипотека от нуля Ипотека от нуля

Как и почему ЦБ борется с нулевыми процентами по ипотеке

Деньги
Да будет свет! Да будет свет!

Как сделать темную комнату светлее и уютнее? Несколько секретов

Лиза
Час расплаты: истории трех девушек, которые попали в кредитную кабалу Час расплаты: истории трех девушек, которые попали в кредитную кабалу

Взяла один кредит, потом другой, а дальше долги стали множиться

VOICE
Йога помогла девушке справиться с опытом изнасилования. Трагичная история Йога помогла девушке справиться с опытом изнасилования. Трагичная история

Девушка нашла необычный способ для преодоления травматичного опыта

ТехИнсайдер
Ставка на ценность: как покорить биржу акциями скучных компаний Ставка на ценность: как покорить биржу акциями скучных компаний

Для фондового менеджера Клиффорда Аснесса настал час возмездия

Forbes
Как выбрать летние покрышки: базовые правила Как выбрать летние покрышки: базовые правила

Рассказываем, как надо выбирать летние шины в 2023 году

РБК
От «Спрута» к «Медузе» От «Спрута» к «Медузе»

«Тень Караваджо»: Микеле Плачидо размышляет о гении и свободе

Weekend
Аллергия на работу Аллергия на работу

Вызвать приступ аллергии может даже неприятный человек и работа!

Лиза
По своим правилам: почему борцы с коррупцией в России не нуждаются в чужих советах По своим правилам: почему борцы с коррупцией в России не нуждаются в чужих советах

Для российской правоохранительной системы борьба с коррупцией — рутинный процесс

Forbes
Жертва кризиса доверия: почему закончилась полуторавековая история Credit Suisse Жертва кризиса доверия: почему закончилась полуторавековая история Credit Suisse

Что привело Credit Suisse к тупику, из которого он оказался не в состоянии выйти

Forbes
В это сложно поверить: как выглядели овощи и фрукты, пока их не коснулась рука селекционера В это сложно поверить: как выглядели овощи и фрукты, пока их не коснулась рука селекционера

Раньше овощи и фрукты выглядели совсем иначе

ТехИнсайдер
Ботинки больше не промокнут! 5 способов сделать водоотталкивающую пропитку для обуви Ботинки больше не промокнут! 5 способов сделать водоотталкивающую пропитку для обуви

Как можно сделать обувь непромокаемой в домашних условиях

ТехИнсайдер
Открыть в приложении