ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Броненосец «Потемкин» и «Страна глухих»: как женщины меняют сюжеты в кинематографе «Броненосец «Потемкин» и «Страна глухих»: как женщины меняют сюжеты в кинематографе

Сценаристки, без которых невозможно представить советское и российского кино

Forbes
Больше не колется: 5 способов сделать льняную одежду мягче Больше не колется: 5 способов сделать льняную одежду мягче

Как сделать льняные вещи мягче и избавиться от неприятных ощущений

ТехИнсайдер
Виноват не хакер: 4 мифа о кибербезопасности, которые ставят бизнес под удар Виноват не хакер: 4 мифа о кибербезопасности, которые ставят бизнес под удар

Проблема кибербезопасности может крыться не в хакерах, а в сотрудниках

Inc.
Владимир Жириновский Владимир Жириновский

Правила жизни политика Владимира Жириновского

Правила жизни
Все мы не молодеем: 5 тестов для оценки скорости старения Все мы не молодеем: 5 тестов для оценки скорости старения

Простые тесты, которые помогут понять, насколько вы справляетесь со старением

ТехИнсайдер
Парадокс усилия: почему наш мозг сопротивляется сложным и долгосрочным задачам Парадокс усилия: почему наш мозг сопротивляется сложным и долгосрочным задачам

Почему мы так часто недооцениваем предстоящую работу?

Forbes
Плюсы и минусы Плюсы и минусы

Рассмотрим шансы электромобилей завоевать дороги всего мира

РБК
План побега План побега

Началось все с урожая в два килограмма. И со знакомых

Afternoon Seasons of life
Как избежать срывов во время диеты Как избежать срывов во время диеты

Ты с энтузиазмом начала диету, но сорвалась! Как не повторять подобное дальше?

Лиза
Янская стоянка. Палеолитический человек за полярным кругом Янская стоянка. Палеолитический человек за полярным кругом

Янская стоянка — самые северные следы Homo sapiens в Арктике

Наука и техника
Острая тема: какие виды инъекций существуют в современной косметологии и что нужно знать об уколах красоты Острая тема: какие виды инъекций существуют в современной косметологии и что нужно знать об уколах красоты

Как сориентироваться в многообразии уколов красоты?

Правила жизни
Нет 100% гарантии. Дешевле и безопаснее купить авто у дилера или перекупа Нет 100% гарантии. Дешевле и безопаснее купить авто у дилера или перекупа

У кого выгоднее приобрести подержанную машину: у дилера или частного продавца?

РБК
Исторические сведения о сказочных берендеях Исторические сведения о сказочных берендеях

Легендами о лесном царстве берендеев вдохновлялись и Жуковский, и Островский

Знание – сила
Индустрия со вкусом Индустрия со вкусом

Какой сейчас является пищевая промышленность Москвы

Ведомости
Батя может Батя может

«Этернавт»: аргентинский сериал про снежный апокалипсис в Буэнос-Айресе

Weekend
Курс на переработку Курс на переработку

Чем обусловлен интерес зарубежных стран к российской рыбной продукции?

Ведомости
Трудный возраст Трудный возраст

История клуба «Зенит» соткана не только из побед, и это делает его сильнее

Ведомости
Прокатят по деньгам Прокатят по деньгам

Как развивается и от чего зависит цена на сталь в России

Ведомости
Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку Ты же девочка! Как стереотипы о женственности влияют на нашу самооценку

Как проявляется мизогиния в нашей жизни и как правильно с ней бороться?

Лиза
Энергия вместо долга Энергия вместо долга

Как получилось, что США оказалась на грани дефолта?

Ведомости
Турецкий словарь Турецкий словарь

Гид по турецкому этикету — словарь для диалога с деловыми партнёрами

RR Люкс.Личности.Бизнес.
Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже» Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже»

Щитовидка, лишний вес и гормоны: разбираемся в тонкостях с эндокринологом

Здоровье
Новое чувство космоса Новое чувство космоса

Теперь телескопы могут отслеживать колебания пространства-времени

ТехИнсайдер
Когда в автомобиле пригодится плед: 10 неочевидных ситуаций Когда в автомобиле пригодится плед: 10 неочевидных ситуаций

Советы по использованию пледа в автопоездке

ТехИнсайдер
«Почему мы помним. Как раскрыть способность памяти удерживать важное» «Почему мы помним. Как раскрыть способность памяти удерживать важное»

Как гиппокамп участвует в работе памяти

N+1
Астрономы подтвердили существование экзогиганта на ретроградной орбите в тесной двойной системе Астрономы подтвердили существование экзогиганта на ретроградной орбите в тесной двойной системе

Астрономы нашли экзогиганта на необычно широкой и ретроградной орбите

N+1
Ученые выяснили, какие продукты могут помочь лучше выглядеть с возрастом Ученые выяснили, какие продукты могут помочь лучше выглядеть с возрастом

Всего одно яблоко в день может замедлить старение нашего организма

ТехИнсайдер
Душа Тосканы Душа Тосканы

Модернистская вилла на склонах холмов, которыми славится тосканский пейзаж

SALON-Interior
Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо» Ирина Старшенбаум: «Не хочется в очередной раз говорить о том, как все плохо»

Ирина Старшенбаум — о трудностях перевоплощения в инфантильного персонажа

Ведомости
Шимпанзе способны оказывать медицинскую помощь друг другу Шимпанзе способны оказывать медицинскую помощь друг другу

Приматы не только залечивают собственные раны, но и помогают сородичам

ТехИнсайдер
Открыть в приложении