ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Собрать всех друзей: хип-хоп-исполнитель Кассета о новом альбоме «Ателье» Собрать всех друзей: хип-хоп-исполнитель Кассета о новом альбоме «Ателье»

Музыкант Кассета — о специфике работы с другими испольнителями

Forbes
7 фруктов, которые нельзя хранить в холодильнике: мнение шеф-повара 7 фруктов, которые нельзя хранить в холодильнике: мнение шеф-повара

Каким фруктам не место в холодильнике

VOICE
«Эти два года станут для автотуризма переломными». Как заработать в одном из самых перспективных направлений для бизнеса «Эти два года станут для автотуризма переломными». Как заработать в одном из самых перспективных направлений для бизнеса

Как развиваться в сфере автотуризма и как здесь может встроиться МСП

Inc.
Красиво «замедлиться» Красиво «замедлиться»

Аскетичный и медитативный интерьер для отдыха с архитектурными решениями

SALON-Interior
Нейробиолог назвал привычку, объединяющую гениев. А у вас она есть? Нейробиолог назвал привычку, объединяющую гениев. А у вас она есть?

Настоящий прорыв мысли начинается в тишине и одиночестве

Maxim
Душа Тосканы Душа Тосканы

Модернистская вилла на склонах холмов, которыми славится тосканский пейзаж

SALON-Interior
Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже» Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже»

Щитовидка, лишний вес и гормоны: разбираемся в тонкостях с эндокринологом

Здоровье
Иван Варжавин: «Наша система, как самолет, может лететь даже на одном двигателе» Иван Варжавин: «Наша система, как самолет, может лететь даже на одном двигателе»

Как Газпромбанк модернизировал расчетный центр — ядро внешних платежных операций

РБК
Исследование: духи разрушают защитное поле организма. К чему это может привести? Исследование: духи разрушают защитное поле организма. К чему это может привести?

Использование духов и лосьонов способно нарушить микробиом кожи человека

Inc.
Атомное размещение Атомное размещение

Зачем «Росатом» решил размещать облигаций за рубежом?

Ведомости
Хтонь и ужас в красотах Абхазии: каким получился «Фишер. Затмение» Хтонь и ужас в красотах Абхазии: каким получился «Фишер. Затмение»

Первые две серии нового сезона «Фишер. Затмение»: чего ждать и к чему готовиться

Правила жизни
«Мы не воюем, мы работаем» «Мы не воюем, мы работаем»

О службе в Афганистане и Чечне, а также о специфике работы советских погранвойск

Монокль
«Следующие 500 лет: Как подготовить человека к жизни на других планетах» «Следующие 500 лет: Как подготовить человека к жизни на других планетах»

Зачем превращать одни клетки в другие

N+1
«Подписали — и попали». 3 главные автомобильные аферы последних лет «Подписали — и попали». 3 главные автомобильные аферы последних лет

Когда на кону миллионы и авто, фантазия у аферистов работает без ограничений

РБК
Инженеры довольны своими доходами, а дизайнеры — нет. Почему, и что это значит для бизнеса Инженеры довольны своими доходами, а дизайнеры — нет. Почему, и что это значит для бизнеса

Удовлетворенность зарплатами — надежный барометр

Inc.
Путь от телеведущей детских программ до бизнес-тренера и почти губернатора: Нина Зверева Путь от телеведущей детских программ до бизнес-тренера и почти губернатора: Нина Зверева

Нина Зверева — о ключевых жизненных принципах и основах воспитания детей

Inc.
Что делать и куда жаловаться, если вас сбил электросамокат Что делать и куда жаловаться, если вас сбил электросамокат

Как действовать в случае ДТП с электросамокатом

РБК
Экспансия из рая Экспансия из рая

Кто первым и зачем покинул океан

Вокруг света
Палеонтологи восстановили перья археоптерикса, и объяснили как он летал Палеонтологи восстановили перья археоптерикса, и объяснили как он летал

Как ученые по оставшимся костям могут реконструировать облик археоптерикса?

ТехИнсайдер
Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Слава: «Я всегда мечтаю о том, что может сбыться» Слава: «Я всегда мечтаю о том, что может сбыться»

25 лет на сцене — певица Слава по праву может гордиться этим достижением

Добрые советы
Баталовы Баталовы

Алексей Баталов мог достичь успеха где угодно, но остался верен кино

Караван историй
Время на даче: 4 сценария Время на даче: 4 сценария

Несколько работающих идей, как провести уикенд за городом нескучно

КАНТРИ Русская азбука
«Зона комфорта — это плохо»: большое интервью со Словетским «Зона комфорта — это плохо»: большое интервью со Словетским

Валентин Словетский — классик русского рэпа. Поговорили с ним о новом альбоме

Правила жизни
Кино по правилам и без Кино по правилам и без

Фильмы, создатели которых не побоялись нарушить заданные стандарты

Правила жизни
Излучение квазара подавило звездообразование в галактике из ранней Вселенной Излучение квазара подавило звездообразование в галактике из ранней Вселенной

Молекулярный газ ранней Вселенной разрушается под действием излучения квазара

N+1
«Эффективность ЭКО можно увеличить вдвое, если мужчина не останется в стороне» «Эффективность ЭКО можно увеличить вдвое, если мужчина не останется в стороне»

Как можно снизить количество попыток ЭКО при имеющихся ресурсах

Ведомости
Дачники Дачники

Почему дачная привязанность прочно вошла в культурный код русского человека?

Добрые советы
Что действительно влияет на уровень холестерина? Что действительно влияет на уровень холестерина?

Как снизить уровень холестерина в крови, пока не стало слишком поздно?

ТехИнсайдер
Коты любят молоко, но им его нельзя. Почему? Коты любят молоко, но им его нельзя. Почему?

Почему кошкам вообще не следует пить молоко?

ТехИнсайдер
Открыть в приложении