ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Создатель большого балета: главные постановки хореографа Юрия Григоровича Создатель большого балета: главные постановки хореографа Юрия Григоровича

Как складывалась карьера хореографа Юрия Григоровича

Forbes
Полис на взлет Полис на взлет

Как восстанавливается рынок туристического страхования

Деньги
«Золотая середина»: какую дистанцию выстроить руководителю между собой и сотрудниками «Золотая середина»: какую дистанцию выстроить руководителю между собой и сотрудниками

Какие ошибки чаще всего совершают менеджеры, и как найти баланс в дистанции

Inc.
В уюте и прохладе В уюте и прохладе

Как защитить квартиру от жарких солнечных лучей

Лиза
Утерянный 5000 лет назад: ученые воскресили древнейший в мире синтетический краситель. Зачем он нужен? Утерянный 5000 лет назад: ученые воскресили древнейший в мире синтетический краситель. Зачем он нужен?

Откуда взялся яркий, насыщенный синий цвет в Древнем Египте

Inc.
60% руководителей и топ-менеджеров тратят на видеоконференции от 1 до 3 часов в день — исследование 60% руководителей и топ-менеджеров тратят на видеоконференции от 1 до 3 часов в день — исследование

Какие функции в онлайн-звонках пользователи считают наиболее полезными

Inc.
Мифы и факты: Александр I Мифы и факты: Александр I

Весной на экраны вышел сериал об императоре. Какие факты вызывают споры?

Вокруг света
Мошенники усложнили схемы Мошенники усложнили схемы

Мошенники придумали новую схему обмана с «выплатами» в евро

Ведомости
Александр Невский и его время Александр Невский и его время

Александр Невский правил в тяжелое для нашего отечества время

Знание – сила
Разделяй и властвуй Разделяй и властвуй

7 необычных идей для зонирования в маленькой квартире

Лиза
Работа с умом: каков потенциал генеративного ИИ для роста производительности в России Работа с умом: каков потенциал генеративного ИИ для роста производительности в России

Ученые проанализировали влияние генеративного ИИ на задачи и профессии

Forbes
Число семьи Число семьи

Как узнать, насколько гармоничны отношениями между твоими близким

Лиза
Строго по графику Строго по графику

Чтобы вырастить всё в лучшем виде, многие садоводы опираются на лунный календарь

КАНТРИ Русская азбука
Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже» Валентин Фадеев: «Узлы в щитовидной железе – чаще всего вариант нормы, как родинки на коже»

Щитовидка, лишний вес и гормоны: разбираемся в тонкостях с эндокринологом

Здоровье
Вес на месте Вес на месте

Стратегии двигательной активности во имя сохранения лучшей формы

Afternoon Seasons of life
Клопы использовали химическую сигнализацию пчел для охоты на них самих Клопы использовали химическую сигнализацию пчел для охоты на них самих

Клопы-хищнецы научились обманывать жертв, заманивая их в ловушку

N+1
Во II тысячелетии до нашей эры британское олово попало на Ближний Восток Во II тысячелетии до нашей эры британское олово попало на Ближний Восток

Во II тысячелетии до н. э олово поступало из Британии на Ближний Восток

N+1
Стресс в наследство Стресс в наследство

Как на ребенка влияет стресс матери во время беременности?

Здоровье
Как побороть тягу к еде: новое мнение ученых Как побороть тягу к еде: новое мнение ученых

Секрет победы над куском торта может заключаться в следующем… съесть этот кусок!

ТехИнсайдер
Вход в провал: какие гаджеты опередили свое время и потерпели неудачу Вход в провал: какие гаджеты опередили свое время и потерпели неудачу

Гаджеты, которые обещали перевернуть нашу жизнь, но в итоге потерпели крах

Forbes
Что такое робот? Что такое робот?

Роботы вокруг нас: объясняем, как они работают и зачем нужны

Наука и техника
Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас Нейросети в поисках персонала: как компании используют искусственный интеллект в рекрутинге уже сейчас

Как рекрутеры используют нейросети — кейсы из России

ТехИнсайдер
Горе от интеллекта: как хайп вокруг ИИ вредит IT-продуктам Горе от интеллекта: как хайп вокруг ИИ вредит IT-продуктам

В каких случаях ИИ навредит продукту, а в каких — поможет

Forbes
Спортивная фигура Спортивная фигура

Прежде чем начать заниматься, нужен контекст. И форма

Afternoon Seasons of life
Женщины-фридайверы из Южной Кореи адаптировались для жизни под водой Женщины-фридайверы из Южной Кореи адаптировались для жизни под водой

Чем отличаются женщины общины хэнё от кореянок, живущими на материке

ТехИнсайдер
Как разглядеть планету в далекой галактике? Как разглядеть планету в далекой галактике?

Сначала — предположения, потом — тысячи подтверждений: как ищут экзопланеты

Наука и техника
«Он заслужил «Золотой мяч»: как Ламин Ямаль начал зарабатывать десятки миллионов «Он заслужил «Золотой мяч»: как Ламин Ямаль начал зарабатывать десятки миллионов

О карьере юной звезды Ламина Ямаля

Forbes
Сага мужества и стойкости Сага мужества и стойкости

Четыре года схваток сплотили союзников сильнее, чем дипломатические трактаты

Монокль
Вернуть по-хорошему Вернуть по-хорошему

Исторические диковинки других стран сейчас стали предметом споров в суде

RR Люкс.Личности.Бизнес.
Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля Путь ради ребенка: как Ада Блэкджек одна выживала в экспедиции на острове Врангеля

57 дней в одиночестве: невероятная история Ады Блэкджек

Forbes
Открыть в приложении