ИИ против безопасности: почему компании теряют данные через ChatGPT

ForbesБизнес

Дружелюбный инсайдер: как ИИ становится новым каналом утечек

Алексей Парфентьев

Фото Getty Images

Искусственный интеллект (ИИ) становится все более популярным каналом утечек данных. Согласно данным исследования Harmonic Security, 8,5% запросов сотрудников компаний к ИИ-сервисам содержат конфиденциальные сведения, а нейросеть при подготовке ответов учитывает не только текущий запрос, но и более ранние, сохраненные в базе данных, в том числе от других пользователей сервиса. Компании встают перед выбором: не использовать этот инструмент и терять конкурентные преимущества или допустить использование ИИ и рисковать конфиденциальными данными? Заместитель генерального директора по инновационной деятельности «СерчИнформ» Алексей Парфентьев напоминает об уже случившихся кейсах использования ИИ конфиденциальных данных и пробует разобраться в этой дилемме.

Персональные помощники

Количество обращений к ИИ-помощникам растет. Их используют для решения рутинных задач. Сотрудники с помощью ChatGPT и прочих генеративных ИИ-инструментов редактируют и создают изображения, пишут тексты, составляют планы, собирают прогнозы и пр. Преимущество ИИ-сервисов в том, что они быстро выдают готовое решение в нужном формате — диплом, пресс-релиз, оптимизированный программный код и т.п.

Чтобы получить максимально точный ответ, сотрудники «сгружают» в сервис корпоративную информацию: аналитику, документы, фрагменты кода, готовые программы, презентации и пр. По данным исследования Harmonic Security, сотрудники чаще всего загружают на обработку данные клиентов, информацию о сотрудниках, юридические и финансовые данные, данные для авторизации и конфиденциальный программный код. Так повышается качество ответа от ИИ, но страдает информационная безопасность компании.

ИИ делится секретами

Компания Samsung, одной из первых встроившая ChatGPT в свои бизнес-процессы, может считаться пионером и по утечкам корпоративных секретов через этот канал.

Одним из первых в 2023 году ноу-хау слил специалист отдела по исследованию полупроводников. Загружая данные в корпоративную базу, он столкнулся с проблемой, связанной с исходным кодом вводимой информации. Менеджер поручил чат-боту исправить капризный код. Так наработки Samsung пополнили базу данных американской Open AI и оказались доступными другим пользователям ChatGPT. Корейская компания проанализировала последствия, ввела ограничения на размер запроса к ChatGPT и попросила сотрудников следить за тем, что они загружают и что спрашивают у ИИ. Но утечки продолжились.

Следующая случилась в отделе разработок. Сотрудник решил проверить через ChatGPT качество кода созданной программы. В итоге код стал доступен не только конкурентам, но и попал в СМИ. Это нанесло удар по репутации и Samsung, и ChatGPT. Но и тогда компания от ИИ-помощника не отказалась. Ему поручили составить протокол корпоративного совещания. И вновь (никогда не было, и вот опять) информация стала частью базы знаний системы ИИ.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дама с уликами: как Агата Кристи стала одним из самых продаваемых авторов в истории Дама с уликами: как Агата Кристи стала одним из самых продаваемых авторов в истории

История Агаты Кристи — одной из самых издаваемых и переводимых писательниц

Forbes
«Эффективность ЭКО можно увеличить вдвое, если мужчина не останется в стороне» «Эффективность ЭКО можно увеличить вдвое, если мужчина не останется в стороне»

Как можно снизить количество попыток ЭКО при имеющихся ресурсах

Ведомости
Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу Слушаем и не осуждаем: чем полезны сплетни на работе и когда они вредят коллективу

Как сплетни и слухи могут влиять на рабочий процесс и настроения в офисе

Forbes
Нейробиологи показали, как мозг хранит и редактирует наши воспоминания Нейробиологи показали, как мозг хранит и редактирует наши воспоминания

Механизмы, которые хранят и обновляют воспоминания в мозге

ТехИнсайдер
Бухенвальдская ведьма: история Ильзы Кох, одного из крупнейших монстров Холокоста Бухенвальдская ведьма: история Ильзы Кох, одного из крупнейших монстров Холокоста

Ильза Кох — одна из самых жестких представительниц гитлеровского режима

ТехИнсайдер
Александр Невский и его время Александр Невский и его время

Александр Невский правил в тяжелое для нашего отечества время

Знание – сила
Больше не колется: 5 способов сделать льняную одежду мягче Больше не колется: 5 способов сделать льняную одежду мягче

Как сделать льняные вещи мягче и избавиться от неприятных ощущений

ТехИнсайдер
«Речь про свободолюбие, озорство какое-то»: художник Саша Браулов — о работе над обложкой «Правил жизни», вышивке как методе и здоровом хулиганстве «Речь про свободолюбие, озорство какое-то»: художник Саша Браулов — о работе над обложкой «Правил жизни», вышивке как методе и здоровом хулиганстве

Художник Саша Браулов о вышивке как методе и силе доброты

Правила жизни
Астрономы отыскали удивительно развитую перемычку у спиральной галактики в ранней Вселенной Астрономы отыскали удивительно развитую перемычку у спиральной галактики в ранней Вселенной

Астрономы обнаружили у галактики J0107a необычно развитую центральную перемычку

N+1
Юрий Яковлев: «Уверен, что артисты — это больные люди!» Юрий Яковлев: «Уверен, что артисты — это больные люди!»

Вот иду по улице, а на меня смотрят, как на сумасшедшего

Коллекция. Караван историй
Видел, пробовал Видел, пробовал

Фудблогер Макс Брандт — о гастропримечательностях в городах России

Новый очаг
Волшебный шкаф Волшебный шкаф

Секреты обустройства вместительной гардеробной

Лиза
Кино привезли Кино привезли

Сколько стоили импортные фильмы России

Деньги
Геохимики СПбГУ первыми в России датировали подводный минерал из крупнейшего бассейна восточной Арктики Геохимики СПбГУ первыми в России датировали подводный минерал из крупнейшего бассейна восточной Арктики

Геологи СПбГУ смогли первыми определить возраст подводного арктического минерала

Знание – сила
Почему мы сердимся на стареющих родителей и что с этим делать Почему мы сердимся на стареющих родителей и что с этим делать

Наши родители стареют, а мы заступаем на их место — так уж устроено

Afternoon Seasons of life
Подкованный Подкованный

Тульский кроссовер-умелец Haval H7, ориентированный на комфорт и безопасность

Автопилот
ИИскусство: кому принадлежат авторские права на творчество нейросетей ИИскусство: кому принадлежат авторские права на творчество нейросетей

О деликатной природе авторского права в мире победившего ИИ

Forbes
Правила цветочного короля Правила цветочного короля

Цветочный король Борис Горкунов — о правилах ведения бизнеса

Монокль
Губительный пожар, которого не было Губительный пожар, которого не было

ЧП на АПЛ К-152: диверсия врага или трагедия из-за человеческого фактора?

Наука и техника
Разделяй и властвуй Разделяй и властвуй

7 необычных идей для зонирования в маленькой квартире

Лиза
Насколько вы терпеливый человек? Психологический тест для самопознания Насколько вы терпеливый человек? Психологический тест для самопознания

Выберите свечу и узнайте, насколько вы терпеливы

ТехИнсайдер
«Алхимики» на БАК все-таки превратили свинец в золото, но получилось очень мало «Алхимики» на БАК все-таки превратили свинец в золото, но получилось очень мало

Мечта средневековых алхимиков сбылась: ученые трансмутировали свинец в золото

ТехИнсайдер
Метеоризм Метеоризм

Почему метеоризм возникает даже у здоровых людей?

Здоровье
Топ-5 орехов против старения Топ-5 орехов против старения

Могут ли орехи улучшить ваше самочувствие и продлить молодость?

ТехИнсайдер
Индустрия со вкусом Индустрия со вкусом

Какой сейчас является пищевая промышленность Москвы

Ведомости
Откуда берутся деньги Откуда берутся деньги

Как доллар превратился в глобальное оружие

Деньги
Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет

Как появились наши чувствительные зубы изначально из «бронежилета» вымерших рыб

ТехИнсайдер
Ловушка цифрового романтизма: как онлайн-дейтинг эксплуатирует наши уязвимые стороны Ловушка цифрового романтизма: как онлайн-дейтинг эксплуатирует наши уязвимые стороны

Как алгоритмы онлайн-знакомств мешают формированию устойчивой привязанности?

Forbes
Перепрошивка памяти: новая модель памяти, которая работает как мозг Перепрошивка памяти: новая модель памяти, которая работает как мозг

Ученые создали модель памяти, устойчивую к шуму и забыванию

ТехИнсайдер
Зеленый дракон Зеленый дракон

Как Китаю удалось пройти путь от «угольной коптилки» до лидера энергоперехода

ТехИнсайдер
Открыть в приложении