Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера» Книга на выходные: как ChatGPT стал самым эффективным копирайтером «Зерокодера»

Отрывок из книги «Искусственный интеллект: путь к новому миру»

Inc.
Что следует знать начинающему инвестору Что следует знать начинающему инвестору

Что надо знать, когда планируете начать инвестировать?

Наука и техника
Отложенный дефицит: чем чреват отказ нанимать джунов Отложенный дефицит: чем чреват отказ нанимать джунов

Почему отказ нанимать джунов — перспектива новой волны нехватки кадров

Forbes
«Профессия научила отстаивать свое мнение»: как женщины работают сварщицами «Профессия научила отстаивать свое мнение»: как женщины работают сварщицами

Как сварщицы борются со стереотипами и за что любят свою работу

Forbes
Как правильно ехать по серпантину: ПДД для водителей Как правильно ехать по серпантину: ПДД для водителей

Как безопасно передвигаться по серпантину?

РБК
Банк России намерен регулировать покупку квартир в рассрочку Банк России намерен регулировать покупку квартир в рассрочку

Рассрочка для квартир – полезный инструмент продаж, хотя и несет в себе риски

Ведомости
Как Ленин дэвов побеждал Как Ленин дэвов побеждал

Какие отпечатки оставили на народах России события на рубеже XIX и XX веков

Дилетант
Скелетные мышцы самолета – система управления Скелетные мышцы самолета – система управления

Зачем самолетам демпферы, гидроусилители, закрылки и предкрылки?

Наука и техника
Почему важно вовремя менять модель управления Почему важно вовремя менять модель управления

Как уметь в нужный момент менять управленческую модель

Forbes
Культурная повестка: «Исток» Культурная повестка: «Исток»

Софья Эрнст — о своем отношении к русской культуре и традициям

Moodboard
Как отличить борщевик от дудника и других зонтичных растений Как отличить борщевик от дудника и других зонтичных растений

Как не спутать борщевик его с безобидными товарищами

Maxim
На Марсе будут расти дома: ученые придумали способ, который решит проблему колонизации На Марсе будут расти дома: ученые придумали способ, который решит проблему колонизации

Как строить из того, что предлагает сам Марс?

Inc.
Посвящено Беатриче Посвящено Беатриче

Данте обнаружил, осознал, как мало он знает

Наука и жизнь
Партнер по религиозным соображениям Партнер по религиозным соображениям

Как Россия создает базу для привлечения исламского капитала

Эксперт
«Мы уже не живем в своей колыбели» «Мы уже не живем в своей колыбели»

Чем дышит и живет Институт космических исследований РАН?

Знание – сила
Вместо фастфуда Вместо фастфуда

ЗОЖ-аналоги бургеров, шаурмы и не только

Лиза
Ткать узор дальше Ткать узор дальше

Почему последствия ссоры с Россией окажутся болезненными для Азербайджана?

Монокль
Зазеркалье времени: лучшие экранизации «Алисы в Стране чудес» — от немого кино до голливудского фэнтези Зазеркалье времени: лучшие экранизации «Алисы в Стране чудес» — от немого кино до голливудского фэнтези

Самые значимые экранизации «Алисы»: как каждая из них отражает свое время

Правила жизни
Ольга Варцева: «Далеко не каждая книга выдерживает перечитывание» Ольга Варцева: «Далеко не каждая книга выдерживает перечитывание»

«Прежде чем идти к психологу, почитайте чью-нибудь автобиографию»

Ведомости
Александр Лабас: не авангардист, не соцреалист Александр Лабас: не авангардист, не соцреалист

Голос А. Лабаса — сложный, полифоничный, подчас ускользающий от прямых смыслов

Монокль
Весна императора Весна императора

Цезарь — политик-хищник, с чьим именем неотрывно связана Римская империя

Знание – сила
Банки на передовой Банки на передовой

Как работала финансовая система СССР во время войны

Эксперт
Таблетки на ветер? Таблетки на ветер?

Как правильно выбрасывать лекарства из аптечки?

Лиза
Как откручивать шкив коленвала и в какую сторону Как откручивать шкив коленвала и в какую сторону

Все о снятии шкива коленвала: инструменты, последовательность, как крепится

РБК
Автономный шестилапый робот «MICROBRO» Автономный шестилапый робот «MICROBRO»

Как создать ровер, который сам везет ваш багаж туда, куда вам нужно?

Наука и техника
Как накормить искусственный интеллект Как накормить искусственный интеллект

Как обеспечить непрерывную работу ИИ и центров обработки данных?

Ведомости
Быстрый платеж Быстрый платеж

Оплата покупок по QR-коду: в чем выгода и в чем подвох

Лиза
Узорочье древних славянок Узорочье древних славянок

Древняя мода: как выглядела одежда на Руси до XIII века

Знание – сила
Главное – остаться незамеченным Главное – остаться незамеченным

В чем состоит военная (а возможно, и не только) хитрость стелс-технологии?

Наука и техника
Установка для очистки отработанных масел УОМ-3М(100) Установка для очистки отработанных масел УОМ-3М(100)

Как установка УОМ-3М(100) очищает отработанное моторное масло

Наука и техника
Открыть в приложении