Чем опасны ИИ-модели для бизнеса и почему традиционная ИБ не справляется

Inc.Бизнес

Как увидеть угрозы безопасности при работе с ИИ? Ловите чек-лист

Мировая ИИ-гонка, кажется, охватила все уровни — от государств до малых предпринимателей. Но мало кто задумывается о рисках, связанных с развитием и внедрением новейших технологий, в том числе, в сфере информационной безопасности. А они весьма существенные.

Текст: Александр Пинаев, генеральный директор Swordfish Security

1360-x-900_ii-opasnost.jpg
Фото: Unsplash

Новые угрозы: чем опасны ИИ-модели для бизнеса

Например, существует угроза нарушений конфиденциальности: данные, отправленные во внешнюю большую языковую модель (LLM), могут быть раскрыты или скомпрометированы. Компании не без оснований беспокоятся о таких рисках, как потеря данных, кража моделей. Без надежных механизмов контроля доступа пользователи могут с помощью генеративных ИИ (GenAI) получить доступ к конфиденциальной информации.

Если модели используются для взаимодействия с клиентами, данные может получить конкурент. А ведь есть еще и регуляторные риски, которые будут только расти, потому что технологии развиваются быстрее, чем законодательство. Пользовательские запросы могут вызывать непоследовательные или предвзятые ответы, что несет риски нарушения нормативных требований или этических стандартов. Иными словами, плохо защищенная модель может выдавать в ответах, в том числе, запрещенную информацию, распространение которой ведет к ответственности — вплоть до уголовной.

Агентные приложения, обладающие автономностью и доступом к различным системам, сталкиваются с рядом серьезных угроз безопасности, включая несанкционированный доступ и расширенную поверхность атаки из-за интеграции с несколькими внешними системами. То есть, если они имеют доступ к вашим контактам или календарю, контакты и календарь тоже окажутся под угрозой.

Но и это не самое страшное, ведь если злоумышленник получит контроль над автономным агентом, последствия могут быть критическими, особенно в системах жизнеобеспечения, финансах или инфраструктуре. Поэтому необходимо внедрять жесткие механизмы управления доступом и сквозное шифрование для защиты от подобных угроз.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит? Смертельно опасный тренд TikTok: почему мужчины бреют ресницы и чем это грозит?

Для чего человеку нужны ресницы и что будет, если их сбрить?

Inc.
Ученые определили, какой тип людей быстрее находит себе пару Ученые определили, какой тип людей быстрее находит себе пару

Как определенные мотивы человека влияют на вероятность вступить в отношения

ТехИнсайдер
Что такое поликарьера и чем она отличается от подработки Что такое поликарьера и чем она отличается от подработки

Горизонтальный рост: что такое поликарьера и кому она подходит

Ведомости
Неандертальцы изготовили артефакты из добытого в сотнях километров от стоянок обсидиана Неандертальцы изготовили артефакты из добытого в сотнях километров от стоянок обсидиана

Какой обсидиан использовали неандертальцы для изготовления каменных орудий

N+1
Вся правда о холестерине Вся правда о холестерине

Что на самом деле вызывает заболевания сердца и сосудов

kiozk originals
«Геттоссори-мамы»: как шутка из социальных сетей изменила образ хорошей матери «Геттоссори-мамы»: как шутка из социальных сетей изменила образ хорошей матери

Как женщины заново определяют, что значит быть «достаточно хорошей мамой»

Forbes
Просто красота Просто красота

Дизайнер Кристиан Гранде — о творческом пути в яхтенном дизайне

Y Magazine
«Британский Шиндлер»: история Николаса Уинтона, спасшего 669 детей от нацистов «Британский Шиндлер»: история Николаса Уинтона, спасшего 669 детей от нацистов

Николаса Уинстона, британского филантропа, не просто так называют «Шиндлером»

ТехИнсайдер
Катапульта, побег в СССР и месть юнги: великая и странная история парохода Bremen Катапульта, побег в СССР и месть юнги: великая и странная история парохода Bremen

От металлургии до гидродинамики: история парохода Bremen

ТехИнсайдер
Иллюзия сознания и реальность игры Иллюзия сознания и реальность игры

Книги: очередная биография Эйнштейна и исследование эмоций

N+1
Главными последствиями засух последних лет назвали голод и кризис гидроэнергетики Главными последствиями засух последних лет назвали голод и кризис гидроэнергетики

Какие ужасные вещи назвали главными последствиями засух

N+1
Культурная программа Культурная программа

Нужна ли ребенку культурная программа и в каком объеме

Новый очаг
Газ, вода и стальные трубы Газ, вода и стальные трубы

Как российский рынок выпуска ТБД исчерпал текущий потенциал

Монокль
От Трампа до Дидди: как именитые судебные художницы работали на громких процессах От Трампа до Дидди: как именитые судебные художницы работали на громких процессах

Судебные художницы: истоки профессии и самые известные процессы

Forbes
На римском памятнике впервые нашли артефакт из ископаемого трилобита На римском памятнике впервые нашли артефакт из ископаемого трилобита

Как архаичные люди могли использовать окаменелости трилобитов?

N+1
У Татьяны Замировской вышла книга «Свечи апокалипсиса». MAXIM публикует эксклюзивный отрывок У Татьяны Замировской вышла книга «Свечи апокалипсиса». MAXIM публикует эксклюзивный отрывок

Книга про самый дорогогой свечной бутик в Нью-Йорке основана на реальном опыте

Maxim
Популярные средства похудения ведут к большой потери мышечной массы Популярные средства похудения ведут к большой потери мышечной массы

Как препараты для похудения, Ozempic или Wegovy, влияют на организм?

ТехИнсайдер
Длительное ожирение вызвало экспрессию биомаркеров старения в молодом возрасте Длительное ожирение вызвало экспрессию биомаркеров старения в молодом возрасте

Как ожирение снижает ожидаемую продолжительность жизни

N+1
Рабби Давид из люфтваффе Рабби Давид из люфтваффе

В 2019 году Бундестаг одобрил введение в Германии военного раввината

Дилетант
Феномен текста: человек vs ИИ Феномен текста: человек vs ИИ

Способен ли искусственный интеллект писать тексты или даже мыслить как человек?

Монокль
Крупным франшизам запрещают быть эксклюзивными Крупным франшизам запрещают быть эксклюзивными

Суд признал права франчайзи продавать не только товары франчайзера

Forbes
Город, которому нужно 20 лет Город, которому нужно 20 лет

У Саратова есть потенциал, но ему не хватает времени

Weekend
Объект, обнаруженный на краю Солнечной системы, бросает тень на существование Девятой планеты Объект, обнаруженный на краю Солнечной системы, бросает тень на существование Девятой планеты

Чем уникален седноид на краю Солнечной системы, получивший прозвище «Аммонит»

Inc.
Как женщины меняют правила игры в e-commerce: от «девочек из маркетинга» до CEO Как женщины меняют правила игры в e-commerce: от «девочек из маркетинга» до CEO

Мне не было и тридцати, меня считали «девочкой из маркетинга»...

Inc.
«История богатства на Западе. Как боги среди людей» «История богатства на Западе. Как боги среди людей»

Как технические инновации приводили к богатству и высокому статусу

N+1
Взрывные цены Взрывные цены

Спрос на это удобрение растет на фоне роста потребления в Бразилии

Ведомости
Трансмонный кубит достиг миллисекундной когерентности Трансмонный кубит достиг миллисекундной когерентности

Физики изготовили трансмонные кубиты из напыленной пленки ниобия

N+1
Золотой век английской карикатуры Золотой век английской карикатуры

«Отечество карикатуры и пародии» — об Англии Георгианской эпохи

Дилетант
Маленькие шаги к переменам Маленькие шаги к переменам

Интервью с создателем инклюзивных раскрасок и игрушек Натальей Пониной

Лиза
Доска объявлений: много ли теннисисты зарабатывают на спонсорских нашивках Доска объявлений: много ли теннисисты зарабатывают на спонсорских нашивках

Почему теннисисты не могут выглядеть, как облепленные логотипами гонщики

Forbes
Открыть в приложении