Как обеспечить приватность при использовании нейронных сетей?

ForbesHi-Tech

В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Иван Чижов

Фото Getty Images

Отсутствие приватности данных при использовании нейронных сетей — одна из ключевых проблематик на 2024 год, в первую очередь для финансового сектора, государственных информационных систем и медицинских организаций. Поэтому в ближайшее время будут активно развиваться методы обезличивания персональных данных для нейронных сетей как механизмы обеспечения приватности пользователей. Заместитель руководителя лаборатории криптографии по научной работе в компании «Криптонит» Иван Чижов рассуждает о важных задачах, которые стоят перед компаниями — разработчиками информационных систем, обрабатывающих персональные данные.

Задача 1: Обучение нейросетей на обезличенном массиве данных

Большинство информационных систем, которыми мы пользуемся, собирают статистику. Например, если это интернет-магазин, платформа собирает информацию, что и когда мы покупаем, сколько денег мы в среднем тратим и так далее. Потом нейронная сеть обучается на этих данных, и создается модель. Но проблема в том, что это — данные реальных пользователей, наши с вами. Зачастую такой набор информации позволяет идентифицировать конкретного человека. Поэтому одна из первых задач — обеспечить обучение нейросетей на зашифрованных данных.

Задача 2: Обеспечение анонимизации данных, поступающих в нейросеть

Представьте, что вы хотите обработать фотографию с помощью нейросети. Вы открываете приложение, загружаете свое фото и просите сервис выполнить задачу. Здесь возникает еще одна проблема: посылая запрос в систему, мы используем свои личные данные — фотографию. Но это безобидный пример. Теперь представьте, что это сервис для получения информации о состоянии вашего здоровья. Чтобы получить диагноз, вы посылаете свои анализы, снимки — некую чувствительную медицинскую информацию, которой вы бы не хотели делиться. Но как этими данными распорядится сервис? Не произойдет

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Малиновый фреш и стеклянные дожди: самые необычные факты о космосе или что еще скрывает от нас необъятная Вселенная Малиновый фреш и стеклянные дожди: самые необычные факты о космосе или что еще скрывает от нас необъятная Вселенная

Невероятных факты о космосе, которые заставят задуматься об удивительном мире

ТехИнсайдер
Французская дипломатия и итальянская еда: как разные страны используют «мягкую силу» Французская дипломатия и итальянская еда: как разные страны используют «мягкую силу»

Страны, которые лучше всего использовали свои «мягкие» преимущества

Forbes
5 стрижек, которые нужно избегать после 50 лет: они привлекают внимание к редеющим волосам и залысинам 5 стрижек, которые нужно избегать после 50 лет: они привлекают внимание к редеющим волосам и залысинам

Эксперты составили список стрижек, которые не подходят зрелым дамам

VOICE
Слышали о проблемах нейродивергентов? Эксперт рассказал о страхе быть отвергнутым! Слышали о проблемах нейродивергентов? Эксперт рассказал о страхе быть отвергнутым!

Почему нейродивергентные личности подвергаются неоправданному уровню критики

ТехИнсайдер
10 грампластинок, которые были в каждом советском доме 10 грампластинок, которые были в каждом советском доме

Музыка, которая звучала в каждом доме СССР

Maxim
Две стороны «Честного знака» Две стороны «Честного знака»

Производители и инициаторы «Честного знака» не сходятся в оценке работы системы

Агроинвестор
Акулы гибнут с угрожающей скоростью из-за своих плавников Акулы гибнут с угрожающей скоростью из-за своих плавников

Промысел акульих плавников способен привести к вымиранию этих рыб

ТехИнсайдер
6 самых цепляющих мультфильмов на фольклорной основе 6 самых цепляющих мультфильмов на фольклорной основе

Главные мультфильмы современности, вдохновленные фольклором и сказками

Maxim
«Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия «Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия

Глава из книги «Я все! Почему мы выгораем на работе и как это изменить»

Forbes
Совсем большой Совсем большой

Петербург наконец принял Николая Цискаридзе как родного

Собака.ru
3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь 3 самые странные и необычные профессии на железной дороге: спорим, вы засмеетесь

Нужно ли учиться, чтобы стать заталкивателем пассажиров?

ТехИнсайдер
Что такое вязкость моторного масла и как она расшифровывается Что такое вязкость моторного масла и как она расшифровывается

Все о вязкости масла: что это такое, как измеряется, как выбрать

РБК
Новые рубежи российского агроэкспорта Новые рубежи российского агроэкспорта

Стоимостной объем отгруженного за рубеж продовольствия превысит $45 млрд

Агроинвестор
Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос

Зачем придумали малозольные масла, в чем их минусы и плюсы?

ТехИнсайдер
Жизнь без любимого: правда ли, что романтическая любовь умерла, а моногамия больше не в моде? Разбираемся с экспертами Жизнь без любимого: правда ли, что романтическая любовь умерла, а моногамия больше не в моде? Разбираемся с экспертами

Действительно ли любовь умерла и если да, то что пришло ей на смену

Правила жизни
Что на самом деле скрывается за понятием Что на самом деле скрывается за понятием

Что значит "любить себя"?

VOICE
Соевый воск или парафин: какие свечи считаются более безопасными для здоровья Соевый воск или парафин: какие свечи считаются более безопасными для здоровья

Каждая ли ароматическая свеча будет безопасна для здоровья?

ТехИнсайдер
Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае

Как правильно инвестировать в недвижимость в Дубае

СНОБ
Быстрый обмен веществ: как ускорить метаболизм и похудеть, ничего не делая: эти способы работают в любом возрасте Быстрый обмен веществ: как ускорить метаболизм и похудеть, ничего не делая: эти способы работают в любом возрасте

Правильное питание и ускорение обмена веществ идут рука об руку

VOICE
Бог из машины Бог из машины

Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг света
Красные, белые, игристые… северные Красные, белые, игристые… северные

Вина северных стран во многом ничуть не уступают своим конкурентам

Зеркало Мира
ТОП-5 самых высоких деревьев планеты ТОП-5 самых высоких деревьев планеты

Как деревья могут быть выше Ниагарского водопада и Статуи Свободы?

ТехИнсайдер
«Темная психология»: как нами манипулируют, используя «умные» термины «Темная психология»: как нами манипулируют, используя «умные» термины

Каким образом психологические термины превращаются в способ насилия над другими

Psychologies
Как лечат в центрах наркологической помощи: 5 основных этапов Как лечат в центрах наркологической помощи: 5 основных этапов

Психиатр-нарколог о том, какие именно методы борьбы с зависимостью существуют

Psychologies
Вы поразитесь! Как в Китае снесли город-крепость Коулун: фото и история Вы поразитесь! Как в Китае снесли город-крепость Коулун: фото и история

«Город тьмы», окруженный стеной, был практически неуправляемым

ТехИнсайдер
Что будет, если надолго отказаться от душа: 7 отвратительных последствий Что будет, если надолго отказаться от душа: 7 отвратительных последствий

Как изменится ваш организм, если долго не принимать душ?

ТехИнсайдер
9 правил здоровых отношений 9 правил здоровых отношений

В чем секрет долгих и крепких отношений?

Psychologies
Почему про супружескую измену говорят “Наставить рога”? Почему про супружескую измену говорят “Наставить рога”?

Как связаны супружеская верность и рога?

ТехИнсайдер
Как «серийные убийцы» кошек во Франции становятся символами социальных проблем Как «серийные убийцы» кошек во Франции становятся символами социальных проблем

Великое кошачье побоище — часть французской культуры

Forbes
Попала в ДТП Попала в ДТП

Что делать, если в ДТП виновата ты

Лиза
Открыть в приложении