Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Четыре сети со своими правилами ведения бизнеса: чем отличается развитие интернета в Индии, США, Китае и Европе Четыре сети со своими правилами ведения бизнеса: чем отличается развитие интернета в Индии, США, Китае и Европе

Интернет поделился на четыре самостоятельные части

VC.RU
Мы выбираем друг друга не случайно Мы выбираем друг друга не случайно

Выбор партнера предопределен всем предшествующим ходом нашей жизни

Psychologies
Пятиминутный путеводитель по бесполезным подаркам Пятиминутный путеводитель по бесполезным подаркам

Что делают люди с ненужными подарками и рейтинг самых бессмысленных подарков

Esquire
Ford представил совершенно новый внедорожник Ford представил совершенно новый внедорожник

Наконец что-то годное от «Голубого овала»…

Maxim
Для чего нужно предисловие и можно ли его опустить Для чего нужно предисловие и можно ли его опустить

Одна из глав книги «Архитектура сюжета. Как создать запоминающуюся историю»

СНОБ
Секта для бездомных: Netflix выпустил сериал о бесчеловечном отношении к беженцам в Австралии, основанный на реальных событиях Секта для бездомных: Netflix выпустил сериал о бесчеловечном отношении к беженцам в Австралии, основанный на реальных событиях

На Netflix вышел сериал «Без гражданства», основанный на реальных событиях

Forbes
Как настроиться и собраться с силами, если завтра важный день Как настроиться и собраться с силами, если завтра важный день

Как сохранить силы перед важным событием и разобраться со страхами

Psychologies
Как думать, чтобы накопить миллионы Как думать, чтобы накопить миллионы

Что нужно помнить начинающим инвесторам, чтобы накопить капитал

СНОБ
Рыжих лисиц и песцов уличили в поедании человеческих объедков в среднем палеолите Рыжих лисиц и песцов уличили в поедании человеческих объедков в среднем палеолите

42 тысячи лет назад рыжие лисы и песцы кормились остатками человеческой добычи

N+1
Виртуальная нереальность Виртуальная нереальность

Все оттенки VR-индустрии

Популярная механика
Война за воспитание Война за воспитание

Как продолжать любить своих несовершенных отпрысков?

Psychologies
Проверь себя: 5 типичных ошибок пользователей Android Проверь себя: 5 типичных ошибок пользователей Android

Какие опасные ошибки типичны для многих пользователей Андроид?

CHIP
Яркий символ лугов Яркий символ лугов

Характерный мазок дивного лугового полотна — высокий раскидистый донник!

Наука и жизнь
Глубоководные удильщики отказались от приобретенного иммунитета ради партнера Глубоководные удильщики отказались от приобретенного иммунитета ради партнера

У глубоководных удильщиков карликовые самцы прикрепляются к самкам

N+1
Как ухаживать за кроссовками: 10 секретов, которые изменят твою жизнь Как ухаживать за кроссовками: 10 секретов, которые изменят твою жизнь

Как максимально «продлить жизнь» любимой паре сникеров?

Cosmopolitan
Правый руль — 2020. Какие модели сейчас привозят в Россию Правый руль — 2020. Какие модели сейчас привозят в Россию

Какие автомобили с правым рулем сейчас привозят и по какой цене?

РБК
Война и мир и Amazon Война и мир и Amazon

Как русская классика становилась ньюсмейкером за границей

Weekend
Метаанализ подтвердил связь количества самоубийств и лития в питьевой воде Метаанализ подтвердил связь количества самоубийств и лития в питьевой воде

Чем лития в воде меньше, тем реже в населенном пункте совершают суицид

N+1
Медийные лица и русская классика Медийные лица и русская классика

Тележурналистика за годы целевой пропаганды заметно деградировала

СНОБ
Что нужно знать о суперспорткарах Lamborghini Huracán EVO Что нужно знать о суперспорткарах Lamborghini Huracán EVO

Две спортивные модели, которые порадуют владельцев мощным мотором

РБК
Самые культурные дачные поселки Самые культурные дачные поселки

Какой была дачная жизнь подмосковных поселков?

Культура.РФ
«Дорогой, теперь ты мой»: о чем мы на самом деле ссоримся на кухне «Дорогой, теперь ты мой»: о чем мы на самом деле ссоримся на кухне

Из-за чего на самом деле мы ссоримся, споря о немытой посуде?

Psychologies
Российские ученые описали структуру супертвердого борида вольфрама Российские ученые описали структуру супертвердого борида вольфрама

Ученые из Сколтеха синтезировали и описали свойства борида вольфрама

N+1
Почему  в вашей розетке фаза, скорее всего, подключена справа? Почему  в вашей розетке фаза, скорее всего, подключена справа?

Имеет ли значение расположение контактов в розетке?

CHIP
Гороскоп советского кино: какая ты героиня по знаку зодиака? Гороскоп советского кино: какая ты героиня по знаку зодиака?

Хочешь узнать, на какую именно героиню ты похожа? Читай наш гороскоп!

Cosmopolitan
Темная сторона отношений Темная сторона отношений

Теплые, уютные отношения или огонь и страсть?

Домашний Очаг
Беру, не глядя: как  фейсбук-группа «Шар и крест» уронила рынок и спасла художников в карантине Беру, не глядя: как  фейсбук-группа «Шар и крест» уронила рынок и спасла художников в карантине

Почему искусство стоит так дешево, и почему это так хорошо

Forbes
Бронепоезда в ходе гражданской и мировых войн: как это устроено Бронепоезда в ходе гражданской и мировых войн: как это устроено

Жизнь отечественных бронепоездов началась в царской России и закончилась в СССР

Популярная механика
Письмо телу Письмо телу

Как заметить свое тело и начать строить с ним отношения

Seasons of life
Открыть в приложении