Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Это не ваше дело! Вопрос, который нельзя задавать женщинам Это не ваше дело! Вопрос, который нельзя задавать женщинам

Чего ты ждешь? Часики-то тикают!

Cosmopolitan
Думать ногами Думать ногами

Писатель Нина Дашевская рассказывает, как запустить движение в своей голове

Seasons of life
Усиленный режим: какой станет Россия при новой Конституции Усиленный режим: какой станет Россия при новой Конституции

Принятие поправок к Конституции может повлечь за собой радикальные перемены

Forbes
Война за воспитание Война за воспитание

Как продолжать любить своих несовершенных отпрысков?

Psychologies
Time (США): что читает Иван? Time (США): что читает Иван?

В 60-е бытовало мнение, что в России гуманитарные науки преподаются слабо

ИноСМИ
Зачем нужно «отдыхать» от макияжа и как научиться это делать — мнение эксперта Зачем нужно «отдыхать» от макияжа и как научиться это делать — мнение эксперта

Когда и как устраивать отдых от макияжа?

Cosmopolitan
Ощущение счастья оказалось слабо зависимым от семейного положения Ощущение счастья оказалось слабо зависимым от семейного положения

Женатые пожилые люди в действительности счастливее своих одиноких сверстников

N+1
Его бывшая присутствует в вашей жизни: почему он это допускает? Его бывшая присутствует в вашей жизни: почему он это допускает?

Что делать, если бывшая вашего партнера делает все, чтобы оставаться в его жизни

Psychologies
Как $10 млрд от Баффета помогут энергетикам из США получать миллионы кубометров газа из навоза Как $10 млрд от Баффета помогут энергетикам из США получать миллионы кубометров газа из навоза

Dominion Energy превращается в гиганта возобновляемой энергетики

Forbes
Манихеи: христианство в смеси с буддизмом и зороастризмом Манихеи: христианство в смеси с буддизмом и зороастризмом

Расколы и ереси. Проект Сергея Ходнева

Weekend
Кисти для макияжа: какие нужны, виды, уход и как правильно выбрать? Кисти для макияжа: какие нужны, виды, уход и как правильно выбрать?

Всё о кистях для макияжа

Cosmopolitan
Со школьной скамьи: звезды, которые учились вместе – какими они были в те годы Со школьной скамьи: звезды, которые учились вместе – какими они были в те годы

Cвязь семерых знаменитостей до популярности, о которой вы не знали

Cosmopolitan
Закономерности движения молекулярного газа объяснят появление звездных «колыбелей» Закономерности движения молекулярного газа объяснят появление звездных «колыбелей»

Астрономы изучили движение молекулярного газа в Млечном пути

N+1
Почему сами жертвы не всегда признают факт изнасилования Почему сами жертвы не всегда признают факт изнасилования

Если женщина предпочитает не помнить о насилии — спасительно ли это для психики?

Psychologies
Два маркиза Два маркиза

Медальон с портретами офицера и его брата в весьма фривольном виде

Дилетант
«Пытался сбросить меня с 14 этажа»: Юлия Паршута об ужасах жизни с насильником «Пытался сбросить меня с 14 этажа»: Юлия Паршута об ужасах жизни с насильником

Юлия Паршута прошла через отношения с абьюзером

Cosmopolitan
Сколько тебе нужно белка, чтобы нарастить мышечную массу? Ответы на главные вопросы о протеине Сколько тебе нужно белка, чтобы нарастить мышечную массу? Ответы на главные вопросы о протеине

Сколько именно протеина стоит съедать для заветного результата?

Playboy
Какого цвета закат на других планетах Какого цвета закат на других планетах

От чего зависит цвет заката на других небесных телах Солнечной системы?

Популярная механика
Моя попытка #5: как оправдать свои ожидания от интернет-знакомств Моя попытка #5: как оправдать свои ожидания от интернет-знакомств

Какие ожидания от онлайн-партнера могут оправдаться, а о каких стоит забыть

Cosmopolitan
«Сейчас все будет дешеветь — офисы, сервисы, таланты. Самое время создать стартап» «Сейчас все будет дешеветь — офисы, сервисы, таланты. Самое время создать стартап»

Ованнес Авоян, PicsArt — о плюсах кризиса и возвращении офлайна

Inc.
Семейный альбом Семейный альбом

Интерьер, в котором взрослеют дети архитектора Олега Клодта

AD
«Я хотел изобразить состояние смерти»: художник Чжан Хуань — о серии работ Love, мире после пандемии и искусстве будущего «Я хотел изобразить состояние смерти»: художник Чжан Хуань — о серии работ Love, мире после пандемии и искусстве будущего

В своих работах Чжан Хуань поднимает темы религии, семьи, политики

Esquire
Фаркоп, обвес, багажник: водителей в 2021 году ждет важное изменение Фаркоп, обвес, багажник: водителей в 2021 году ждет важное изменение

Изменения в правила тюнинга перенесли на год

РБК
Когнитивный диссонанс Кремля: чем хабаровский протест опасен для власти Когнитивный диссонанс Кремля: чем хабаровский протест опасен для власти

Чтобы справится с хабаровским протестом, Кремлю придется переступать через себя

Forbes
Иллюстратор Светлана Муллари — о работе над дудлом Google, посвященным советскому режиссеру, автору Иллюстратор Светлана Муллари — о работе над дудлом Google, посвященным советскому режиссеру, автору

О Татьяне Лиозновой — важном режиссере для истории кинематографа XX века

Esquire
Чья бы корова… Чья бы корова…

За последние десять лет потребление мяса в России возросло в два раза

Bones
Чем запить лекарство Чем запить лекарство

Ты привыкла запивать таблетки первым, что попадется под руку? Это ошибка

Лиза
Секс-коучинг: спасательный круг или опасные рифы? Секс-коучинг: спасательный круг или опасные рифы?

Что такое суррогатный секс-партнер и для чего он нужен

Psychologies
MAXIM рецензирует «#яздесь» — кулинарно-романтическую комедию по-французски MAXIM рецензирует «#яздесь» — кулинарно-романтическую комедию по-французски

Пища для ума, для живота и для бабочек в животе

Maxim
Открыть в приложении