Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Человек — друг собаки: 5 правил обращения с питомцами Человек — друг собаки: 5 правил обращения с питомцами

Как проверить себя и понять, правильно ли мы ведем себя со своей собакой

Psychologies
Как сделать альбомный лист в Ворде за пару кликов Как сделать альбомный лист в Ворде за пару кликов

Как сделать альбомный лист в Word?

CHIP
Сам себе злобный Буратино: как знаки зодиака сами портят свою жизнь Сам себе злобный Буратино: как знаки зодиака сами портят свою жизнь

Как знаки зодиака портят себе жизнь?

Cosmopolitan
«Если бы я встретила королеву, то сказала бы, что люблю ее». Инна Чурикова о Елизавете II и дебюте в онлайн «Если бы я встретила королеву, то сказала бы, что люблю ее». Инна Чурикова о Елизавете II и дебюте в онлайн

Инна Чурикова — о том, что такое семейный бизнес и мир после пандемии

Forbes
Кушать подано! Кушать подано!

Знакомимся с меню русской классической драматургии

Культура.РФ
«Вирусная» песня зонотрихий за шестьдесят лет захватила всю Канаду «Вирусная» песня зонотрихий за шестьдесят лет захватила всю Канаду

За шестьдесят лет птицы белошейные зонотрихии полностью изменили свой репертуар

N+1
«Говорят, я копирую Стива Джобса во всём»: история создателя китайских смартфонов Smartisan Ло Юнхао «Говорят, я копирую Стива Джобса во всём»: история создателя китайских смартфонов Smartisan Ло Юнхао

Ло Юнхао не раз сравнивал свою компанию с Apple

VC.RU
Космическая эра Бенедикта Редгроува Космическая эра Бенедикта Редгроува

Проект этого фотографа приурочен к 50-летию высадки человека на Луну

Популярная механика
Родительские инвестиции.  Как бросить офис и зарабатывать 380 млн в год на частных детских садах Родительские инвестиции.  Как бросить офис и зарабатывать 380 млн в год на частных детских садах

Как открыть успешную сеть английских детских садов

Forbes
Как сочетать цвета в одежде: 10 способов правильного Как сочетать цвета в одежде: 10 способов правильного

Классическое правило трех цветов в луке уже давно не работает

Cosmopolitan
Виктор Цой. 1980 – 1983 Виктор Цой. 1980 – 1983

В компанию к панк-музыканту по прозвищу Свин попадает Виктор Цой

Esquire
Жертвы домашнего насилия среди звезд: истории Рианны, Жасмин и других девушек Жертвы домашнего насилия среди звезд: истории Рианны, Жасмин и других девушек

Самые шокирующие истории знаменитостей, о которых они не побоялись рассказать

Cosmopolitan
Отрывок их книги Дмитрия Бавильского «Красная точка» Отрывок их книги Дмитрия Бавильского «Красная точка»

Первые главы романа Дмитрия Бавильского «Красная точка»

СНОБ
Джоконда для зумеров: мировые музеи жаждут молодой крови Джоконда для зумеров: мировые музеи жаждут молодой крови

Как заинтересовать искусством самых молодых?

Forbes
10 вопросов нефрологу 10 вопросов нефрологу

Как распознать заболевания почек, кто в группе особого риска и что делать

Лиза
Владимир Коренев. До и после Ихтиандра Владимир Коренев. До и после Ихтиандра

Ранний брак удержал Владимира Коренева от многих ошибок

Караван историй
Спорт без вреда Спорт без вреда

Что нужно знать о спорте, чтобы не навредить себе

Лиза
10 предметов гардероба, с размером которых мы часто ошибаемся 10 предметов гардероба, с размером которых мы часто ошибаемся

Каждая девушка хотя бы раз в жизни ошибалась с размером обновки

Cosmopolitan
Ситуация напоминает 2015 год: как бизнес платит по счетам в пандемию Ситуация напоминает 2015 год: как бизнес платит по счетам в пандемию

Как российские компании расплачивались с поставщиками в пандемию

Forbes
Почему нам важно помогать другим Почему нам важно помогать другим

Как эволюция заложила в нас потребность помогать ближним

Psychologies
Борьба с реальностью. Почему российская власть не хочет видеть роста бедности Борьба с реальностью. Почему российская власть не хочет видеть роста бедности

Почему чиновники пытаются оспорить влияние кризиса на доходы населения

СНОБ
Правила жизни принцессы Дианы Правила жизни принцессы Дианы

Правила жизни принцессы Уэльской Дианы

Esquire
Что не так с идеей «нанимать лучших специалистов» независимо от пола и есть ли женщины в Кремниевой долине Что не так с идеей «нанимать лучших специалистов» независимо от пола и есть ли женщины в Кремниевой долине

Отрывок из книги Кэролайн Крьядо Перес о гендерном неравенстве

Inc.
Стихийные бедствия. Как женщины становятся невидимыми во времена кризиса Стихийные бедствия. Как женщины становятся невидимыми во времена кризиса

Как потребности женщин остаются незамеченными

Forbes
Попытка взлома: почему заговорили о смерти программ МВА? Попытка взлома: почему заговорили о смерти программ МВА?

Бизнес-образование не может быть одновременно дешевым, быстрым и качественным

Forbes
Парься меньше, живи больше: почему пофигизм стал религией посткризисной эпохи Парься меньше, живи больше: почему пофигизм стал религией посткризисной эпохи

Какую философию продают авторы незамысловатых трактатов о лучшей жизни?

Forbes
Брюс Дейсли: отключите внутреннего надсмотрщика, чтобы сделать работу менее ужасной Брюс Дейсли: отключите внутреннего надсмотрщика, чтобы сделать работу менее ужасной

Книга бывшего вице-президента Twitter о продуктивном спокойствии

Inc.
Зубатые и усатые киты независимо приобрели сходные черты Зубатые и усатые киты независимо приобрели сходные черты

Ученые нашли почти полный скелет крупного дельфина Ankylorhiza tiedemani

N+1
Почему авокадо полезно: научные аргументы Почему авокадо полезно: научные аргументы

Как выбирать, хранить и готовить авокадо

РБК
Открыть в приложении