Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Чтение выходного дня: фрагмент романа Джонатана Коу «Дом сна» Чтение выходного дня: фрагмент романа Джонатана Коу «Дом сна»

Переиздание романа Джонатана Коу «Дом сна» в переводе Игоря Алюкова

Esquire
Массаж лица в домашних условиях: простые и эффективные методики Массаж лица в домашних условиях: простые и эффективные методики

О принципах ухода за лицом рассказывает эксперт в области красоты Юлия Энхель

Psychologies
Что не так с идеей «нанимать лучших специалистов» независимо от пола и есть ли женщины в Кремниевой долине Что не так с идеей «нанимать лучших специалистов» независимо от пола и есть ли женщины в Кремниевой долине

Отрывок из книги Кэролайн Крьядо Перес о гендерном неравенстве

Inc.
Человеческая слизь: зачем мы едим собственные сопли Человеческая слизь: зачем мы едим собственные сопли

Некоторые ученые предлагают даже... есть сопли, чтобы лучше себя чувствовать

Популярная механика
Безумие как осознанная необходимость Безумие как осознанная необходимость

Анна Толстова о Наталье Тамручи и ее круге

Weekend
Как проснуться за 1 минуту Как проснуться за 1 минуту

Вам наверняка хорошо известно, как важно правильно выстроить свое утро

Inc.
Как Российская и Британская империи приручали покоренные элиты Как Российская и Британская империи приручали покоренные элиты

Какие эпизоды истории находят отражение в современных политических событиях

СНОБ
Тайна перевала Дятлова: от реальности к мифу Тайна перевала Дятлова: от реальности к мифу

Каковы были основные этапы трагедии на перевале Дятлова?

Esquire
О чем говорят стены, куда приведет разметка: как будут выглядеть общественные пространства после пандемии О чем говорят стены, куда приведет разметка: как будут выглядеть общественные пространства после пандемии

Как будут выглядеть общественные пространства, когда пандемия закончится?

Forbes
Издалека Издалека

Фантастическая повесть

Наука и жизнь
Scientific American (США): космический полет, устремленный к звездам — и растянутый на несколько поколений Scientific American (США): космический полет, устремленный к звездам — и растянутый на несколько поколений

Этот проект может стать нашим первым целенаправленным шагом из Солнечной системы

ИноСМИ
Суровость и женственность 40-х: Prada FW 09, Miu Miu FW 11, Dries Van Noten FW 10, Bottega Veneta SS 13 Суровость и женственность 40-х: Prada FW 09, Miu Miu FW 11, Dries Van Noten FW 10, Bottega Veneta SS 13

Скромность, бедность, суровая простота — реплики 40-х от Prada, Miu Miu и других

Weekend
Рыжих лисиц и песцов уличили в поедании человеческих объедков в среднем палеолите Рыжих лисиц и песцов уличили в поедании человеческих объедков в среднем палеолите

42 тысячи лет назад рыжие лисы и песцы кормились остатками человеческой добычи

N+1
Не только налоговый маневр: как еще государство может помочь IT-компаниям Не только налоговый маневр: как еще государство может помочь IT-компаниям

Поддержка IT-отрасли в виде налоговых льгот не очень эффективна

Forbes
Вместо планера и крестика на руке. Что делать, если все забываешь? Вместо планера и крестика на руке. Что делать, если все забываешь?

Как помнить все необходимое?

Psychologies
Как ухаживать за жирной кожей Как ухаживать за жирной кожей

Объясняем, почему вам нужно выбросить мыло и забыть про скрабы

GQ
Рассмешили весь мир: женщины-комики, которые не боятся жестко шутить над другими Рассмешили весь мир: женщины-комики, которые не боятся жестко шутить над другими

Эти женщины могут шутить на самые острые темы

Cosmopolitan
«Не борюсь с сединой»: почему это встречает сопротивление окружающих? «Не борюсь с сединой»: почему это встречает сопротивление окружающих?

Наша героиня, решившая больше не скрывать седину, рассказывает о своем опыте

Psychologies
Восемь рассказов Линор Горалик Восемь рассказов Линор Горалик

Рассказы Линор Горалик — страшные, смешные, откровенные и жизненные

СНОБ
Летописец из спагетти-вестернов: что оставил после себя Эннио Морриконе Летописец из спагетти-вестернов: что оставил после себя Эннио Морриконе

Вспоминаем жизнь и карьеру великого композитора Эннио Морриконе

РБК
И без пластики обошлись: звезды с птозом верних век, которых это не смущает И без пластики обошлись: звезды с птозом верних век, которых это не смущает

Некоторые знаменитости не комплексуют и умеют превращать недостатки в изюминку

Cosmopolitan
«Дегтярев совершил фатальные ошибки»: как новый глава Хабаровского края еще больше разозлил жителей и что ему теперь делать «Дегтярев совершил фатальные ошибки»: как новый глава Хабаровского края еще больше разозлил жителей и что ему теперь делать

Михаил Дегтярев совершил «фатальные ошибки» после назначения

Forbes
«Лиза захотела новый дом»: Илья Авербух строит особняк для Арзамасовой «Лиза захотела новый дом»: Илья Авербух строит особняк для Арзамасовой

Илья Авербух готовит семейное гнездо для Лизы Арзамасовой

Cosmopolitan
«Идеальный фаундер — абсолютная утопия». Как строить отношения, когда в компании много партнёров «Идеальный фаундер — абсолютная утопия». Как строить отношения, когда в компании много партнёров

Сооснователь Skillbox о том, как добиться коллективного соглашения в компании

Inc.
Отключение нейронов таламуса заставило мышей-наркоманов забыть про морфин Отключение нейронов таламуса заставило мышей-наркоманов забыть про морфин

Ученые нашли новый способ лечения зависимостей

N+1
Nautilus (США): когда ваш мозг влюблен Nautilus (США): когда ваш мозг влюблен

Антрополог Хелен Фишер рассказывает нам о биологии любви

ИноСМИ
Как ездить без штрафов: все об антирадарах, детекторах и приложениях Как ездить без штрафов: все об антирадарах, детекторах и приложениях

Можно ли обмануть радар и как оперативно узнавать о дорожных камерах?

РБК
Удачный кадр: как расслабиться перед камерой? Удачный кадр: как расслабиться перед камерой?

Обрести фотогеничность вполне реально, причем без пластических операций

Psychologies
Место на карте: Золотые горы Алтая Место на карте: Золотые горы Алтая

Знакомимся с историей легендарных природных памятников России

Культура.РФ
Открыть в приложении