Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
Уникальные и безумные: круглые броненосцы контр-адмирала Попова Уникальные и безумные: круглые броненосцы контр-адмирала Попова

Круглые броненосцы не имеют аналогов в мире и по сей день вызывают споры

Популярная механика
Рейтинг брендов Рейтинг брендов

Бренды, которые стали заметны на рынке за год

Forbes
Китайцы обманом увеличили численность редких крачек Китайцы обманом увеличили численность редких крачек

Китайские орнитологи успешно применили метод социального привлечения

N+1
Отрывок из книги Ивана Охлобыстина «Дом Солнца» Отрывок из книги Ивана Охлобыстина «Дом Солнца»

Повесть Ивана Охлобыстина о запретной любви

СНОБ
Алкогений: Леонид Филатов Алкогений: Леонид Филатов

О поэте, актере и писателе Леониде Филатове никогда не ходило алкогольных баек

Maxim
Ни капли конденсата: как утеплить гараж Ни капли конденсата: как утеплить гараж

Летом к зиме надо готовить не только сани, но и гараж

Популярная механика
Кромвель: диктатор-цареубийца Кромвель: диктатор-цареубийца

Путь от противника неограниченной королевской власти к режиму жёсткой деспотии

Дилетант
Масштаб, брутализм и Faradenza: за что и сегодня ценят архитектуру российских курортов Масштаб, брутализм и Faradenza: за что и сегодня ценят архитектуру российских курортов

Чем примечательна архитектура пяти старых российских здравниц

Forbes
Не жалея живота Не жалея живота

Эта трехдневная диета поможет уменьшить объем талии на 3 см

Лиза
6 величайших сделок в истории спорта и моды 6 величайших сделок в истории спорта и моды

Основным источником дохода этих спортивных звезд являются рекламные контракты

GQ
10 советов для интенсивного и яркого оргазма 10 советов для интенсивного и яркого оргазма

Оргазм кажется нам обязательным завершением любого сексуального акта

Psychologies
Правозащитники выпустили доклад об ухудшении ситуации с домашним насилием в России Правозащитники выпустили доклад об ухудшении ситуации с домашним насилием в России

Статистика обращений за помощью жертв насилия во время пандемии

Forbes
Живот скрутило! Живот скрутило!

Лето – горячий сезон для пищевых отравлений и кишечных инфекций

Лиза
Какой радар-детектор выбрать для города и путешествий? Какой радар-детектор выбрать для города и путешествий?

Чем отличаются радар-детекторы и как их правильно выбирать

CHIP
12 ситуаций, которые почему-то постоянно случаются в кино, но никогда — в реальной жизни 12 ситуаций, которые почему-то постоянно случаются в кино, но никогда — в реальной жизни

Эх, если бы так случалось на самом деле...

Playboy
Что делать, если попал в ДТП. Памятка Что делать, если попал в ДТП. Памятка

Что надо знать участникам автомобильной аварии?

РБК
Wok’n’Roll Wok’n’Roll

Почему в России набирает популярность паназиатская кухня?

Bones
Можно попасть на миллион. Самые большие штрафы ГИБДД. Таблица Можно попасть на миллион. Самые большие штрафы ГИБДД. Таблица

Как простой автомобилист может быть оштрафован на сотни тысяч рублей?

РБК
«Женила на себе»: кому на самом деле выгоден брак? «Женила на себе»: кому на самом деле выгоден брак?

Веками считалось, что брак нужен женщине больше, чем мужчине

Psychologies
Метеозависимость: что это такое и как с этим жить Метеозависимость: что это такое и как с этим жить

Многие из нас при малейшей смене погоды чувствуют недомогание

Esquire
10 лучших врачей-психопатов в кино 10 лучших врачей-психопатов в кино

Рейтинг врачей-психопатов в кино, которые практикуют изощренные убийства.

Maxim
Если в детстве ваши чувства игнорировали: восстанавливаем контакт с собой Если в детстве ваши чувства игнорировали: восстанавливаем контакт с собой

Игнорирование детских переживаний приводит к серьезным психологическим травмам

Psychologies
В плейлист: Илья Лагутенко выбрал 10 лучших песен для долгой прогулки В плейлист: Илья Лагутенко выбрал 10 лучших песен для долгой прогулки

Илья Лагутенко составил плейлист из идеальных песен для долгой прогулки

Forbes
Восточная Европа оказалась родиной современных страусов Восточная Европа оказалась родиной современных страусов

Первые страусы появились в Северо-Западном Причерноморье

N+1
На природу с комфортом: что такое глэмпинг и почему это идеальный вид отдыха в 2020 году На природу с комфортом: что такое глэмпинг и почему это идеальный вид отдыха в 2020 году

Отдых на природе в комфортных условиях

Esquire
Кисти для макияжа: какие нужны, виды, уход и как правильно выбрать? Кисти для макияжа: какие нужны, виды, уход и как правильно выбрать?

Всё о кистях для макияжа

Cosmopolitan
Цианистый калий: что это такое и как работает Цианистый калий: что это такое и как работает

Цианиды, то есть синильная кислота и ее соли, – далеко не самые сильные яды

Популярная механика
Боль в крестце: почему возникает и как от нее избавиться Боль в крестце: почему возникает и как от нее избавиться

Крестец — что это за «заколдованное» место и почему здесь образуются грыжи

Psychologies
Нехватка воды заставила африканских комаров перейти на человеческую кровь Нехватка воды заставила африканских комаров перейти на человеческую кровь

Возможно, именно эти комары стали предками подвида, колонизировавшего весь мир

N+1
Открыть в приложении