Что нужно сделать, чтобы ИИ дал женщинам новые карьерные перспективы

ForbesHi-Tech

Вызов времени: как искусственный интеллект помогает бороться с дискриминацией

Все большее внедрение в разные сферы экономики систем исскусственного интеллекта может привести как к потенциальной дискриминации женщин, так и дать им новые карьерные перспективы. Разбираемся, что нужно сделать, чтобы развитие пошло по второму сценарию

Екатерина Ляпина

Фото REUTERS / Fabian Bimmer

Разговоры о том, что искусственный интеллект изменит рынок труда, ведутся годами. Сегодня фокус сместился с обсуждения неотвратимости будущего к оценке того, как и когда мир изменится и что это значит для всех нас. Попыток создания ИИ было уже несколько, но настоящий искусственный интеллект (Artificial General Intelligence), тот, который изображают в фильмах и книгах, еще далек от реализации. Что же на самом деле сейчас есть?

Не самый умный интеллект

Есть масса очень специализированных «умных алгоритмов», которые решают нишевые задачи, определяют закономерности на больших объемах данных. Они помогают принимать решения: например, остановить или разрешить подозрительную транзакцию, куда отправить грузы, выдать или не выдать кредит. Вероятность ошибки в таких системах меньше, чем если включается пресловутый человеческий фактор. Дальнейшее развитие алгоритмов, способных дополнять/заменять принятие решений человеком, позволит сократить позиции, требующие выполнения рутинных задач, которыми часто занимаются именно женщины. Так, уже сложно себе представить светлое будущее туроператоров, диспетчеров таксопарков, операционистов и ряда других профессий. Исследователи IMF прогнозируют, что 11% рабочих мест, занятых женщинами, в течение следующих двух десятилетий будет автоматизировано. А фокус будет смещен на саму разработку этих алгоритмов.

Все больше решений принимается автоматически и, к сожалению, не всегда в пользу женщин. Например, два года назад крупнейшему онлайн-ретейлеру Amazon пришлось «уволить» систему для автоматизированного просмотра резюме, так как она дискриминировала разработчиков женского пола. Такая ситуация произошла из-за того, что модели ИИ обучались на исторических данных за 10 лет. Тогда большинство кандидатов действительно были мужчинами, но из этого не следует, что они лучше справляются с техническими специальностями. Учитывая то, что алгоритмы быстро становятся ответственными за принятие все большего количества решений, наличие таких побочных эффектов представляет серьезную проблему.

Существует распространенное мнение, что алгоритмы просто улавливают взаимосвязь в имеющемся наборе данных. Но, фокусируясь на данных, легко игнорировать два аспекта этой проблемы: ограничения существующих алгоритмов и, что более важно, роль людей, ставящих алгоритмам задачу. Большинство алгоритмов только анализируют корреляционные отношения, ничего не понимая в них. Без вовлечения тех, кто решает проблемы и задает правильные вопросы, даже лучшие данные ничего не значат, ведь алгоритмы будут лишь отражать наши собственные предубеждения.

Разработчики систем ИИ, должны очень внимательно следить за тем, как формируются наборы данных для обучения алгоритмов, и отслеживать наличие предубеждений. Нужно следить за ошибками, которые совершает алгоритм: иногда их процент довольно низок, но они могут быть сделаны в отношении одной и той же группы людей. Например, скоринговая модель систематически отказывает в кредите людям, прописанным в китайском квартале. Такое поведение особенно опасно, ведь мы переносим все больше ответственности за принятие решений на систему. Некоторые используемые алгоритмы вообще не интерпретируемые, то есть мы не можем понять, почему было принято то или иное решение, какие именно факторы на него повлияли.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Все включено: как интернет изменил наш способ думать, жить и познавать мир Все включено: как интернет изменил наш способ думать, жить и познавать мир

Как пользование интернетом заставляет человеческий мозг работать по-новому

Esquire
«Это провал тактики Кремля»: чего ждать после субботней акции протеста в Хабаровске «Это провал тактики Кремля»: чего ждать после субботней акции протеста в Хабаровске

Власти оказались в непростой, но не безвыходной ситуации

Forbes
Восток и его обитатели Восток и его обитатели

В озере Восток под ледовым щитом Антарктиды есть жизнь

Популярная механика
Безумие как осознанная необходимость Безумие как осознанная необходимость

Анна Толстова о Наталье Тамручи и ее круге

Weekend
Не вся изолента одинакова: разбираемся в тонкостях Не вся изолента одинакова: разбираемся в тонкостях

Вы знали, что есть несколько разновидностей изоленты?

CHIP
Семейный альбом Семейный альбом

Интерьер, в котором взрослеют дети архитектора Олега Клодта

AD
Электрохимическое осаждение помогло получить стеклообразный литий Электрохимическое осаждение помогло получить стеклообразный литий

Американские ученые изучили изменения при электрохимическом осаждении лития

N+1
«Оттепель: События. Март 1953 — август 1968 года» «Оттепель: События. Март 1953 — август 1968 года»

Отрывок из книги Сергея Чупринина, посвященный событиям октября 1962 года

N+1
Как искали новую музыку в 80-е и 90-е. До Spotify, Apple и Яндекса Как искали новую музыку в 80-е и 90-е. До Spotify, Apple и Яндекса

Искать музыку в 80-х и 90-х было сложно, железобетонно надежно и круто

Maxim
Галь Гадот. Обыкновенное чудо Галь Гадот. Обыкновенное чудо

После того как Галь Гадот сыграла в "Чудо-женщине", ее судьба резко изменилась

Караван историй
Обувь протеста: как кроссовки стали важной частью акций против расизма в США (и целью мародеров) Обувь протеста: как кроссовки стали важной частью акций против расизма в США (и целью мародеров)

Америку захлестнула волна протестов после убийства Джорджа Флойда

Esquire
Издалека Издалека

Фантастическая повесть

Наука и жизнь
Водителя оштрафовали за парковку во дворе дома. Как избежать проблем? Водителя оштрафовали за парковку во дворе дома. Как избежать проблем?

Водитель пожаловался на штраф за стоянку под запрещающим знаком

РБК
Игнорируйте «нет», приспосабливайтесь к рынку и не бойтесь саморазрушения: уроки Джеффа Безоса во время создания Kindle Игнорируйте «нет», приспосабливайтесь к рынку и не бойтесь саморазрушения: уроки Джеффа Безоса во время создания Kindle

Дэн Роуз о том, чему научился во время работы с основателем Amazon

VC.RU
Мал, да удал: 7 малоизвестных фактов о Ватикане Мал, да удал: 7 малоизвестных фактов о Ватикане

Семь занятных фактов о карликовом государстве Ватикан

Популярная механика
Народные автомобили: машины, пересадившие на колеса целые страны Народные автомобили: машины, пересадившие на колеса целые страны

Кэйдзидося, чинквеченто, дешво и ни одного фольксвагена!

Maxim
У Кейт Мосс — косоглазие и еще 7 особенностей, которые звезды не скрывают от нас У Кейт Мосс — косоглазие и еще 7 особенностей, которые звезды не скрывают от нас

Мы привыкли, что звезды должны выглядеть просто идеально, но так не бывает

Cosmopolitan
«Пусть хоть голыми работают в два ночи». Почему мы потеряли веру в магию почасового трудоголизма «Пусть хоть голыми работают в два ночи». Почему мы потеряли веру в магию почасового трудоголизма

Как нужно повышать эффективность работы команды в 2020-м

Forbes
Как изменилась Ольга Бузова после пластики Как изменилась Ольга Бузова после пластики

Пластический хирург комментирует изменения во внешности Ольги Бузовой

Cosmopolitan
Как раздать вай-фай с айфона на ноутбук или другой смартфон Как раздать вай-фай с айфона на ноутбук или другой смартфон

Как раздать интернет с айфона на любые устройства

CHIP
Как нумизмат из Феодосии борется за свой Музей денег Как нумизмат из Феодосии борется за свой Музей денег

Почему Музей денег в Феодосии требуют закрыть

СНОБ
Беру, не глядя: как  фейсбук-группа «Шар и крест» уронила рынок и спасла художников в карантине Беру, не глядя: как  фейсбук-группа «Шар и крест» уронила рынок и спасла художников в карантине

Почему искусство стоит так дешево, и почему это так хорошо

Forbes
Моя попытка #5: как оправдать свои ожидания от интернет-знакомств Моя попытка #5: как оправдать свои ожидания от интернет-знакомств

Какие ожидания от онлайн-партнера могут оправдаться, а о каких стоит забыть

Cosmopolitan
«Человек-киборг» Нил Харбиссон — о том, как ему живется со вживленной в голову антенной «Человек-киборг» Нил Харбиссон — о том, как ему живется со вживленной в голову антенной

Художника Нила Харбиссона называют первым в мире киборгом

Esquire
«Если памятники убрать, возникнет ощущение, что мы падаем» «Если памятники убрать, возникнет ощущение, что мы падаем»

Ербосын Мельдибеков о проекте «Трансформер» и превращении реальности в эпос

Weekend
«Я боялась встретить Меладзе»: Рита Дакота об ужасном закулисье «Фабрики звезд» «Я боялась встретить Меладзе»: Рита Дакота об ужасном закулисье «Фабрики звезд»

Рита Дакота рассказала, что ей пришлось пережить на проекте «Фабрика звезд – 7»

Cosmopolitan
Люди создают животных, не способных жить: жертвы селекции в XXI веке Люди создают животных, не способных жить: жертвы селекции в XXI веке

Мы привыкли думать, что селекция направлена на улучшение качеств животных

Популярная механика
День сурка на свадьбе: чем комедия «Палм-Спрингс» покорила американских кинокритиков День сурка на свадьбе: чем комедия «Палм-Спрингс» покорила американских кинокритиков

10 июля на платформе Hulu вышла сюрреалистическая комедия «Палм-Спрингс»

Forbes
Повреждение гиппокампа не нарушило когнитивные функции макак-резусов Повреждение гиппокампа не нарушило когнитивные функции макак-резусов

Возможно, необходимо пересмотреть роль гиппокампа и других структур мозга

N+1
Диплом на колёсах: как студенты превращают автомобили в концепт-кары Диплом на колёсах: как студенты превращают автомобили в концепт-кары

Удивительные автомобили выпускников Skoda Academy

Популярная механика
Открыть в приложении