Исследование выявило, как алгоритмы ИИ дискриминировали кандидатов при найме
Ученые Стэнфордского университета (признан Минюстом РФ нежелательной организацией) обнаружили, что алгоритмы отбора кандидатов заметно реже рекомендовали темнокожих и азиатских соискателей на отдельные вакансии. Исследователи также выявили эффект систематического отказа, при котором один и тот же кандидат получал отрицательную оценку алгоритма сразу при обращении в несколько компаний.
Команда под руководством профессора Дэна Юрафски проанализировала более 4 млн заявок, поданных в 2018−2022 годах почти на 2 тыс. вакансий через платформу Pymetrics. Ее игровые тесты оценивали склонность кандидатов к риску, способность концентрироваться, щедрость и другие качества, после чего алгоритм относил каждого соискателя к одной из двух категорий — «рекомендован» или «не рекомендован».
При анализе всего массива данных исследователи не обнаружили выраженного общего перекоса. Однако на уровне отдельных вакансий картина оказалась иной — 15% заявок азиатских кандидатов и 26% заявок чернокожих соискателей пришлись на позиции, где алгоритм рекомендовал их заметно реже, чем белых участников отбора.
По расчетам ученых, если бы доля положительных рекомендаций среди чернокожих и азиатских соискателей соответствовала показателю белых кандидатов, алгоритм дополнительно одобрил бы около 40 тыс. заявок.