Могут ли нейросети помешать вам получить работу мечты?

ForbesБизнес

Как охотники за багами и хакеры будут бороться с дискриминацией на рынке труда

Мартин Жиль. Перевод Полины Шеноевой

Фото Getty Images

Связанные с рынком трудоустройства алгоритмы берут под контроль. Городской совет Нью-Йорка одобрил законопроект, согласно которому разработчики автоматизированных HR-инструментов для отбора кандидатов должны ежегодно проверять свои алгоритмы искусственного интеллекта — только после этого он сможет принимать решения о найме людей на работу или их увольнении

Могут ли программы на основе технологий искусственного интеллекта помешать получить работу мечты? Городской совет Нью-Йорка планирует сделать все возможное, чтобы жители мегаполиса не столкнулись с подобной проблемой при поиске работы. Недавно члены совета одобрили законопроект, согласно которому разработчики автоматизированных HR-инструментов для отбора кандидатов должны ежегодно проверять свои алгоритмы искусственного интеллекта и делиться результатами с компаниями, входящими в число их клиентов.

В случае принятия соответствующего закона речь пойдет об одной из первых в США и важных с юридической точки зрения мер по борьбе с дискриминацией со стороны технологий искусственного интеллекта. Цель законопроекта — проверить автоматизированные HR-инструменты на наличие сбоев, из-за которых соискатели подвергаются дискриминации по расовым, этническим или другим признакам. Если подобные меры начнут принимать повсеместно, в Америке резко повысится спрос на так называемых «цифровых охотников за багами».

Сегодня многие компании предлагают крупное вознаграждение за выявление ошибок в области кибербезопасности, не обнаруженных ранее. Размер такого вознаграждения иногда может достигать сотен тысяч долларов. На фоне популярности этой практики появились стартапы вроде Bugcrowd и HackerOne, которые помогают IT-директорам и другим топ-менеджерам запускать специальные программы вознаграждения и нанимать хакеров.

Вознаграждение от Twitter

Представители Bugcrowd и HackerOne заявляют, что на рынке наблюдается рост интереса к программам вознаграждения для охотников за багами и хакеров, которые помогают в выявлении непредусмотренных ошибок в различных алгоритмах искусственного интеллекта. И речь идет не только о предвзятом отношении при поиске работы. Наличие подобных ошибок в алгоритме может повлиять на многие сферы жизни, начиная с рассмотрения заявок на кредиты и заканчивая стратегиями в области охраны общественного порядка и противодействия преступности. Сами разработчики автоматизированных алгоритмов могут специально или же совершенно случайно допустить их появление в программном обеспечении. Кроме того, наличие ошибок зависит от наборов данных, с помощью которых обучаются алгоритмы.

На сегодняшний день почти все программы вознаграждения для охотников за багами носят закрытый характер. К работе над выявлением ошибок приглашают лишь небольшие группы хакеров, чтобы компании могли получить начальное представление о том, чего можно достичь благодаря подобным инициативам.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Это я беру на себя: почему бизнес все чаще размещает IT-решения на своих серверах Это я беру на себя: почему бизнес все чаще размещает IT-решения на своих серверах

Почему бизнес предпочитает развивать свою IT-инфраструктуру?

Forbes
Пионер подпольного русского рока, композитор, певец и наставник. Памяти Александра Градского Пионер подпольного русского рока, композитор, певец и наставник. Памяти Александра Градского

О творческом наследии Александра Градского

Esquire
«Я справлюсь быстрее сам»: какие установки лидера тормозят развитие бизнеса «Я справлюсь быстрее сам»: какие установки лидера тормозят развитие бизнеса

Порой, несмотря на все усилия, бизнес движется не туда. Почему так происходит?

Forbes
Своевольные булгарии Своевольные булгарии

Булгария пачкающая — интересный и по-своему красивый сумчатый гриб

Наука и жизнь
Партнер-провокатор: что стоит за его манипуляциями и как реагировать правильно Партнер-провокатор: что стоит за его манипуляциями и как реагировать правильно

Как вычислить манипуляцию провокацией и как правильно реагировать на нее

Psychologies
Доминируй, подчиняйся. Что люди ищут и находят в БДСМ-практиках Доминируй, подчиняйся. Что люди ищут и находят в БДСМ-практиках

Как на самом деле доминирование и подчинение помогают избавиться от травм

СНОБ
Природный феномен Природный феномен

Роль искусства в этом доме играют пейзажи за окном

AD
«Он — лучший клиент». Проститутка рассказала о связи с мужчиной, больным ДЦП «Он — лучший клиент». Проститутка рассказала о связи с мужчиной, больным ДЦП

История Олив и Гэвина, открывших свой канал в ТикТоке об интимных практиках

Cosmopolitan
Физики измерили волновые функции свободных дырок Физики измерили волновые функции свободных дырок

Физики исследовали поляризационные свойства компонент высшего порядка

N+1
Посланник Христа: что думали писатели о Федоре Достоевском Посланник Христа: что думали писатели о Федоре Достоевском

Как мировая культура отозвалась на самого Достоевского

Esquire
Деконструкция формы и содержимого Деконструкция формы и содержимого

Елена Стафьева о совместном опыте Жака Кавалье-Бельтруда и Фрэнка Гери

Weekend
Женщина года: бремя первых Женщина года: бремя первых

Что будет, если в одной комнате окажутся сразу две женщины года?

Glamour
Протеиновые коктейли: научные факты «за» и «против» Протеиновые коктейли: научные факты «за» и «против»

Протеиновые коктейли в целом безвредны, но нужны далеко не каждому

РБК
«Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД «Купил Кайен, а на ОСАГО денег нет». Кто раздражает инспекторов ГИБДД

Что раздражает инспекторов ГИБДД на дороге и как отучить автомобилистов нарушать

РБК
«Она похожа на соль — улучшит любое блюдо, если не переборщить»: как инженер-пианист создал гитарную педаль Big Muff «Она похожа на соль — улучшит любое блюдо, если не переборщить»: как инженер-пианист создал гитарную педаль Big Muff

Майк Мэтьюс придумал «золотой стандарт» гитарных педалей с искажением

VC.RU
Одна вокруг света: путешествие на лодке и знакомство с индейцами куна Одна вокруг света: путешествие на лодке и знакомство с индейцами куна

146-я серия о кругосветном путешествии москвички Ирины Сидоренко и ее собаки

Forbes
Барыня из «Муму»: почему мать Тургенева ненавидели все, включая сына Барыня из «Муму»: почему мать Тургенева ненавидели все, включая сына

Сказка про Золушку, в которой хеппи-энда не получилось

Cosmopolitan
Кризис третьего года: когда лояльность персонала достигает минимума и как с этим быть Кризис третьего года: когда лояльность персонала достигает минимума и как с этим быть

Почему лояльность сотрудников падает и как их снова замотивировать?

Forbes
Как построить личный бренд: 7 правил успеха Арнольда Шварценеггера Как построить личный бренд: 7 правил успеха Арнольда Шварценеггера

Чему ты можешь научиться у "железного Арни"

Playboy
ЭКО-кошмар: в клинике перепутали эмбрионы и родителям пришлось меняться детьми ЭКО-кошмар: в клинике перепутали эмбрионы и родителям пришлось меняться детьми

Родителям пришлось поменяться детьми, чтобы воссоединиться с родными дочками

Cosmopolitan
Почему бедность — это удобно Почему бедность — это удобно

Как люди загоняют себя в «мир бедных» и почему некоторые не могут выбраться?

СНОБ
Как установить Windows 11 на совместимый и даже несовместимый ПК Как установить Windows 11 на совместимый и даже несовместимый ПК

Как установить Windows 11 на компьютер несколькими разными способами

CHIP
Истории поиска product/market fit от основателей Netflix, Uber, Airbnb и других успешных компаний Истории поиска product/market fit от основателей Netflix, Uber, Airbnb и других успешных компаний

Как понять, что вы нашли product/market fit?

VC.RU
«Усоногий рак Чарльза Дарвина и паук Дэвида Боуи: Как научные названия воспевают героев, авантюристов и негодяев». Отрывок из книги «Усоногий рак Чарльза Дарвина и паук Дэвида Боуи: Как научные названия воспевают героев, авантюристов и негодяев». Отрывок из книги

Отрывок из книги Стивена Херда — что «нейминг» может рассказать об открытиях

СНОБ
Российские ученые создали ускоренный метод оценки деградации материала для авиации Российские ученые создали ускоренный метод оценки деградации материала для авиации

Ученые разработали метод, позволяющий бороться с усталостью материала в авиации

Популярная механика
На секретной службе Её Величества На секретной службе Её Величества

Мы знаем о разведчиках, работавших на СССР, но были и обратные примеры

Дилетант
5 фильмов об экологии, которые стоит посмотреть, чтобы разобраться в вопросе 5 фильмов об экологии, которые стоит посмотреть, чтобы разобраться в вопросе

Фильмы об экологии, которые помогут понять, что происходит с нашей планетой

GQ
На отдых в офлайн: 8 сервисов по избавлению от интернет-зависимости На отдых в офлайн: 8 сервисов по избавлению от интернет-зависимости

Приложения для смартфонов, которые помогают реже пользоваться смартфонами

РБК
Сериалы, основанные на реальных преступлениях Сериалы, основанные на реальных преступлениях

Подборка сериалов о реальных преступлениях

GQ
Японские макаки оказались любителями зимней рыбалки Японские макаки оказались любителями зимней рыбалки

Японские макаки из долины Камикочи научились ловить рыбу

N+1
Открыть в приложении