Могут ли нейросети помешать вам получить работу мечты?

ForbesБизнес

Как охотники за багами и хакеры будут бороться с дискриминацией на рынке труда

Мартин Жиль. Перевод Полины Шеноевой

Фото Getty Images

Связанные с рынком трудоустройства алгоритмы берут под контроль. Городской совет Нью-Йорка одобрил законопроект, согласно которому разработчики автоматизированных HR-инструментов для отбора кандидатов должны ежегодно проверять свои алгоритмы искусственного интеллекта — только после этого он сможет принимать решения о найме людей на работу или их увольнении

Могут ли программы на основе технологий искусственного интеллекта помешать получить работу мечты? Городской совет Нью-Йорка планирует сделать все возможное, чтобы жители мегаполиса не столкнулись с подобной проблемой при поиске работы. Недавно члены совета одобрили законопроект, согласно которому разработчики автоматизированных HR-инструментов для отбора кандидатов должны ежегодно проверять свои алгоритмы искусственного интеллекта и делиться результатами с компаниями, входящими в число их клиентов.

В случае принятия соответствующего закона речь пойдет об одной из первых в США и важных с юридической точки зрения мер по борьбе с дискриминацией со стороны технологий искусственного интеллекта. Цель законопроекта — проверить автоматизированные HR-инструменты на наличие сбоев, из-за которых соискатели подвергаются дискриминации по расовым, этническим или другим признакам. Если подобные меры начнут принимать повсеместно, в Америке резко повысится спрос на так называемых «цифровых охотников за багами».

Сегодня многие компании предлагают крупное вознаграждение за выявление ошибок в области кибербезопасности, не обнаруженных ранее. Размер такого вознаграждения иногда может достигать сотен тысяч долларов. На фоне популярности этой практики появились стартапы вроде Bugcrowd и HackerOne, которые помогают IT-директорам и другим топ-менеджерам запускать специальные программы вознаграждения и нанимать хакеров.

Вознаграждение от Twitter

Представители Bugcrowd и HackerOne заявляют, что на рынке наблюдается рост интереса к программам вознаграждения для охотников за багами и хакеров, которые помогают в выявлении непредусмотренных ошибок в различных алгоритмах искусственного интеллекта. И речь идет не только о предвзятом отношении при поиске работы. Наличие подобных ошибок в алгоритме может повлиять на многие сферы жизни, начиная с рассмотрения заявок на кредиты и заканчивая стратегиями в области охраны общественного порядка и противодействия преступности. Сами разработчики автоматизированных алгоритмов могут специально или же совершенно случайно допустить их появление в программном обеспечении. Кроме того, наличие ошибок зависит от наборов данных, с помощью которых обучаются алгоритмы.

На сегодняшний день почти все программы вознаграждения для охотников за багами носят закрытый характер. К работе над выявлением ошибок приглашают лишь небольшие группы хакеров, чтобы компании могли получить начальное представление о том, чего можно достичь благодаря подобным инициативам.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От Арктики до Тибета: как российские путешественницы исследовали мир От Арктики до Тибета: как российские путешественницы исследовали мир

Исследовательницы, которые доказали, что жажда открытий не знает границ

Forbes
Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта Все страхи мира: чего боятся создатели Кодекса этики искусственного интеллекта

Собрание негативных сценариев развития новой технологии

Forbes
Как брат с сестрой создали в Томске бизнес с незрячими массажистами Как брат с сестрой создали в Томске бизнес с незрячими массажистами

Что подтолкнуло брата с сестрой на открытие школы массажа с незрячими

Forbes
Семь советов, чтобы похудеть к Новому году Семь советов, чтобы похудеть к Новому году

Как легко похудеть на 5-6 килограмм?

Здоровье
Как Пеппи Длинныйчулок стала символом свободы и изменила жизни миллионов девочек Как Пеппи Длинныйчулок стала символом свободы и изменила жизни миллионов девочек

Как Астрид Линдгрен стала борцом за права детей и причем тут Пеппи Длинныйчулок?

Forbes
Не на птичьих правах Не на птичьих правах

Самые громкие правозащитные кейсы из мира животных

Weekend
Я подарю тебе сердце: какие органы можно напечатать на биопринтере Я подарю тебе сердце: какие органы можно напечатать на биопринтере

Что представляет собой процесс биопечати

Популярная механика
Как богатые американцы передают наследство детям и законно не платят 40% налога — на примере основателя Nike Как богатые американцы передают наследство детям и законно не платят 40% налога — на примере основателя Nike

Как Филип Найт обошел закон и оставил детям миллиарды?

VC.RU
Искусство невсерьез: зачем смотреть «Официальный конкурс», комедию с Антонио Бандерасом и Пенелопой Крус Искусство невсерьез: зачем смотреть «Официальный конкурс», комедию с Антонио Бандерасом и Пенелопой Крус

«Официальный конкурс» — как проходит грань между жанровым кино и искусством?

Esquire
5 фильмов про очень плохих копов 5 фильмов про очень плохих копов

Подборка фильмов о плохих полицейских

GQ
Почему домашние кошки не умеют рычать, а тигры — мурлыкать? Почему домашние кошки не умеют рычать, а тигры — мурлыкать?

Почему рычащие кошки не мурлычут, а мурлыкающие не рычат?

Наука и жизнь
Открытие года: Екатерина Алехина Открытие года: Екатерина Алехина

Первой из российских женщин-шефов она получила звезду Michelin

Glamour
Как выстроить привычку за несколько шагов, опираясь на науку? Как выстроить привычку за несколько шагов, опираясь на науку?

С чего начать, какую стратегию выбрать, чтобы выстроить привычку?

Популярная механика
Астрономия: что мы будем искать в космосе следующие десять лет Астрономия: что мы будем искать в космосе следующие десять лет

Какие задачи и проекты поставлены для астрономии до 2032 года

Популярная механика
Роалд Хоффманн: Как пережить нобелевскую премию Роалд Хоффманн: Как пережить нобелевскую премию

Роалда Хоффманна мы знаем не только как химика-теоретика

Наука и жизнь
Lovv66 комментирует свой новый альбом «БЭСТ ФРЭНДС» Lovv66 комментирует свой новый альбом «БЭСТ ФРЭНДС»

Самая основная метафора альбома «БЭСТ ФРЭНДС»

GQ
Джентльмен удачи Джентльмен удачи

Александр Цыпкин – писатель, сценарист, а с недавних пор и актер дает советы

Playboy
Not Home Anymore: каким мир запомнит Вирджила Абло Not Home Anymore: каким мир запомнит Вирджила Абло

Вирджил Абло: кого внезапно лишилась не только фэшн-индустрия, но и весь мир

Esquire
Почему Василий Лановой три раза отказывался от роли в «Офицерах»? Почему Василий Лановой три раза отказывался от роли в «Офицерах»?

Василий Лановой признался, что три раза отказывался от съёмок в «Офицерах».

Cosmopolitan
Сценарий, написанный жизнью Сценарий, написанный жизнью

Иной раз жизнь выдаёт такие «коленца», что сценаристам остаётся лишь записывать

Дилетант
Как на самом деле выглядят пакистанские невесты: фото с макияжем и без Как на самом деле выглядят пакистанские невесты: фото с макияжем и без

Свадебная красота из Пакистана. Здешние бьюти-традиции отличаются от наших!

Cosmopolitan
Тракторист-шахтер: что известно о владельце шахты «Листвяжная» Тракторист-шахтер: что известно о владельце шахты «Листвяжная»

Как Федяев прошел путь от тракториста до угольного магната и миллиардера

Forbes
Какие утверждения об Абрамовиче и Путине суд в Лондоне счел необоснованными Какие утверждения об Абрамовиче и Путине суд в Лондоне счел необоснованными

Девять утверждений в книге «Люди Путина» порочат репутацию Романа Абрамовича

Forbes
Настасья Самбурская: «Мечтаю сыграть барби» Настасья Самбурская: «Мечтаю сыграть барби»

Настасья Самбурская — о роли мечты, кино и музыке

Лиза
Почему эмпатам так сложно любить себя Почему эмпатам так сложно любить себя

Эмпатия — дар, но дар непростой

Psychologies
«Да ладно, не парься» и еще 5 фраз, после которых собеседник не захочет общаться «Да ладно, не парься» и еще 5 фраз, после которых собеседник не захочет общаться

Фразы-триггеры, которые не помогут успокоить собеседника

Cosmopolitan
Самые необычные технологии в лифтах Самые необычные технологии в лифтах

В сфере подъема-спуска граждан и грузов внедряются разные интересные технологии

Популярная механика
Груды бетона: почему фильм «Медея» Александра Зельдовича получился мизогинным Груды бетона: почему фильм «Медея» Александра Зельдовича получился мизогинным

Как фильм про женскую свободу обернулся историей болезни убийцы

Forbes
Корейский сериал «Зов ада»: о чем это, стоит ли смотреть и правда ли, что он лучше «Игры в кальмара» Корейский сериал «Зов ада»: о чем это, стоит ли смотреть и правда ли, что он лучше «Игры в кальмара»

Еще один корейский сериал «Зов ада». Он правда лучше, чем «Игра в кальмара»?

Maxim
8 заикающихся знаменитостей 8 заикающихся знаменитостей

Узнай, как эти знаменитости справились с нарушениями речи и добились успеха

Maxim
Открыть в приложении