Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Психологический портрет: что такое дисморфофобия, или синдром Квазимодо Психологический портрет: что такое дисморфофобия, или синдром Квазимодо

Что нужно знать о дисморфофобии?

Forbes
Цепь ограничений. Forbes составил рейтинг крупнейших покупателей российской нефти Цепь ограничений. Forbes составил рейтинг крупнейших покупателей российской нефти

Первое место по стоимости закупленного сырья занял Litasco

Forbes
Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер Каким мог стать Ту-204: как советские конструкторы искали идеальный авиалайнер

За 15 лет видение о том, каким должен быть Ту-204, несколько раз менялось

ТехИнсайдер
Поймать на взлете: как инвестору распознать в стартапе будущий Facebook или Google Поймать на взлете: как инвестору распознать в стартапе будущий Facebook или Google

Когда-то интернет-гиганты были стартапами

Forbes
Это не то,что вы подумали: страпонтен, клитория, епитрахиль — слова, за которые вам не должно быть стыдно Это не то,что вы подумали: страпонтен, клитория, епитрахиль — слова, за которые вам не должно быть стыдно

О словах, за которые вам не должно быть стыдно, пусть и звучат они забавно

ТехИнсайдер
Авитаминоз: распознаем и ликвидируем! Авитаминоз: распознаем и ликвидируем!

Как не пропустить тревожные симптомы авитаминоза

9 месяцев
Россия без олигархов. Что означают новые санкции США для наших миллиардеров Россия без олигархов. Что означают новые санкции США для наших миллиардеров

Послание Минфина США вполне понятно

Forbes
Российские ученые смоделировали поведение вольфрама в термоядерном реакторе Российские ученые смоделировали поведение вольфрама в термоядерном реакторе

Процесс растрескивания вольфрама в результате мощного импульсного нагрева

Популярная механика
Бомбическая история: ядерные взрывы в сознании японцев и другие выставки фотобиеннале Бомбическая история: ядерные взрывы в сознании японцев и другие выставки фотобиеннале

Что смотреть на московской Фотобиеннале-2018

Forbes
Деньги на старость. Депутаты предложили увеличить пенсии в среднем на 6200 рублей Деньги на старость. Депутаты предложили увеличить пенсии в среднем на 6200 рублей

Правительство России не поддержало законопроект, предусматривающий рост пенсий

Forbes
Суперспособности Суперспособности

Представители народа баджо могут задерживать дыхание на невероятные пять минут

Популярная механика
О секундах свысока О секундах свысока

Что мы вообще знаем о времени и как его воспринимаем

Добрые советы
Чистые помыслы: три правила информационной гигиены Чистые помыслы: три правила информационной гигиены

Что мешает продуктивно работать и совершенствовать себя

Forbes
Я худею: от чего стоит отказаться, чтобы быстрее терять вес Я худею: от чего стоит отказаться, чтобы быстрее терять вес

О повседневных привычках, которые стоит забыть на время

Cosmopolitan
Обувные тренды на весну и лето 2018 года: 6 пар, которые тебе понадобятся Обувные тренды на весну и лето 2018 года: 6 пар, которые тебе понадобятся

Главные обувные тренды сезона

Cosmopolitan
Времена НЭПа — самая развратная эпоха в СССР Времена НЭПа — самая развратная эпоха в СССР

Конец эпохи привел за собой невероятное — первую сексуальную революцию СССР

Cosmopolitan
Настоящие Рапунцели: взлет и падение длинноволосых сестер Сазерлэнд Настоящие Рапунцели: взлет и падение длинноволосых сестер Сазерлэнд

Во времена, когда не было кино, люди развлекались другими способами

Cosmopolitan
Предсказуемая опасность. Почему МЧС не может закрыть торговые центры с нарушениями Предсказуемая опасность. Почему МЧС не может закрыть торговые центры с нарушениями

Как арендаторы могут защитить себя в случае нештатной ситуации?

Forbes
Вылечить женский алкоголизм. How to Вылечить женский алкоголизм. How to

Психолог Юрий Сорокин написал честную книгу, посвященную женскому алкоголизму

СНОБ
Транзит или война. Украина оценила последствия разрыва контрактов с «Газпромом» Транзит или война. Украина оценила последствия разрыва контрактов с «Газпромом»

Возможные последствия отмены транзита газа через территорию Украины

Forbes
Выходные пролетели – и ага… Выходные пролетели – и ага…

Что нам мешает отдохнуть за два выходных?

Лиза
Управляющая компания Управляющая компания

Ищем при­зна­ки гор­мо­наль­ных на­рушений

Glamour
Выживший Выживший

Кто и зачем помог Роману Авдееву сохранить в кризис Московский кредитный банк

Forbes
Забанили Google: Роскомнадзор подтвердил блокировку IP-адресов интернет-гиганта Забанили Google: Роскомнадзор подтвердил блокировку IP-адресов интернет-гиганта

Роскомнадзор пытается остановить работу Telegram

Forbes
Душа дома Душа дома

Деревянный дом в Новоглаголеве для бизнес–леди из Москвы

SALON-Interior
Секреты счастья северных стран: лагом, глюггаведур и все-все-все Секреты счастья северных стран: лагом, глюггаведур и все-все-все

О философии счастья жителей северных стран

Psychologies
Роковое влечение Роковое влечение

От чего зависит желание и почему иногда оно пропадает?

Cosmopolitan
От парламентаризма к демократии: особенности армянской национальной революции От парламентаризма к демократии: особенности армянской национальной революции

23 апреля 2018 года в Армении произошла революция

Forbes
Вам мат: почему женщинам надо учиться играть в шахматы Вам мат: почему женщинам надо учиться играть в шахматы

Навыки шахматной игры дают то, чего годами достигают с помощью бизнес-тренингов

Forbes
Ядерная ракетка Ядерная ракетка

Немецкий теннисист Cаша Зверев

GQ
Открыть в приложении