Для нейросети нет разницы, какого пола и расы человека необходимо распознавать

ForbesHi-Tech

Вежливая сеть: как научить искусственный интеллект относиться к людям непредвзято

Для нейросети нет разницы, какого пола и расы человека необходимо распознавать. Проблема заключается не в характеристиках программы, а в качестве обучения

Александр Ханин

Фото Alain Pitton / NurPhoto via Getty Images

Мир начинает переживать из-за предвзятости искусственного интеллекта в системах распознавания лиц. Люди беспокоятся, что такие системы изначально «хорошо относятся» только к европейцам.

 

Год назад разработчик системы распознавания лиц Gfycat удивился, когда его система не распознала некоторых азиатских сотрудников. Исследование аналогичных систем Microsoft и IBT показало, что они были на 95% точнее при распознавании женщин со светлой кожей. Компании рассказали, что улучшили собственные алгоритмы, но не уточнили, каким образом.

По каким признакам нейросеть определяет расовую принадлежность человека

Никто не сможет точно рассказать, как именно нейросеть учится распознавать лица, на что она обращает внимание. Многим факторам, на основании которых нейросеть распознает лица, она научилась сама. Она сравнивает миллионы фотографий, находит общие признаки и учитывает их внутри своей системы. При обучении нейросеть в явном в виде не выдает различие между разными типами лиц по расовому признаку, но в своих найденных признаках свойство расы может быть отражено, так как оно помогает нейросети ориентироваться по разным типам лиц. Эти признаки могут никак не интерпретироваться человеком, потому что это набор нулей и единиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Таблетка против предвзятости: как Гертруда Элайон придумала первые лекарства от рака Таблетка против предвзятости: как Гертруда Элайон придумала первые лекарства от рака

Как упорство и вера в науку помогли Гертруде Элайон изменить медицину?

Forbes
Детокс от регулятора. Можно ли из плохого банка сделать хороший Детокс от регулятора. Можно ли из плохого банка сделать хороший

ЦБ давно вынашивал идею создания банка плохих долгов

Forbes
Как правильно зарядить телефон: простые правила, которые сберегут его аккумулятор Как правильно зарядить телефон: простые правила, которые сберегут его аккумулятор

Что влияет на срок службы аккумулятора и как правильно заряжать телефон

CHIP
Божественные острова Божественные острова

Испанский архипелаг, Канарские острова, это осколок рая в Атлантике

Quattroruote
Вопрос психологу: что мешает нам экономить и как изменить свое отношение к деньгам Вопрос психологу: что мешает нам экономить и как изменить свое отношение к деньгам

Почему экономия часто кажется наказанием и как можно изменить это восприятие

Правила жизни
Психологический глянец, или путь познания Психологический глянец, или путь познания

В модной фотографии ей удалось сделать имя в рекордно короткие сроки

СНОБ
Как стать снайпером: основы снайперского дела Как стать снайпером: основы снайперского дела

Как известно, далеко не каждый стрелок – снайпер

Популярная механика
Шеф-повар Ренцо Гарибальди о мясных блюдах в России Шеф-повар Ренцо Гарибальди о мясных блюдах в России

Ренцо рассказал нам обо всех тонкостях своей профессии

Cosmopolitan
Как потушить огонь... молнией Как потушить огонь... молнией

Почему бы не призвать на помощь инструменты Зевса?

Популярная механика
Команда МГУ впервые стала чемпионом мира по программированию Команда МГУ впервые стала чемпионом мира по программированию

В международном соревновании по программированию победила российская команда

Forbes
6 упражнений, которые сделают твой секс незабываемым 6 упражнений, которые сделают твой секс незабываемым

Добавь эти упражнения к своим тренировкам, и результат не заставит себя ждать

Cosmopolitan
10 Instagram-аккаунтов, в которых нет табу на менструацию 10 Instagram-аккаунтов, в которых нет табу на менструацию

Аккаунты, в которых девушки и женщины не стесняются говорить о менструации

Cosmopolitan
Дробное питание и интервальное голодание: 2 способа сбросить вес Дробное питание и интервальное голодание: 2 способа сбросить вес

Делимся двумя действенными способами сбросить лишний вес

Cosmopolitan
На Золотом кольце… На Золотом кольце…

Вокруг небольшого городка Иваново есть что посмотреть

Лиза
«Я все бросил и уехал» «Я все бросил и уехал»

Андрей Кайдановский вернулся в Москву и поставил в Театре на Таганке спектакль

Добрые советы
Роли в семье: как найти свою Роли в семье: как найти свою

Можно ли понять, какая роль в семье подходит человеку и как ее поменять?

9 месяцев
Романтики наших дней Романтики наших дней

Елена Касаткина оформила дом в Подмосковье в духе “романтического классицизма”

AD
Депрессия у подростка: как выявить и чем помочь Депрессия у подростка: как выявить и чем помочь

Депрессия поражает подростков гораздо чаще, чем принято думать

Домашний Очаг
Это просто детский сад какой-то! Это просто детский сад какой-то!

Что влияет на решение родителей, отдавать ли ребенка в детсад

Psychologies
За что мы любим Юбера де Живанши За что мы любим Юбера де Живанши

10 марта не стало Юбера де Живанши

Esquire
Алексей Миранчук: «Кроме футбола у меня больше ничего нет» Алексей Миранчук: «Кроме футбола у меня больше ничего нет»

Россия – не футбольная или не спортивная страна?

Esquire
Найдена галактика без темной материи Найдена галактика без темной материи

Специалисты обнаружили необычную галактику, в которой темная материя отсутствует

Популярная механика
Некомплект: откровенная история женщины, родившейся без вагины и матки Некомплект: откровенная история женщины, родившейся без вагины и матки

20-летняя британка Таша Бишоп рассказывает свою необычную историю

Cosmopolitan
Головорезы Головорезы

Почему медицинский эксперимент века закончился, не успев начаться

GQ
Культурные ценности, которые мы потеряли из-за собственного кретинизма Культурные ценности, которые мы потеряли из-за собственного кретинизма

В природе все уравновешено и гармонично

Maxim
Тайнопись Тайнопись

Александр Александрович Андроханов о технологии русской мозаики по малахиту

Seasons of life
Секретный ингредиент Секретный ингредиент

Обыкновенная тыква поможет решить множество проблем!

Лиза
12 способов расколоть человека на допросе. Узнай их и молчи! 12 способов расколоть человека на допросе. Узнай их и молчи!

Советы от бывалых агентов ЦРУ

Maxim
Ориентация на доллар. Как валютные вклады помогут приумножить сбережения Ориентация на доллар. Как валютные вклады помогут приумножить сбережения

Доходность по рублевым депозитам достигла рекордно низких значений

Forbes
10 малоизвестных производителей самолётов Франции 10 малоизвестных производителей самолётов Франции

Великолепная десятка французских производителей самолётов

Популярная механика
Открыть в приложении