Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Есть ли шанс, что мы живем в «Матрице» Есть ли шанс, что мы живем в «Матрице»

Многие физики всерьез обсуждают теорию о том, что наш мир — лишь матрица

Esquire
Самым богатым россиянином в рейтинге миллиардеров Forbes стал Леонид Михельсон Самым богатым россиянином в рейтинге миллиардеров Forbes стал Леонид Михельсон

Состояние богатейшего россиянина впервые с 2011 года превысило $20 млрд

Forbes

"Алита: боевой ангел": киборги сегодня и через 500 лет

Популярная механика
Анна Снаткина: Анна Снаткина:

Интервью с Анной Снаткиной

Караван историй
От спроса к предложению От спроса к предложению

В 2018 году обозначился поворот в направлении экономики предложения

Forbes
Прожектор Shortparis Прожектор Shortparis

Встреча в фуд-корте с главной авангардной группой поколения Shortparis

Esquire
Дизайнер Nike Тоби Хэтфилд — об инновациях, кроссовках будущего и о том, как совершать обдуманные риски Дизайнер Nike Тоби Хэтфилд — об инновациях, кроссовках будущего и о том, как совершать обдуманные риски

Тоби Хэтфилд о спортивной обуви без шнурков и кроссовках будущего

Esquire
«Я не только мать, но и жена, а муж об этом забыл…» «Я не только мать, но и жена, а муж об этом забыл…»

Рождение долгожданного первенца меняет жизнь пары, и не всегда к лучшему

Psychologies
Что нельзя делать в самолете? Чеклист из 11 пунктов (ради твоего же блага) Что нельзя делать в самолете? Чеклист из 11 пунктов (ради твоего же блага)

Ты же не хочешь лишних проблем?

Playboy
Пачки, кремовые оттенки и другие женственные тренды весны 2019 Пачки, кремовые оттенки и другие женственные тренды весны 2019

Десяток модных направлений нового сезона

Cosmopolitan
Повсюду дома Повсюду дома

Ольга Свиблова показала свой дом — памятник архитектуры 1932 года

AD
Женщины в «мужском» бизнесе: 5 историй Женщины в «мужском» бизнесе: 5 историй

Пять основательниц технологических компаний поделились своими историями

Psychologies
О мой бохо! О мой бохо!

В этом сезоне Maje продолжают сотрудничество с молодыми талантами

Grazia
Треть ультрабогатых россиян запланировали эмиграцию. Куда они поедут после Brexit? Треть ультрабогатых россиян запланировали эмиграцию. Куда они поедут после Brexit?

В 2019 году Лондон обгонит Нью-Йорк по значимости городов для ультрабогатых

Forbes
Села лицом к стене? Ты ей нравишься! 6 нескучных признаков ее симпатии Села лицом к стене? Ты ей нравишься! 6 нескучных признаков ее симпатии

Как понять, что девушка тобой заинтересовалась

Playboy
Всем на зависть Всем на зависть

Громкие романы Собчак и причины расставаний с мужчинами

StarHit
Genesis G70: За что полюбили? Genesis G70: За что полюбили?

В Genesis поняли, как искать поклонников G70

АвтоМир
Вступительные экзамены. Как миллиардеры вливают миллионы в вузы, где учатся их дети Вступительные экзамены. Как миллиардеры вливают миллионы в вузы, где учатся их дети

Помочь детям миллиардеров в США поступить могут законные пожертвования

Forbes
Стоп, снято! Стоп, снято!

Fendi представили рекламную кампанию весенне-летнего сезона

Grazia
«Для меня вчера начался новый этап жизни»: речь Михаила Абызова в суде «Для меня вчера начался новый этап жизни»: речь Михаила Абызова в суде

Михаил Абызов сказал, что готов сотрудничать со следствием

Forbes
Немосковское метро. Как развиваются подземки в российских городах Немосковское метро. Как развиваются подземки в российских городах

Как обстоят дела с метро в городах России?

СНОБ
Государство всеобщего благоденствия и страна лентяев: отрывок из книги Зигмунта Баумана Государство всеобщего благоденствия и страна лентяев: отрывок из книги Зигмунта Баумана

Фрагмент из книги «Ретротопия» — глава «Назад к неравенству»

Forbes
Как спорить с девушкой и обойтись без жертв с обеих сторон? 8 пунктов без шуток Как спорить с девушкой и обойтись без жертв с обеих сторон? 8 пунктов без шуток

Главное — это, конечно, перестать быть бараном

Playboy
9 признаков того, что ты нарцисс: чеклист для тех, кто любит себя больше жизни 9 признаков того, что ты нарцисс: чеклист для тех, кто любит себя больше жизни

Сейчас ты поймешь, здоровая ли это самооценка или расстройство личности

Playboy
$1,5 млрд с картинки: зачем идет на биржу «любимая соцсеть американских мамочек» Pinterest $1,5 млрд с картинки: зачем идет на биржу «любимая соцсеть американских мамочек» Pinterest

«Визуальная» соцсеть Pinterest хочет стать публичной

Forbes
Судьбы реформаторов. Что стало с «агрессивной и ударной» командой Чубайса из РАО ЕЭС Судьбы реформаторов. Что стало с «агрессивной и ударной» командой Чубайса из РАО ЕЭС

Как сложились судьбы команды Анатолия Чубайса

Forbes
Два лучших подарка, которые отец может преподнести дочери Два лучших подарка, которые отец может преподнести дочери

Материальные блага хороши, но сами по себе они не сделают дочку счастливой

Psychologies
Традиции марокканской кухни Традиции марокканской кухни

Рецепты, которые родились в сказочной стране Марокко

9 месяцев
Закрытое правительство: Абызов стал жертвой политического климат-контроля Закрытое правительство: Абызов стал жертвой политического климат-контроля

Кейс Абызова больше говорит о политическом климат-контроле, чем о деловом

Forbes
Между делом Между делом

Чем разбавить деловые встречи и мероприятия в Париже и Милане

Grazia
Открыть в приложении