Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Удовольствие по щелчку Удовольствие по щелчку

Откуда взялась мода на селфи и почему все люди делают это

Вокруг света
Ледилайк: 12 главных образов весны в самом женственном стиле Ледилайк: 12 главных образов весны в самом женственном стиле

В чем пойти на работу, собеседование, важную встречу?

Cosmopolitan
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
«Я бы избегал термина колонизация»: Глава коллегии ЕЭК о новом Шелковом пути «Я бы избегал термина колонизация»: Глава коллегии ЕЭК о новом Шелковом пути

Что за проекты реализуются в рамках концепции «Один пояс, один путь»

Forbes
Стальные кадры: как заместитель Мордашова по персоналу стал его партнером в интернет-бизнесе Стальные кадры: как заместитель Мордашова по персоналу стал его партнером в интернет-бизнесе

Андрей Митюков применил талант сокращать людей в новом проекте «Севергрупп»

Forbes
Спасти тигра. Как каждый может помочь амурским тиграм, которых в России осталось всего 540 Спасти тигра. Как каждый может помочь амурским тиграм, которых в России осталось всего 540

За последние 100 лет в мире стало на 96% меньше тигров

Esquire
45 лучших брендов в России 45 лучших брендов в России

20 российских и 25 международных торговых марок вошли в список лучших брендов

Forbes
Вызов гравитации Вызов гравитации

Как научиться удерживаться в стойке на руках без труда

Yoga Journal
Языком танца Языком танца

Ильдар Гайнутдинов в 18 лет добился высот, к которым стремятся многие

OK!
Меньшее из зол Меньшее из зол

Ребекка Фергюсон не побоялась примерить на себя образ злодейки

Grazia
Надо ли смотреть «Счастливого нового дня смерти»: рецензия MAXIM Надо ли смотреть «Счастливого нового дня смерти»: рецензия MAXIM

Смешной хоррор про то, что все страшное возвращается по кругу, вернулся по кругу

Maxim
Гиалуроновая кислота: вопросы и ответы Гиалуроновая кислота: вопросы и ответы

Что такое гиалуроновая кислота и как она действует на кожу?

9 месяцев
Какие послания таят наши опоздания? Какие послания таят наши опоздания?

Какие сообщения люди посылают в мир своими опозданиями

Psychologies
«Это управляемая передача власти»: экономисты о том, что значит уход Назарбаева для России «Это управляемая передача власти»: экономисты о том, что значит уход Назарбаева для России

Что отставка Нурсултана Назарбаева значит для бизнеса и экономики России

Forbes
Темная сторона Tinder: 6 признаков, что ты общаешься с мошенником Темная сторона Tinder: 6 признаков, что ты общаешься с мошенником

Кто предупрежден — тот вооружен.

Playboy
Как супергерои из комиксов вдохновляют дизайнеров Как супергерои из комиксов вдохновляют дизайнеров

Женщина-кошка, Человек-паук и эстетика историй про людей со сверхспособностями

Vogue
Со всем уважением. Чем обернется для Рунета  закон об оскорблении власти Со всем уважением. Чем обернется для Рунета  закон об оскорблении власти

Штрафные санкции за оскорбление власти открывают путь к злоупотреблениям

Forbes
Все, что вам нужно знать о топсайдерах Все, что вам нужно знать о топсайдерах

Рассказываем, кто придумал топсайдеры,и как их правильно носить

GQ
Как нужно мыть мужские волосы? Ответы на 9 главных вопросов, которые спасут ваши головы Как нужно мыть мужские волосы? Ответы на 9 главных вопросов, которые спасут ваши головы

Как выбрать шампунь? Как часто нужно мыть волосы? Нужен ли кондиционер?

Playboy
“Закатать в асфальт” с Мэлом Гибсоном: взгляд из прошлого века на наши проблемы “Закатать в асфальт” с Мэлом Гибсоном: взгляд из прошлого века на наши проблемы

“Закатать в асфальт” — старомодный полицейский боевик о самых насущных темах

Esquire
Как девушки борются за равноправие в футболе Как девушки борются за равноправие в футболе

XXI век — век равноправия

Vogue
Певец науки: Ким Стэнли Робинсон и его книги Певец науки: Ким Стэнли Робинсон и его книги

Ким Стэнли Робинсон: что это за писатель и чем он знаменит?

Популярная механика
Mercedes-AMG A35: солнечный зайчик Mercedes-AMG A35: солнечный зайчик

Тридцать лет назад самый доступный из AMG уделал бы даже Lamborghini!

Maxim
Неравные возможности. Как Йель и Стэнфорд оказались втянуты в коррупционный скандал Неравные возможности. Как Йель и Стэнфорд оказались втянуты в коррупционный скандал

В США разоблачили крупнейшую коррупционную схему поступления в элитные вузы

Forbes
Спасибо, не надо: что не стоит дарить девушке на 8 марта Спасибо, не надо: что не стоит дарить девушке на 8 марта

Как бы вы ни старались, иногда можно "не угадать" и расстроить, а не обрадовать

CHIP
Подруги или соперницы? Подруги или соперницы?

Женская дружба замешена на крепком «биологическом» тесте и выверена эволюцией

Лиза
Платья 1930-х годов — многообещающий тренд красных дорожек Платья 1930-х годов — многообещающий тренд красных дорожек

Вырезы на спине, струящиеся ткани и декольте обожают дизайнеры и знаменитости

Vogue
Восточный стиль – это просто: 5 шагов к постижению модного дзена Восточный стиль – это просто: 5 шагов к постижению модного дзена

Пошаговая инструкция по освоению восточного стиля

Cosmopolitan
Разум и чувства Разум и чувства

«Джастин говорит «чувствую», а я — «думаю». В этом наше большое различие»

Glamour
Я иду тебя искать Я иду тебя искать

Отчаялись найти любовь в реале и решили попытать счастья в Интернете?

StarHit
Открыть в приложении