Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как московские кладбища связаны с ФСБ. Главные факты из расследования Ивана Голунова Как московские кладбища связаны с ФСБ. Главные факты из расследования Ивана Голунова

Главное из расследование Ивана Голунова о московских кладбищах

Forbes
По соображениям разума: как экономика предотвращает войну По соображениям разума: как экономика предотвращает войну

В XX веке между Индией и Пакистаном произошло немало кровопролитных столкновений

Forbes
7 бесплатных альтернатив Microsoft Office: офис без затрат 7 бесплатных альтернатив Microsoft Office: офис без затрат

Бесплатная замена Microsoft Office

CHIP
Дорого-богато: вещи-легенды великих дизайнеров Дорого-богато: вещи-легенды великих дизайнеров

Собрали шесть великих творений дизайнеров, на которые не жалко никаких денег

Cosmopolitan
Как продолжать жить с девушкой, когда вы расстались: жизненно важный гид Как продолжать жить с девушкой, когда вы расстались: жизненно важный гид

Что делать, если разъехаться сразу после расставания невозможно

Playboy
Пламенный мотор. Как мотивировать сотрудников на выполнение рутинной работы Пламенный мотор. Как мотивировать сотрудников на выполнение рутинной работы

Как сделать однообразные операции менее скучными

Forbes
Как выбрать хороший бинокль и не прогадать Как выбрать хороший бинокль и не прогадать

Руководство по выбору бинокля

CHIP
Почему балет дешевле футбола, а билеты на него — дороже? Почему балет дешевле футбола, а билеты на него — дороже?

Зарабатывают ли на гастролях лучшие балетные труппы мира

Forbes
Тест беззеркального фотоаппарата Olympus OM-D E-M1X: лучший в стандарте Микро 4:3 Тест беззеркального фотоаппарата Olympus OM-D E-M1X: лучший в стандарте Микро 4:3

Olympus OM-D E-M1X обладает великолепным оснащением

CHIP
11 тайн российского бизнеса, раскрытых Forbes 11 тайн российского бизнеса, раскрытых Forbes

Срыв покровов с чиновников и миллиардеров

Forbes
Поворот на Запад: как заработать на валютных облигациях Поворот на Запад: как заработать на валютных облигациях

Большой госдолг правительства США — это возможность, а не риск для инвесторов

Forbes
6 самых частых ошибок, которые ты допускаешь после похода в спортзал 6 самых частых ошибок, которые ты допускаешь после похода в спортзал

Вещи, которые ты делаешь после тренировки, могут повредить твоему прогрессу

Playboy
90-е: весело и честно 90-е: весело и честно

25 марта на телеканале СТС стартует сериал «90-е. Весело и громко»

OK!
Audi Q8: Исполняющий обязанности Audi Q8: Исполняющий обязанности

Audi выпускает на рынок свой первый купе-кроссовер Q8

АвтоМир
На русском глобусе климата нет. Подростков и прессы тоже На русском глобусе климата нет. Подростков и прессы тоже

По миру прокатились многотысячные детские экологические митинги

СНОБ
Мetro будет доставлять продукты на дом в российских регионах Мetro будет доставлять продукты на дом в российских регионах

Сеть гипермаркетов Metro занялась розничными продажами через интернет

Forbes
Эпоха Карла Эпоха Карла

19 февраля в Париже умер Карл Лагерфельд

Grazia
Что нельзя делать в самолете? Чеклист из 11 пунктов (ради твоего же блага) Что нельзя делать в самолете? Чеклист из 11 пунктов (ради твоего же блага)

Ты же не хочешь лишних проблем?

Playboy
Новые первые Новые первые

Задумавшись о завтрашнем дне, задались вопросом: о ком будем писать в будущем

Grazia
Сила притяжения Сила притяжения

Зачем нужно понимать механизмы действия силы гравитации

Yoga Journal
Два лучших подарка, которые отец может преподнести дочери Два лучших подарка, которые отец может преподнести дочери

Материальные блага хороши, но сами по себе они не сделают дочку счастливой

Psychologies
Новое платье короля Новое платье короля

Меган Маркл вот-вот начнет задавать тон и в детской моде

Vogue
Девушка из Дании Девушка из Дании

Блогер и стилист Жанетт Фриис Мэдсен рассказала о пути к совершенству

Vogue
Как объяснить на собеседовании, из-за чего тебя уволили с предыдущей работы Как объяснить на собеседовании, из-за чего тебя уволили с предыдущей работы

Как отвечать на вопрос об увольнении с предыдущего места работы

Playboy
10 отличных белых рубашек, вдохновленных образом Карла Лагерфельда (он заказывал рубашки в одном и том же ателье с 16 лет) 10 отличных белых рубашек, вдохновленных образом Карла Лагерфельда (он заказывал рубашки в одном и том же ателье с 16 лет)

История разумного консерватизма и 10 достойных вариантов для вас в придачу

Esquire
На далёкой Амазонке На далёкой Амазонке

Преображение квартиры со сложной архитектурой в лёгкое и светлое пространство

SALON-Interior
Глава банка «Траст» Александр Соколов: «Работа в банке непрофильных активов — это не живопись и не поэзия» Глава банка «Траст» Александр Соколов: «Работа в банке непрофильных активов — это не живопись и не поэзия»

Каких результатов ждут от банка непрофильных активов на базе банка «Траст»

Forbes
Конкурент с Ямала. Как «Новатэк» потеснил «Газпром» в Европе Конкурент с Ямала. Как «Новатэк» потеснил «Газпром» в Европе

Снижение поставок трубопроводного газа ведет к потерям российского бюджета

Forbes
Кнут и пряник Кнут и пряник

15 лет назад в бизнесе было больше анархии, но и больше креатива

Forbes
Другая Африка Другая Африка

Путешествие по Эфиопии

The Rake
Открыть в приложении