Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Освободи извилину! 7 упражнений для развития творческого мышления Освободи извилину! 7 упражнений для развития творческого мышления

Освободи извилину! 7 упражнений для развития творческого мышления

Maxim
Как две подруги создали сервис аренды женской одежды стоимостью в $1 млрд Как две подруги создали сервис аренды женской одежды стоимостью в $1 млрд

Американский стартап Rent the Runway стал «единорогом»

Forbes
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Слабая позиция. Почему женщины зарабатывают меньше мужчин Слабая позиция. Почему женщины зарабатывают меньше мужчин

Гендерный разрыв в зарплатах действительно существует

Forbes
Здесь и сейчас Здесь и сейчас

Что такое skip-care, зачем защищаться от смартфонов и почему эколюкс — будущее

Grazia
Большой Большой

Слон слишком удивителен и велик, шутка ли — объять необъятное

Вокруг света
OCCRP рассказал об «офшорной империи» «Тройки Диалог» OCCRP рассказал об «офшорной империи» «Тройки Диалог»

Инвестбанк «Тройка Диалог» создал сеть офшоров

Forbes
Кроссовки дня: кеды-таби Maison Margiela как пример андеграундного дизайна, который эпатирует вот уже 30 лет подряд Кроссовки дня: кеды-таби Maison Margiela как пример андеграундного дизайна, который эпатирует вот уже 30 лет подряд

Чем примечательны кеды-таби

Esquire
Разум и чувства Разум и чувства

«Джастин говорит «чувствую», а я — «думаю». В этом наше большое различие»

Glamour
Пять трешовых фильмов из Южной Кореи: боевики Голливуда покажутся цветочками Пять трешовых фильмов из Южной Кореи: боевики Голливуда покажутся цветочками

Контент для тех, кто устал от банальщины

Playboy
Новые первые Новые первые

Задумавшись о завтрашнем дне, задались вопросом: о ком будем писать в будущем

Grazia
Эльвира Галимова: Эльвира Галимова:

Cosmopolitan пообщался с Эльвирой Галимовой

Cosmopolitan
Спасти тигра. Как каждый может помочь амурским тиграм, которых в России осталось всего 540 Спасти тигра. Как каждый может помочь амурским тиграм, которых в России осталось всего 540

За последние 100 лет в мире стало на 96% меньше тигров

Esquire
«Хит» начинает, играет и выигрывает «Хит» начинает, играет и выигрывает

Знакомимся с участниками музыкальной группы «Хит»

StarHit
Игры в облаках: зачем Nvidia покупает производителя сетевых устройств за $6,9 млрд Игры в облаках: зачем Nvidia покупает производителя сетевых устройств за $6,9 млрд

Вспомогательное оборудование, о котором знает не каждый пользователь

Forbes
Перемены неизбежны Перемены неизбежны

Мода будущего: одежда из 3D-принтера, отказ от меха и экзоскелеты

Grazia
Как программисты из России ускорили интернет и заработали $670 млн Как программисты из России ускорили интернет и заработали $670 млн

Что привлекает в технологии Nginx ее клиентов

Forbes
Сальма Хайек о борьбе с расизмом и женской свободе Сальма Хайек о борьбе с расизмом и женской свободе

Политика Трампа, объективация женщин — для актрисы нет запретных тем

Vogue
Ар–деко и не только Ар–деко и не только

Респектабельный, статусный интерьер двухуровневого пентхауса с видом на море

SALON-Interior
Audi A8: Горе от ума Audi A8: Горе от ума

Всем хороша «восьмерка» от Audi: красива, комфортабельна и быстроходна

АвтоМир
Полугусеничные автомобили: хороший старт и скромный финиш Полугусеничные автомобили: хороший старт и скромный финиш

В начале ХХ века никто не сомневался в перспективах полугусеничной техники

Популярная механика
Как девушки борются за равноправие в футболе Как девушки борются за равноправие в футболе

XXI век — век равноправия

Vogue
KPI от отчаяния. Что не так с оценкой работы чиновников KPI от отчаяния. Что не так с оценкой работы чиновников

Как авторы внедрения KPI в государственное управление повторяют старую ошибку

Forbes
45 лучших брендов в России 45 лучших брендов в России

20 российских и 25 международных торговых марок вошли в список лучших брендов

Forbes
12 причин отказаться от диет 12 причин отказаться от диет

В долгосрочной перспективе диеты бесполезны и вредны

Psychologies
«Для меня вчера начался новый этап жизни»: речь Михаила Абызова в суде «Для меня вчера начался новый этап жизни»: речь Михаила Абызова в суде

Михаил Абызов сказал, что готов сотрудничать со следствием

Forbes
S.T. Я люблю тебя S.T. Я люблю тебя

В преддверии концерта ST в Москве мы решили постричь и побрить его в барбершопе

Cosmopolitan
9 мужских наручных часов, которые стоят, как маленький остров (а так и не скажешь) 9 мужских наручных часов, которые стоят, как маленький остров (а так и не скажешь)

Не все то дорого, что с бриллиантами

Playboy
Почетные кости Почетные кости

Советская агиткость из коллекции Александра Добровинского

The Rake
Алкогений: Джек Лондон Алкогений: Джек Лондон

«Я в первый раз напился пяти лет от роду...»

Maxim
Открыть в приложении