Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Прекрасная халатность Прекрасная халатность

Александр Клячин выставляет коллекцию среднеазиатских халатов из иката

Tatler
«Покидая Неверленд»: что думают о скандальном фильме Бородина, Глюкоза и другие «Покидая Неверленд»: что думают о скандальном фильме Бородина, Глюкоза и другие

Какой точки зрения придерживаются звезды относительно фильма «Покидая Неверленд»

Cosmopolitan
7 бесплатных альтернатив Microsoft Office: офис без затрат 7 бесплатных альтернатив Microsoft Office: офис без затрат

Бесплатная замена Microsoft Office

CHIP
6 правил выживания в Арктике. Рассказывает покоритель Северного полюса 6 правил выживания в Арктике. Рассказывает покоритель Северного полюса

Плюс, офигенный фоторепортаж

Playboy
Голосовые практики осознанности Голосовые практики осознанности

Три медитации на звук

Yoga Journal
Похитители времени Похитители времени

Почему ты весь день крутишься на работе, а дела остаются невыполненными

Лиза
В продаже появилась Библия для миллениалов в стиле «Инстаграма» В продаже появилась Библия для миллениалов в стиле «Инстаграма»

Последний шанс вернуть хипстеров в лоно церкви!

Maxim
«Мальчик в свете фар»: фрагмент книги Самюэля Бьорка, которая понравится любителям скандинавского нуара «Мальчик в свете фар»: фрагмент книги Самюэля Бьорка, которая понравится любителям скандинавского нуара

Отрывок из нового романа Сэмюэля Бьорка о загадочном маньяке

Esquire
Селфи на миллиард: как Кайли Дженнер стала самым молодым участником рейтинга Forbes в истории Селфи на миллиард: как Кайли Дженнер стала самым молодым участником рейтинга Forbes в истории

21-летняя Кайли Дженнер стала обладательницей миллиардного состояния

Forbes
Офшор на замке. Как переформатировать бизнес под требования регуляторов Офшор на замке. Как переформатировать бизнес под требования регуляторов

Вступившие в силу законы меняют правила бизнеса в популярных офшорах

Forbes
Особенный ребенок: Как распознать аутизм? Особенный ребенок: Как распознать аутизм?

Как вовремя понять, что с ребенком что-то не так

Лиза
Дед «Джамбо-джет»: самый известный пассажирский самолет в мире Дед «Джамбо-джет»: самый известный пассажирский самолет в мире

Boeing 747 отметил в этом году полувековой юбилей

Популярная механика
Из рук в руки Из рук в руки

15 лет российского футбола в историях пяти клубов

Forbes
Компакт-диск: почему он будет жить еще долго Компакт-диск: почему он будет жить еще долго

Краткая история компакт-дисков

Популярная механика
Свидания 200 и 300 лет назад: как знакомились, что надевали и на что надеялись Свидания 200 и 300 лет назад: как знакомились, что надевали и на что надеялись

Как знакомились молодые люди в XVIII — XIX веке

Cosmopolitan
Алиса Фрейндлих. Очень личное Алиса Фрейндлих. Очень личное

Алиса Фрейндлих и ее исторический приход в БДТ

СНОБ
Закон противоположностей Закон противоположностей

Сравнительный тест Mazda CX-5 и Ford Kuga

АвтоМир
Многообразие украшений для мужчин на показе Gucci осень-зима 2019 Многообразие украшений для мужчин на показе Gucci осень-зима 2019

Теперь парням предложено носить колье, чокеры и даже огромные серьги-каффы

Esquire
Осторожно: гаджеты! Осторожно: гаджеты!

Можно ли снизить вред от гаджетов, не отказываясь от них совсем?

Лиза
Дети не вредят карьере женщины. Это делают мужчины Дети не вредят карьере женщины. Это делают мужчины

Пора перестать винить матерей в проблемах, созданных отцами

Psychologies
Учёные, ставшие фантастами: Владимир Обручев и Ник Перумов Учёные, ставшие фантастами: Владимир Обручев и Ник Перумов

Хорошая фантастика порой почти неотличима от добротно написанного научпопа

Популярная механика
Питомцы знаменитостей, которые до смешного похожи на своих хозяев Питомцы знаменитостей, которые до смешного похожи на своих хозяев

Перед тобой 11 знаменитостей и их любимые домашние животные

Playboy
Что делать, когда девушка отбирает одеяло, а собака отнимает всю кровать? Что делать, когда девушка отбирает одеяло, а собака отнимает всю кровать?

Что делать, когда девушка отбирает одеяло, а собака отнимает всю кровать?

Playboy
Проект Homo Sedens изучил, как просмотр сериалов влияет на тебя Проект Homo Sedens изучил, как просмотр сериалов влияет на тебя

Недавно на просторах мировой сети появился информационный проект Homo Sedens

Maxim
Кристина Хендрикс. Натуральная величина Кристина Хендрикс. Натуральная величина

Где бы Кристина Хендрикс ни появлялась, мужчины забывали о приличиях

Караван историй
Александр Блок в Большом драматическом Александр Блок в Большом драматическом

Как Александр Блок в 1919 году стал Председателем режиссерского управления БДТ

СНОБ
Оставь все свои дела и посмотри эти 7 лучших российских короткометражек Оставь все свои дела и посмотри эти 7 лучших российских короткометражек

Комиксы, Хаски, и Быков – благодать

Playboy
Бег по кругу: что мешает вам добиться успеха? Бег по кругу: что мешает вам добиться успеха?

Какие страхи мешают состояться в жизни и воплотить мечту

Psychologies
Тьма рождает холод: как сделать квантовый холодильник Тьма рождает холод: как сделать квантовый холодильник

Физики использовали светодиоды, чтобы изготовить микроскопический холодильник

Forbes
Твит дня: рьяная противница Трампа так ему похлопала, что стала героиней мемов (видео) Твит дня: рьяная противница Трампа так ему похлопала, что стала героиней мемов (видео)

Когда от овации до обструкции один шаг!

Maxim
Открыть в приложении