Случаи, в которых роботы пытаются заменить человека, но у них пока не получается

ForbesHi-Tech

Не только «Сбербанк»: пять самых эпичных ошибок искусственного интеллекта

Наглядные случаи, в которых роботы пытаются заменить человека, но у них пока не получается

Артем Гладких 

rtx6m61x.jpg__1551795657__23673.jpg
Фото Matthew Stock / REUTERS

Ошибки искусственного интеллекта на миллиарды рублей убытка стали самой громкой технологической новостью недели в России. Точная версия слов президента Сбербанка Германа Грефа остается предметом обсуждения, но стала поводом для того, чтобы вспомнить самые громкие случаи провалов ИИ.

Расизм и дискриминация

Корпорация Amazon, наряду с другими технологическими гигантами США, является одним из центров разработок в области искусственного интеллекта. В 2017 году компания закрыла экспериментальный проект по найму сотрудников на основе ИИ, который вела около трех лет. По словам представителей компании, в результате они ожидали получить некий «Святой Грааль», который мог бы отобрать пятерку лучших кандидатов из сотни резюме. Одной из ключевых проблем стала гендерная дискриминация кандидатов — алгоритм занижал оценки кандидатов-женщин, поскольку был обучен на прошлом десятилетнем опыте отбора кандидатов в Amazon, среди которых преобладали мужчины. Были и другие сложности: алгоритм нередко выдавал практически случайные результаты.

Применение алгоритмов в рекламных инструментах Facebook (соцсеть признана в РФ экстремистской и запрещена) привело к появлению предложений по группировке целевых аудиторий на основе такого признака, как антисемитизм. В 2016 году президенту Microsoft Research Питеру Ли пришлось извиняться за чат-бота Тау, который менее чем за сутки общения с пользователями Twitter научился расистским высказываниям. Проект был приостановлен.

Опасность на дороге

Распространение беспилотных автомобилей выглядит неизбежным будущим, однако еще не решены важные вопросы — например, этический выбор в опасных ситуациях. При этом сами тестовые испытания проходят с трагическими последствиями. Весной 2018 года Uber тестировала беспилотный автомобиль на базе одной из моделей Volvo на улицах города Темп в штате Аризона, США. Машина сбила женщину насмерть. Тестирование автопилота проводилось при сниженной чувствительности к распознанным опасным объектам, чтобы избежать ложных срабатываний. Когда порог чувствительности снижался, система видела опасные объекты там, где их не было.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Татьяна Черниговская feat. Лев Лурье: «В мире творится полное безумие — ему требуется психиатр» Татьяна Черниговская feat. Лев Лурье: «В мире творится полное безумие — ему требуется психиатр»

Футуристические сценарии обсудили Татьяна Черниговская и Лев Лурье

Собака.ru
Робин Райт: настоящая Снежная королева Вашингтона Робин Райт: настоящая Снежная королева Вашингтона

Она завершила съемки культового сериала «Карточный домик». Одна

Playboy
Есть, чего ждать: самые ожидаемые смартфоны 2019 года Есть, чего ждать: самые ожидаемые смартфоны 2019 года

Какие телефоны мы с особым нетерпением ждем в 2019 году

CHIP
Ирония судьбы Ирония судьбы

Способность острить и смеяться над чужими шутками определяет отношения с миром

Добрые советы
Умоляю верить Умоляю верить

Наталия Архангельская провела нас по всем кругам ада анонимного мессенджера

Tatler
Как общаться с коллегами, которые слишком много говорят Как общаться с коллегами, которые слишком много говорят

Почему некоторые люди так много говорят

Psychologies
Восточный стиль – это просто: 5 шагов к постижению модного дзена Восточный стиль – это просто: 5 шагов к постижению модного дзена

Пошаговая инструкция по освоению восточного стиля

Cosmopolitan
10 фильмов с Анджелиной Джоли, которые нужно увидеть 10 фильмов с Анджелиной Джоли, которые нужно увидеть

Десять соблазнительных ролей Анджелины Джоли, которые обязательно нужно увидеть

Cosmopolitan
Михаил Башкатов «Что я делаю лучше всего? Сыновей» Михаил Башкатов «Что я делаю лучше всего? Сыновей»

Актер признался, что обожает помедитировать, когда моет посуду

StarHit
Алкогений: Тиберий Алкогений: Тиберий

Людей поили допьяна, а потом перевязывали им члены, лишая возможности помочиться

Maxim
Соль, медь и два бунта Соль, медь и два бунта

Управление доходами через дорогую соль и дешёвую медь привело к восстаниям

Дилетант
4 странных способа предсказать погоду (и они работают!) 4 странных способа предсказать погоду (и они работают!)

Против всякой логики — это работает!

Playboy
Цифровой прорыв: как компании привлекают женщин в ИТ Цифровой прорыв: как компании привлекают женщин в ИТ

Гендерный баланс положительно сказывается на бизнес-показателях

Forbes
Как сделать антенну для цифрового телевидения своими руками Как сделать антенну для цифрового телевидения своими руками

Как быстро смастерить антенну для эфирного стандарта из подручных материалов

CHIP
Драки, взрывы и ОМОН: 10 неожиданных историй о миллиардерах Драки, взрывы и ОМОН: 10 неожиданных историй о миллиардерах

Самые занимательные истории из бурных биографий миллиардеров

Forbes
Оно того (не) стоило: самые безумные траты знаменитостей Оно того (не) стоило: самые безумные траты знаменитостей

Рассказываем, на что селебрити без зазрения совести тратят свои миллионы

Cosmopolitan
До встречи в Монако До встречи в Монако

Самые дорогие вещи обычно не самые крупные

Robb Report
Новорожденный: чего боятся родители? Новорожденный: чего боятся родители?

Что нормально для взрослого, может быть патологией для малыша, и наоборот

9 месяцев
Короли кэша: 10 миллиардеров с наибольшими доходами. Рейтинг Forbes Короли кэша: 10 миллиардеров с наибольшими доходами. Рейтинг Forbes

Миллиардеры, которые в 2018 году заработали в общей сложности более $11 млрд

Forbes
6 страшных способов наказаний, которые используются до сих пор 6 страшных способов наказаний, которые используются до сих пор

Это страшный сон? Нет, это реальность XXI века

Playboy
Уровень цитирования: бог Уровень цитирования: бог

Самые актуальные библейские цитаты на все случаи жизни

Maxim
Сын Андрея Носкова: «После школы подрабатываю инструктором» Сын Андрея Носкова: «После школы подрабатываю инструктором»

Дети актера Андрея Носкова – об условиях, поставленных отцом

StarHit
История Брюса Уиллиса — человека, который круче самого себя История Брюса Уиллиса — человека, который круче самого себя

19 марта 1955 г. родился Брюс Уиллис

Maxim
О мой бохо! О мой бохо!

В этом сезоне Maje продолжают сотрудничество с молодыми талантами

Grazia
Как смириться с физическим недостатком Как смириться с физическим недостатком

Как перестать зацикливаться на собственных недостатках?

Psychologies
Социальное равенство: как преодолеть скрытые предрассудки Социальное равенство: как преодолеть скрытые предрассудки

Замечать различия между людьми — естественное свойство человека

Psychologies
Мужественность: почему она присуща не всем мужчинам Мужественность: почему она присуща не всем мужчинам

Женщина хочет видеть в партнере уверенного в себе, сильного человека

Psychologies
Откуда берутся и как живут нарциссы Откуда берутся и как живут нарциссы

Самовлюбленность и завышенная самооценка — основные признаки нарциссизма

Psychologies
Esquire Heroes: вечеринка, на которой вы узнаете имена, которые нужно запомнить Esquire Heroes: вечеринка, на которой вы узнаете имена, которые нужно запомнить

22 марта на одной из станций московского метрополитена Esquire устроит вечеринку

Cosmopolitan
От спроса к предложению От спроса к предложению

В 2018 году обозначился поворот в направлении экономики предложения

Forbes
Открыть в приложении