Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пять примеров, как автопилот Tesla спасает жизни Пять примеров, как автопилот Tesla спасает жизни

Система автономного вождения способна на многое

Playboy
Дуэль Лермонтова: как друг поэта убил его из-за раскрытой тайны сестры Дуэль Лермонтова: как друг поэта убил его из-за раскрытой тайны сестры

Почему в 26 лет Михаил Лермонтов стрелялся со своим лучшим другом.

Cosmopolitan
Гном и красавица: на ком женился самый маленький мужчина СССР Гном и красавица: на ком женился самый маленький мужчина СССР

По каким причинам Костя Морозов родился крохотным, никто не знал

Cosmopolitan
Маршрут в будущее Маршрут в будущее

Роман Лебедев о педагогических подходах большой перемены

ПУСК
Где слушать музыку онлайн: сравниваем сервисы Где слушать музыку онлайн: сравниваем сервисы

Мы изучили цены и условия подписок на самые популярные музыкальные сервисы

CHIP
Чему создатели метавселенных могут поучиться у 3D-игры Second Life Чему создатели метавселенных могут поучиться у 3D-игры Second Life

Какой создатель Second Life видит метавселенную, исходя из своего опыта

VC.RU
Фильмы, которые оказались лучше книг Фильмы, которые оказались лучше книг

Тот самый момент, когда лучше не читать, а смотреть

Maxim
Как быстрее вылечить насморк: 7 советов врача Как быстрее вылечить насморк: 7 советов врача

Как избавиться от насморка и при этом не навредить себе

РБК
Археологи нашли в Казахстане погребение девушки в царском облачении Археологи нашли в Казахстане погребение девушки в царском облачении

Девушка в царском облачении принадлежала к кочевой элите V–VI веков нашей эры

N+1
Пластика vs естественность: как выглядят звездные многодетные мамы Пластика vs естественность: как выглядят звездные многодетные мамы

Рассматриваем, как сейчас выглядят звездные многодетные мамы!

Cosmopolitan
Путин поддержал идею обсудить закон об иноагентах с журналистами Путин поддержал идею обсудить закон об иноагентах с журналистами

Путин согласился, что закон об иноагентах нужно обсудить с профессионалами

Forbes
Детеныши «единорогов» Детеныши «единорогов»

Forbes составил первый рейтинг самых многообещающих стартапов

Forbes
Наука побеждать Наука побеждать

По требованию Сталина сняли целый цикл картин про русских военачальников

Дилетант
Лев Гумилев. Русская Голгофа Лев Гумилев. Русская Голгофа

Именно в этом музее семья Гумилевых встретилась снова

СНОБ
5 лучших приложений для знакомств с девушками: личный опыт блогера, которого забанили в Tinder 5 лучших приложений для знакомств с девушками: личный опыт блогера, которого забанили в Tinder

Лучшие приложения для знакомств и их специфика

Playboy
12 простых и надежных способов позаботиться о себе в разгар дня 12 простых и надежных способов позаботиться о себе в разгар дня

Как делать что-то полезное для своего тела и психики без отрыва от работы

Psychologies
Воодушевляющий роман о примирении. Сара Морган: «Наше худшее Рождество» Воодушевляющий роман о примирении. Сара Морган: «Наше худшее Рождество»

Отрывок из нового бестселлера Sunday Times и USA Today от Сары Морган

СНОБ
Карен Хачанов: «Когда едешь на Escalade — ты выше всех на дороге» Карен Хачанов: «Когда едешь на Escalade — ты выше всех на дороге»

Карен Хачанов рассказал о любимых автомобилях, стиле вождения и своем характере

РБК
50 м² 50 м²

Сочинская квартира для сдачи в аренду по дизайну Анастасии Комаровой

AD
Вася и Валя, или Когда психолог может помочь влюбленным не проворонить свое счастье Вася и Валя, или Когда психолог может помочь влюбленным не проворонить свое счастье

Как специалист может помочь развеять связанных с прошлым химер?

СНОБ
Интим предлагать Интим предлагать

Когда женщина выбирает отношения без обязательств

Лиза
Чистый вкус Чистый вкус

Минимализм показывает вкус продукта как свидетельство его высокого качества

Bones
«Все подруги замужем, а я?»: как эта установка портит нам жизнь «Все подруги замужем, а я?»: как эта установка портит нам жизнь

Как не сравнивать себя с другими и почему не стоит гнаться за замужеством?

Psychologies
Как вызывают искусственный дождь и вредно ли это для природы Как вызывают искусственный дождь и вредно ли это для природы

Сегодня вам не к чему танцевать с бубном, чтобы вызвать дождь

Популярная механика
Почему мы выбираем отношения, в которых страдаем? Почему мы выбираем отношения, в которых страдаем?

Почему же раз за разом мы попадаем в отношения, в которых нам делают больно

Psychologies
Ольга Арлаускас: «Все люди заслуживают внимания, одобрения и принятия» Ольга Арлаускас: «Все люди заслуживают внимания, одобрения и принятия»

Героиня номера – Ольга Арлаускас, известная работами на социальную тематику

Grazia
Две диеты, мешающие вашему долголетию: что говорит наука Две диеты, мешающие вашему долголетию: что говорит наука

К чему могут привести кетодиета и вегетарианство?

Psychologies
Приманка для топа: как стартапу привлечь опытного менеджера Приманка для топа: как стартапу привлечь опытного менеджера

Как подобрать подходящего управленца и чем его можно заманить в стартап

Inc.
«Это меня вымотало, съело, сожрало, выплюнуло, пережевало и заморозило» «Это меня вымотало, съело, сожрало, выплюнуло, пережевало и заморозило»

Иван Янковский о роли Анатолия Карпова в фильме «Чемпион мира»

Weekend
10 животных с суперспособностями 10 животных с суперспособностями

При взгляде на способности некоторых животных нам остаётся только завидовать

Популярная механика
Открыть в приложении