Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

#инструктаж: как побороть стресс и тревогу этой осенью #инструктаж: как побороть стресс и тревогу этой осенью

Шесть простых практик, которые помогут отвлечься от тревожных мыслей

РБК
Что такое «Ядро Демона» и почему оно так называется? Что такое «Ядро Демона» и почему оно так называется?

Как маленький металлический шар может быть опасным?

Популярная механика
Идеальная формула: как различные компоненты меняют свойства жевательной резинки Идеальная формула: как различные компоненты меняют свойства жевательной резинки

Рассказываем, на какие компоненты обращать внимание при покупке жвачки

Популярная механика
Не логотипом единым: как на самом деле создаются бренды Не логотипом единым: как на самом деле создаются бренды

Брендинг в понимании многих компаний — это все еще формула «название + логотип»

Inc.
Можем ли мы деградировать обратно в обезьян? Можем ли мы деградировать обратно в обезьян?

Может ли очень старый человек однажды превратиться в обезьяну?

Популярная механика
Бодишейминг: что это и как ему противостоять Бодишейминг: что это и как ему противостоять

В чем причины бодишейминга, чем он опасен и как ему противостоять

РБК
Страшные мысли наших детей: можем ли мы помочь? Страшные мысли наших детей: можем ли мы помочь?

Душевное состояние детей и подростков вызывает серьезнейшие опасения

Psychologies
Нашли общий язык: самые скандальные звездные поцелуи ever Нашли общий язык: самые скандальные звездные поцелуи ever

Самые горячие и неожиданные поцелуи знаменитостей

VOICE
Полюбить эпик фейлы: как сделать ошибку лучшим другом на пути к успеху Полюбить эпик фейлы: как сделать ошибку лучшим другом на пути к успеху

Страх — это всего лишь эмоция, но она может стать серьезным препятствием

Cosmopolitan
О чем надо помнить инвесторам при выборе ESG-стратегии О чем надо помнить инвесторам при выборе ESG-стратегии

Рынок устойчивых инвестиций до сих пор не сбалансирован и имеет ряд проблем

Forbes
Хобби-терапия Хобби-терапия

Как хобби помогают восполнить внутреннюю энергию?

Добрые советы
Сати Спивакова: «Я не знаю, уснул ли в муже Отелло» Сати Спивакова: «Я не знаю, уснул ли в муже Отелло»

Сати Спивакова — о муже маэстро Спивакове и семейных традициях

Караван историй
Козыри разведчика: как принимать решения по методике британских спецслужб Козыри разведчика: как принимать решения по методике британских спецслужб

Отрывок из книги «Прицельное мышление» о главном навыке разведчика

Forbes
Клуб веселых и низвергнутых: как КВН стал социальным лифтом и почему перестал им быть Клуб веселых и низвергнутых: как КВН стал социальным лифтом и почему перестал им быть

"КВН уже не тот". Разбираемся, так ли это на самом деле и почему

Esquire
Ольга Арлаускас: «Все люди заслуживают внимания, одобрения и принятия» Ольга Арлаускас: «Все люди заслуживают внимания, одобрения и принятия»

Героиня номера – Ольга Арлаускас, известная работами на социальную тематику

Grazia
Грумеры боятся стричь пуделей: 5 интересных фактов о собачьих парикмахерах Грумеры боятся стричь пуделей: 5 интересных фактов о собачьих парикмахерах

Делимся некоторыми интересными фактами о работе грумеров

Популярная механика
«Новые технологии стерли былые социальные перегородки» «Новые технологии стерли былые социальные перегородки»

Пятерка главных «гуманитарных» трендов, изменивших мир за 15 лет

РБК
Юрий Никулин: Вызвать смех — гордость для меня Юрий Никулин: Вызвать смех — гордость для меня

Юрий Никулин — наш любимый клоун и один из величайших комиков мира

Лиза
На ликвидной волне На ликвидной волне

Объем первичных размещений акций российских компаний установил 10-летний рекорд

Forbes
Откровенно говоря Откровенно говоря

Рози Хантингтон-Уайтли развеяла миф о том, что нижнее белье стоит скрывать

Grazia
Как пить дать: антипохмельный гид Esquire Как пить дать: антипохмельный гид Esquire

Как свести негативное влияние алкоголя на здоровье к минимуму?

Esquire
Синдром мертвых ягодиц: реальная опасность сидячей работы Синдром мертвых ягодиц: реальная опасность сидячей работы

Какая реальная проблема развивается у тех, кто долго сидит?

Cosmopolitan
«Чайник» за рулем. Как решить проблему аварий с участием неопытных водителей «Чайник» за рулем. Как решить проблему аварий с участием неопытных водителей

В России, как известно, две беды, и часто они приходят парой

СНОБ
Берлин, 22 июня… Берлин, 22 июня…

В тот день футбол интересовал немцев больше, чем сообщения о военных действиях

Дилетант
Как избавиться от мозолей и научиться правильно выбирать обувь Как избавиться от мозолей и научиться правильно выбирать обувь

Несколько советов, чтобы шагать было весело

Playboy
«В молодости надо зарабатывать, а когда построишь бизнес — отдавать. Бизнес провалится без доброго взгляда на мир» «В молодости надо зарабатывать, а когда построишь бизнес — отдавать. Бизнес провалится без доброго взгляда на мир»

Что Дмитрий Зимин думал о создании компании, просветительстве и предпринимателях

VC.RU
Как стать богатым и счастливым: рецепт от основателя «Вымпелком» Дмитрия Зимина Как стать богатым и счастливым: рецепт от основателя «Вымпелком» Дмитрия Зимина

Как Зимин создавал «Вымпелком»

Forbes
«У владельцев есть искушение превратить компании в кеш-машину» «У владельцев есть искушение превратить компании в кеш-машину»

Почему Forbes выбрал первого вице-премьера Андрея Белоусова регулятором года?

Forbes
Убегающие от быков люди указали на новый тип пешеходной динамики Убегающие от быков люди указали на новый тип пешеходной динамики

Коллаборация физиков разобралась с поведением толпы во время бычьих бегов

N+1
Смеемся до последнего: разговор с режиссером Смеемся до последнего: разговор с режиссером

Адам Маккей с удовольствием превращает леденящие кровь темы в комедийные сюжеты

Esquire
Открыть в приложении