Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужна ли России общественная дискуссия о Сталине Нужна ли России общественная дискуссия о Сталине

Почему образ «вождя всех времен и народов» сливается с образом Деда Мороза

СНОБ
Праздник по карману Праздник по карману

5 лайфхаков к Новому году: как не разориться на покупках

Лиза
«Меняйтесь для себя»: читательница VOICE о том, как она похудела почти на 50 кг «Меняйтесь для себя»: читательница VOICE о том, как она похудела почти на 50 кг

История похудения Анны Исраелян

VOICE
В каких продуктах содержится много белка В каких продуктах содержится много белка

Для чего организму белок и как восполнить его дефицит?

РБК
Личные фото скелетонистки Юлии Канакиной, от которых тает лед: смотрим в ее день рождения Личные фото скелетонистки Юлии Канакиной, от которых тает лед: смотрим в ее день рождения

Юлия Канакина — скелетонистка, приерка Кубка мира и участница рейтинга MAXIM

Maxim
Гном и красавица: на ком женился самый маленький мужчина СССР Гном и красавица: на ком женился самый маленький мужчина СССР

По каким причинам Костя Морозов родился крохотным, никто не знал

Cosmopolitan
Синдром мертвых ягодиц: реальная опасность сидячей работы Синдром мертвых ягодиц: реальная опасность сидячей работы

Какая реальная проблема развивается у тех, кто долго сидит?

Cosmopolitan
Адриен и Клэр Адриен и Клэр

Художники Адриен Мондо и Клэр Барден — о творчестве в паре и будущем

Seasons of life
90 м² 90 м²

Ирина Граве сделала для себя фактурный интерьер и наполнила его искусством

AD
Лучший источник белка: почему тебе нужно обязательно есть куриную грудку Лучший источник белка: почему тебе нужно обязательно есть куриную грудку

Весь ли белок одинаково полезен?

Cosmopolitan
Подушка безопасности: виды, функции и неисправности Подушка безопасности: виды, функции и неисправности

Как система безопасности автомобиля спасает водителя и пассажиров при аварии?

РБК
Почему кровь красная Почему кровь красная

Какого цвета бывает кровь?

Наука и жизнь
Космическая еда: что едят космонавты Космическая еда: что едят космонавты

Что едят космонавты в космосе?

ТехИнсайдер
10 лучших книг по психологии по мнению эксперта 10 лучших книг по психологии по мнению эксперта

Эти книги помогут вам разобраться в устройстве психики и понять свои эмоции

РБК
Физики разобрались с резонансными и нерезонансными задержками фотоионизации молекулы Физики разобрались с резонансными и нерезонансными задержками фотоионизации молекулы

Физики исследовали однофотонную фотоионизацию молекулы NO

N+1
Блондинка в шоколаде Блондинка в шоколаде

Принцесса гламура 2000-х Пэрис Хилтон вновь оказалась в центре внимания!

Grazia
Как сэкономить на платных трассах: советы по выбору транспондера Как сэкономить на платных трассах: советы по выбору транспондера

Транспондер: что это за устройство, как работает и какие виды бывают

РБК
Сколько мусора в нашей ДНК? Сколько мусора в нашей ДНК?

Какие «призраки» живут на «кладбищах геномов», и сколько мусора в нашей ДНК?

Популярная механика
Механические колебания иона увидели в оптический микроскоп Механические колебания иона увидели в оптический микроскоп

Физики смогли увидеть распределение иона иттербия в пространстве

N+1
FX-фактор. Тест-драйв нового Infiniti QX55 FX-фактор. Тест-драйв нового Infiniti QX55

Что может противопоставить немецким конкурентам новый Infiniti QX55

РБК
Новая сексуальная жизнь в новом году Новая сексуальная жизнь в новом году

Полезны советы про секс или вредны — рассказывает семейный психолог

Psychologies
Фильмы о разрушительной силе искусства Фильмы о разрушительной силе искусства

Страшно красивые истории

GQ
Экспедиция за кислой жизнью. Какие сюрпризы ждут человечество на Венере Экспедиция за кислой жизнью. Какие сюрпризы ждут человечество на Венере

Объявлен старт программы Venus Life Finder («Поиск венерианской жизни»)

СНОБ
Илон Маск рекомендует: пять книг, которые стоит прочитать Илон Маск рекомендует: пять книг, которые стоит прочитать

Книги, которые рекомендует Илон Маск

Forbes
Переиграл и уничтожил Переиграл и уничтожил

Евгений Понасенков — как должен одеваться истинный денди и как жить дальше

Собака.ru
Новая вакцина против старения увеличила продолжительность жизни мышей. А с людьми так сработает? Новая вакцина против старения увеличила продолжительность жизни мышей. А с людьми так сработает?

Ученые на шаг приблизились к созданию вакцины от старения

Популярная механика
Взять под контроль: что такое селфхарм и почему люди причиняют себе боль Взять под контроль: что такое селфхарм и почему люди причиняют себе боль

Когда самоповреждающее поведение может маскироваться под норму?

Forbes
Женщины толстеют зимой, а мужчины нет: вот 3 причины, по которым это происходит Женщины толстеют зимой, а мужчины нет: вот 3 причины, по которым это происходит

Почему женщины толстеют зимой чаще, чем мужчины

Cosmopolitan
Проблемы на работе, о которых мы чаще всего говорим в терапии Проблемы на работе, о которых мы чаще всего говорим в терапии

Терапия помогает справиться с вопросами, касающимися работы

Psychologies
Реальный мир или «Матрица»: почему ученые до сих пор спорят о том, где мы находимся Реальный мир или «Матрица»: почему ученые до сих пор спорят о том, где мы находимся

Многие физики всерьез обсуждают теорию о том, что наш мир — лишь матрица

ТехИнсайдер
Открыть в приложении