Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Синдром Плюшкина»: безобидная причуда или личностное расстройство? «Синдром Плюшкина»: безобидная причуда или личностное расстройство?

«Синдром Плюшкина», или «хоардинг» — чем опасен и как лечить?

Psychologies
Мой рок–н–ролл Мой рок–н–ролл

Уютный и минималистичный интерьер для большой семьи

SALON-Interior
Векторный свет превратил атомный газ в компас Векторный свет превратил атомный газ в компас

Физики провели магнитометрию с помощью закрученного света

N+1
Почему все поддерживают Бритни Спирс и признают ее след в поп-культуре Почему все поддерживают Бритни Спирс и признают ее след в поп-культуре

Самое время пересмотреть видеографию Бритни в поисках новых старых идей

РБК
Одинокий изобретатель против автогигантов: история Роберта Кернса, у которого Ford cкопировала «дворники» Одинокий изобретатель против автогигантов: история Роберта Кернса, у которого Ford cкопировала «дворники»

Создатель современных стеклоочистителей для машин десятки лет судился с Ford

VC.RU
История пузырьков на упаковочной пленке История пузырьков на упаковочной пленке

Долгая история лопающегося полиэтилена

Esquire
Квартира, замок, пещера, подземелье Квартира, замок, пещера, подземелье

10 американских кинодомов в 10 цифрах

Weekend
Мировое правительство Мировое правительство

Тайны женщин семейства Ротшильд

Tatler
Между принтером и кофемашиной: 7 фильмов о рабочих романах Между принтером и кофемашиной: 7 фильмов о рабочих романах

Рабочие романы в кино: он посмотрел на нее поверх бумаг и увидел, как она хороша

Cosmopolitan
Собиратели древних тайн Собиратели древних тайн

Где еще искать древние легенды и обычаи народа, как не на рязанской земле?

Отдых в России
Любовь и козы: как семья из Воронежской области строит ферму и продаёт козье молоко Любовь и козы: как семья из Воронежской области строит ферму и продаёт козье молоко

Любовь с козами у Екатерины Дорофеевой началась символично — 14 февраля

Inc.
Сэндвич-увлажнение: что это за бьюти-техника и почему к ней стоит присмотреться Сэндвич-увлажнение: что это за бьюти-техника и почему к ней стоит присмотреться

Разбираем еще один модный бьюти-термин — сэндвич-увлажнение

Cosmopolitan
Фрига как высший смысл Фрига как высший смысл

Кто такие фриганы и зачем они охотятся за просроченными продуктами?

Playboy
Как победить прокрастинацию в обучении Как победить прокрастинацию в обучении

Заядлых прокрастинаторов не пугают даже серьезные последствия их решений

Популярная механика
Астрофизики смоделировали первичную атмосферу Меркурия Астрофизики смоделировали первичную атмосферу Меркурия

У Меркурия была атмосфера, но давным-давно она улетучилась в космос

Популярная механика
«Золотые аферистки»: традиции брака в Иране и как девушки на них зарабатывают «Золотые аферистки»: традиции брака в Иране и как девушки на них зарабатывают

Блогерка Кристина Бошчех — о тонкостях иранского менталитета

Cosmopolitan
Ядерное движение оказалось важным для фотоионизации молекулы водорода Ядерное движение оказалось важным для фотоионизации молекулы водорода

Физики вынуждены отказаться от знаменитого приближения Борна-Оппенгеймера

N+1
Русская музыка: подкаст о главных именах современной академической сцены. Интервью с композиторами Еленой Рыковой и Антоном Васильевым Русская музыка: подкаст о главных именах современной академической сцены. Интервью с композиторами Еленой Рыковой и Антоном Васильевым

Композиторы о творчестве, культурном коде и технологиях

СНОБ
Археологи обнаружили в Норвегии артефакты с руническими надписями Археологи обнаружили в Норвегии артефакты с руническими надписями

Найденная руна, по всей видимости, представляет собой молитву

N+1
Социальное и асоциальное Социальное и асоциальное

Любая соцсеть может стать для человека лекарством или наркотиком

Men’s Health
«Если клиенты видят халяльный логотип, это придаёт им уверенности в продукте»: как устроен исламский банкинг в Индонезии «Если клиенты видят халяльный логотип, это придаёт им уверенности в продукте»: как устроен исламский банкинг в Индонезии

Какие сложности в том, чтобы создать приложение по законам шариата

VC.RU
То, как вы ссоритесь, может многое рассказать о вашей паре То, как вы ссоритесь, может многое рассказать о вашей паре

Распространенные сценарии конфликтов в отношениях

Psychologies
12 простых и надежных способов позаботиться о себе в разгар дня 12 простых и надежных способов позаботиться о себе в разгар дня

Как делать что-то полезное для своего тела и психики без отрыва от работы

Psychologies
Инвестиционный поход Инвестиционный поход

Важен баланс между стабильностью и риском

Esquire
Как феминистка Эми Дилвин стала одной из первых промышленниц Великобритании Как феминистка Эми Дилвин стала одной из первых промышленниц Великобритании

Писательница, предпринимательница, феминистка, миллионерша — все это Эми Дилвин

Forbes
Терагерцовое излучение превратило магноны в фононы Терагерцовое излучение превратило магноны в фононы

Физики исследовали магнон-фононную связь в кристалле дифторида кобальта

N+1
Как супружеская критика портит семейное счастье Как супружеская критика портит семейное счастье

Как в паре выражать недовольство и не ранить другого?

Psychologies
Как изгнанный из армии Сергей Петров стал миллиардером и под давлением продал «Рольф» Как изгнанный из армии Сергей Петров стал миллиардером и под давлением продал «Рольф»

Как создатель «Рольфа» заработал состояние, а потом был вынужден продать бизнес

Forbes
Лучший танк в мире: Т-14 «Армата» запущен в производство Лучший танк в мире: Т-14 «Армата» запущен в производство

Т-14 «Армата» — танк, о котором все отзываются с восхищением

Maxim
Как кумир миллионов Моргенштерн стал врагом для страны Как кумир миллионов Моргенштерн стал врагом для страны

Как честность Моргенштерна сыграла с ним злую шутку

Cosmopolitan
Открыть в приложении