Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

#инструктаж: как побороть стресс и тревогу этой осенью #инструктаж: как побороть стресс и тревогу этой осенью

Шесть простых практик, которые помогут отвлечься от тревожных мыслей

РБК
Почему «беспощадный художник» Серов отказался писать портреты царской семьи Почему «беспощадный художник» Серов отказался писать портреты царской семьи

Серова называли беспощадным художником, и появилось это прозвище не зря

Cosmopolitan
Дети Арбата: кинотеатр «Художественный» глазами его работников Дети Арбата: кинотеатр «Художественный» глазами его работников

На Новом Арбате вновь открылся легендарный кинотеатр “Художественный”

Esquire
В. И. Ленин у карты ГОЭЛРО В. И. Ленин у карты ГОЭЛРО

Картина принадлежит кисти украинского живописца Леонида Шматько

Дилетант
63 м² 63 м²

Мария Единая оформила брутальный интерьер для своей подруги

AD
30 м² 30 м²

“Инстаграмный” интерьер, который будет эффектно выглядеть и привлекать туристов

AD
Читай по губам: что форма губ говорит о твоем характере Читай по губам: что форма губ говорит о твоем характере

Как же вычислить характер человека по форме губ

VOICE
Планетологи отказались от модели экстремального испарения океана магмы на молодом Меркурии Планетологи отказались от модели экстремального испарения океана магмы на молодом Меркурии

Модель эволюции магматического океана и первичной атмосферы на молодом Меркурии

N+1
Лена Ванина Лена Ванина

Лена Ванина — сценаристка важных сериалов нового времени

Собака.ru
5 русскоязычных альбомов, которые вы не должны были пропускать 5 русскоязычных альбомов, которые вы не должны были пропускать

Ультимативный гид по русскоязычной музыке 2021 года

GQ
Герасим и топор, или Преступление без наказания Герасим и топор, или Преступление без наказания

Вероятно, это самое знаменитое описание преступления в мировой литературе

Дилетант
Как 29-летний белорус построил «единорога» в США, помогая детям с аутизмом Как 29-летний белорус построил «единорога» в США, помогая детям с аутизмом

Elemy — «единорог», который помогает детям с аутизмом получать терапию

Forbes
Это старит! 5 ошибок в макияже, придающих возраст — предупреждает визажист Это старит! 5 ошибок в макияже, придающих возраст — предупреждает визажист

О приемах макияжа, которые вместо того чтобы украсить, накинут тебе 5-10 лет

VOICE
В чем разница между белым и коричневым сахаром В чем разница между белым и коричневым сахаром

В чем отличия между белым и коричневым сахаром, и какой из них полезнее?

Популярная механика
Лев Гумилев. Русская Голгофа Лев Гумилев. Русская Голгофа

Именно в этом музее семья Гумилевых встретилась снова

СНОБ
«Самый масштабный кризис за всю историю»: почему палладий долго будет дороже платины «Самый масштабный кризис за всю историю»: почему палладий долго будет дороже платины

Можно ли заменить палладий платиной? Рассказывает вице-президент ГМК «Норникель»

Forbes
Театр дяди Васи Театр дяди Васи

Знакомимся с хуторским колоритом в природно-ландшафтном парке Ломы

Отдых в России
Немирные грезы Немирные грезы

Григорий Ревзин о борьбе со злом в ванне

Weekend
Только давайте без геморроя! Правила питания за рулём Только давайте без геморроя! Правила питания за рулём

Справиться с автомобильными болезнями нам помогает зарядка и правильные продукты

4x4 Club
Археологи нашли на Дону тройное погребение в заброшенном колодце Археологи нашли на Дону тройное погребение в заброшенном колодце

Погребение сделали носители скифоидной культуры в IV–III веках до нашей эры

N+1
Русская музыка: подкаст о главных именах современной академической сцены. Интервью с композиторами Олегом Крохалевым и Александрой Филоненко Русская музыка: подкаст о главных именах современной академической сцены. Интервью с композиторами Олегом Крохалевым и Александрой Филоненко

Русские композиторы: о Второй мировой и неуверенной в себе музыке

СНОБ
Женская сексуальность: как развить и проявлять Женская сексуальность: как развить и проявлять

Женская сексуальность — это не внешняя красота и не размер груди

Psychologies
Новая сексуальная жизнь в новом году Новая сексуальная жизнь в новом году

Полезны советы про секс или вредны — рассказывает семейный психолог

Psychologies
Почему не надо пить алкоголь натощак? Объясняем наглядно Почему не надо пить алкоголь натощак? Объясняем наглядно

Как алкоголь действует на организм?

Популярная механика
Праздник по карману Праздник по карману

5 лайфхаков к Новому году: как не разориться на покупках

Лиза
Количество видов под угрозой вымирания превысило 40000 Количество видов под угрозой вымирания превысило 40000

Третье в этом году обновление списков Международного союза охраны природы

N+1
Нет повести актуальнее Нет повести актуальнее

«Вестсайдская история»: Стивен Спилберг и его Шекспир, Бернстайн и Нью-Йорк

Weekend
Вопрос имиджа: к чему приведет игнорирование связанных с распространением ИИ рисков Вопрос имиджа: к чему приведет игнорирование связанных с распространением ИИ рисков

Как решить проблему доверия к ИИ?

Forbes
Биткоин как индикатор общественных настроений: почему российские инвесторы любят криптовалюты Биткоин как индикатор общественных настроений: почему российские инвесторы любят криптовалюты

Интерес российских инвесторов к биткоинам — показатель доверия к власти

Популярная механика
Ученые выяснили, какой секс люди считают лучшим в своей жизни Ученые выяснили, какой секс люди считают лучшим в своей жизни

Оказалось, можно вывести формулу лучшего секса

Maxim
Открыть в приложении