Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужна ли России общественная дискуссия о Сталине Нужна ли России общественная дискуссия о Сталине

Почему образ «вождя всех времен и народов» сливается с образом Деда Мороза

СНОБ
Российские археологи представили три античных клада пантикапейкских монет из Крыма Российские археологи представили три античных клада пантикапейкских монет из Крыма

В распоряжении ученых оказались 96 монет и серебряные женские серьги

N+1
Женщина на грани Женщина на грани

Виктория Толстоганова и ее свежая киноработа в мрачном детективе «Казнь»

Harper's Bazaar
Проблемы на работе, о которых мы чаще всего говорим в терапии Проблемы на работе, о которых мы чаще всего говорим в терапии

Терапия помогает справиться с вопросами, касающимися работы

Psychologies
Читай по губам: что форма губ говорит о твоем характере Читай по губам: что форма губ говорит о твоем характере

Как же вычислить характер человека по форме губ

VOICE
Активная позиция Активная позиция

Секс по правилам – твоим, конечно

Cosmopolitan
Чем короче юбка — тем меньше счет: 5 заведений, которые предлагают необычные скидки Чем короче юбка — тем меньше счет: 5 заведений, которые предлагают необычные скидки

Гении ресторанного креатива

Playboy
«Год Тигра встречаю в новом платье»: Анна Бегунова о новогодних традициях «Год Тигра встречаю в новом платье»: Анна Бегунова о новогодних традициях

Анна Бегунова подвела итоги 2021-го и рассказала, как готовится к новому году

Cosmopolitan
Облегчаем пожилым людям знакомство со смартфоном: 7 полезных лайфхаков Облегчаем пожилым людям знакомство со смартфоном: 7 полезных лайфхаков

Лафхаки, которые сберегут вам нервы и помогут быстро освоиться со смартфоном

CHIP
Ихтиозавры достигли размеров современных китов всего за два с половиной миллиона лет Ихтиозавры достигли размеров современных китов всего за два с половиной миллиона лет

Сколько лет потребовалось ихтиозаврам, чтобы превратить в гигантов?

N+1
Нео на пенсии или пародия на современный Голливуд: какой получилась новая «Матрица» Нео на пенсии или пародия на современный Голливуд: какой получилась новая «Матрица»

Как новая «Матрица» стала одновременно пародией и оммажем оригинальной серии

Forbes
Археологи нашли в Пскове артефакт из лосиного рога со знаками Рюриковичей Археологи нашли в Пскове артефакт из лосиного рога со знаками Рюриковичей

Ученые нашли артефакт начала XIII века с лировидным трезубцем

N+1
История компании «Ценципер» История компании «Ценципер»

От культовой реновации Парка Горького до фотовыставок в «Пятерочке»

Inc.
А остальные им завидуют: топ-10 самых влиятельных российских звезд — 2021 А остальные им завидуют: топ-10 самых влиятельных российских звезд — 2021

Самые влиятельные звезды, которые особенно отличились своими успехами

Cosmopolitan
3 главных ошибки на первом свидании 3 главных ошибки на первом свидании

Что ты делаешь не так на первом свидании, с точки зрения девушек и психологов?

Maxim
«Теремок» с секретом. Что ставят в Саратовском театре кукол «Теремок» с секретом. Что ставят в Саратовском театре кукол

О чем мечтают актеры Саратовского театра кукол «Теремок»

СНОБ
Примерзли дворники, запотели стекла. Советы водителям (как избавиться) Примерзли дворники, запотели стекла. Советы водителям (как избавиться)

Чем чистить фары, почему стоит беречь колодки и как избежать наледи на стекле?

РБК
Пчелы запечатали ульи прополисом и пережили извержение вулкана Кумбре-Вьеха Пчелы запечатали ульи прополисом и пережили извержение вулкана Кумбре-Вьеха

Пчелы способны переживать опасные стихийные бедствия

N+1
Свободный человек: как Дмитрий Зимин изменял мир для себя и других Свободный человек: как Дмитрий Зимин изменял мир для себя и других

Главным сюжетом жизни Дмитрия Зимина было постоянное преодоление

Forbes
Грязь как полотно Грязь как полотно

Добро пожаловать в Dirty Car Art

Playboy
Как вы справляетесь с аэрофобией? Как вы справляетесь с аэрофобией?

Лев Рубинштейн об аэрофобии и способах ее преодоления

GQ
Kuzzz-basss. Yeah, baby Kuzzz-basss. Yeah, baby

Путешествие может быть лучше, чем секс, только если оно и есть секс

Playboy
Живые и искусственные ёлки: какие вредят экологии больше и что с ними делать после Нового года Живые и искусственные ёлки: какие вредят экологии больше и что с ними делать после Нового года

Как сказываются на окружающей среде искусственные и живые ёлки?

VC.RU
10 лучших книг по психологии по мнению эксперта 10 лучших книг по психологии по мнению эксперта

Эти книги помогут вам разобраться в устройстве психики и понять свои эмоции

РБК
69 м² 69 м²

В интерьере заказчика Мария Амелина поселила Спайдермена

AD
Итоги года: лучшая научная фантастика 2021 Итоги года: лучшая научная фантастика 2021

Интересные фантастические книги, которые нам принес 2021 год

Популярная механика
«За антисоветскую агитацию и пропаганду» «За антисоветскую агитацию и пропаганду»

В 1987 году численность политических заключённых в СССР выглядела минимальной

Дилетант
Мария Скобцова: как русская поэтесса Серебряного века стала святой Мария Скобцова: как русская поэтесса Серебряного века стала святой

Мария Скобцова (в миру Елизавета) прожила удивительную и очень сложную жизнь

Cosmopolitan
Из песка и тумана Из песка и тумана

Двухэтажный особняк в Подмосковье в стиле современного ар–деко

SALON-Interior
Военные машины прошлого: наследие пращи и лука Военные машины прошлого: наследие пращи и лука

Как лук и праща повлияли на развитие военных машин?

Популярная механика
Открыть в приложении