Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Не заводится автомобиль: причины, их симптомы и решения Не заводится автомобиль: причины, их симптомы и решения

Что надо знать автомобилистам о причинах отказа запуска двигателя

РБК
Выше на голову: почему взрослые недооценивают детей и почему дети гораздо умнее взрослых Выше на голову: почему взрослые недооценивают детей и почему дети гораздо умнее взрослых

Как устроен детский мозг и почему дети — это моральные ревизионисты

Esquire
Перестают спать и умирают: ужасная болезнь, которую не умеют лечить Перестают спать и умирают: ужасная болезнь, которую не умеют лечить

Симптомы заболевания кошмарны, лечения от нее нет, а прогноз неутешителен

Cosmopolitan
Почему Фрида Кало рисовала только себя? Почему Фрида Кало рисовала только себя?

Мексиканская художница Фриада Кало была одной из самых ярких женщин ХХ века

Cosmopolitan
Фантазия на тему Фантазия на тему

Хозяева этой квартиры хотели получить нарядный интерьер в классическом стиле

SALON-Interior
Как Иоанна Ангеликус была Папой Римским, пока не родила во время крестного хода Как Иоанна Ангеликус была Папой Римским, пока не родила во время крестного хода

Больше двух лет на папском престоле сидела женщина

Cosmopolitan
ЦСКМС и Арктик СПГ 2: как в Заполярье строят плавучие заводы для сжижения природного газа ЦСКМС и Арктик СПГ 2: как в Заполярье строят плавучие заводы для сжижения природного газа

Суровые условия Арктики окупаются её богатствами

Популярная механика
7 самых неудачливых героев фильмов ужасов 7 самых неудачливых героев фильмов ужасов

У этих героев каждый день — пятница, 13-е

Maxim
Сколько мусора в нашей ДНК? Сколько мусора в нашей ДНК?

Какие «призраки» живут на «кладбищах геномов», и сколько мусора в нашей ДНК?

Популярная механика
Немирные грезы Немирные грезы

Григорий Ревзин о борьбе со злом в ванне

Weekend
Конский хвост XXL: 12 крутых вариантов самой модной прически сезона Конский хвост XXL: 12 крутых вариантов самой модной прически сезона

Одна из самых модных причесок сезона — конский хвост XXL

Cosmopolitan
Не переключайтесь: 23 оригинальных фильма Netflix, вышедших в 2021 году Не переключайтесь: 23 оригинальных фильма Netflix, вышедших в 2021 году

Партия оригинальных и неплохих проектов Netflix 2021 года

Правила жизни
Экология Экология

Самой актуальной антиутопией по-прежнему остается климатическая

Esquire
60 м² 60 м²

Основатели бюро ToTaste решили оставить в квартире открытую кирпичную кладку

AD
80 м² 80 м²

Интерьер в насыщенной цветовой гамме, оформленный Антониной Белинской

AD
Что можно стирать в стиральной машине и как разобраться с правилами стирки вещей Что можно стирать в стиральной машине и как разобраться с правилами стирки вещей

Как стирать вещи, чтобы они не портились?

CHIP
От пионера доставки продуктов в России до потери лидерства и продажи: краткая история ритейлера «Утконос» От пионера доставки продуктов в России до потери лидерства и продажи: краткая история ритейлера «Утконос»

Начинал со «столов заказов», одним из первых отказался от офлайн-магазинов

VC.RU
Великий и ужасный Великий и ужасный

Как Иосиф Сталин полюбил Ивана Грозного

Дилетант
Меню для свидания: что лучше заказывать и как правильно это есть Меню для свидания: что лучше заказывать и как правильно это есть

Как себя вести на романтической встрече и что лучше заказывать на свидании

Cosmopolitan
Почему Роспатент может не одобрить товарный знак «Сучки», но зарегистрирует «Тупого жирного зайца» Почему Роспатент может не одобрить товарный знак «Сучки», но зарегистрирует «Тупого жирного зайца»

Какие слова можно присвоить, а какие нельзя? Как зарегистрировать товарный знак

VC.RU
Два совета, которые предприниматели дали бы себе на старте Два совета, которые предприниматели дали бы себе на старте

Советы от сооснователей XYZ School для начинающих предпринимателей

Inc.
Между принтером и кофемашиной: 7 фильмов о рабочих романах Между принтером и кофемашиной: 7 фильмов о рабочих романах

Рабочие романы в кино: он посмотрел на нее поверх бумаг и увидел, как она хороша

Cosmopolitan
В путешествие с ребенком: как не испортить себе отдых В путешествие с ребенком: как не испортить себе отдых

Время отпусков и путешествий. Встает вопрос: как быть с ребенком?

Psychologies
Дом, который умеет плавать Дом, который умеет плавать

Почему так сложно переехать на сушу после хаусбота

Отдых в России
Дольче и пиканте Дольче и пиканте

Иностранцам многое откроется, если внимательно смотреть, слушать и пробовать

Bones
«Синдром Обломова»: как преодолеть пассивность «Синдром Обломова»: как преодолеть пассивность

Что делать, если пассивность входит в привычку?

Psychologies
50 м² 50 м²

Лина Князева сделала фотогеничный интерьер для блогера

AD
Автор особого назначения Автор особого назначения

Мария Степанова о романах Татьяны Устиновой

Weekend
Кто есть я: 6 увлекательных книг о том, как устроены люди Кто есть я: 6 увлекательных книг о том, как устроены люди

Нескучные научно-популярные книги о человеческой анатомии и физиологии

Популярная механика
Шестое чувство Шестое чувство

Психолог Ирина Млодик — об умении дружить и о том, как изменилась дружба

Seasons of life
Открыть в приложении