Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Пять примеров, как автопилот Tesla спасает жизни Пять примеров, как автопилот Tesla спасает жизни

Система автономного вождения способна на многое

Playboy
Сезон открыт: как правильно выбрать экипировку для катания на горных лыжах или сноуборде Сезон открыт: как правильно выбрать экипировку для катания на горных лыжах или сноуборде

Как выбрать горнолыжную экипировку правильно? Как за ней ухаживать?

Популярная механика
Как противостоять хейтерам Как противостоять хейтерам

Чтобы обзавестись хейтерами, не обязательно становиться популярным

GQ
Праздник по карману Праздник по карману

5 лайфхаков к Новому году: как не разориться на покупках

Лиза
Война, насилие, абьюз: как травмы влияют на психику и почему важно их проработать Война, насилие, абьюз: как травмы влияют на психику и почему важно их проработать

Отрывок из книги «Травма и исцеление» психиатра и феминистки Джудит Герман

Forbes
Оказывается, психологическая устойчивость связана с ответом тела на стресс Оказывается, психологическая устойчивость связана с ответом тела на стресс

Стресс может ускорить старение организма

Популярная механика
Как понять, что у собаки тепловой стресс: инструкция от ученых Как понять, что у собаки тепловой стресс: инструкция от ученых

Симптомы, которые расскажут, что ваша собака страдает от жары

Популярная механика
Женская сексуальность: как развить и проявлять Женская сексуальность: как развить и проявлять

Женская сексуальность — это не внешняя красота и не размер груди

Psychologies
Забытое искусство обрядов посвящения Забытое искусство обрядов посвящения

Вылазка с детьми порой посложнее Ironman и Death Race

Men’s Health
Женские потребности и хрупкое мужское эго. Приведет ли равноправие к исчезновению секса Женские потребности и хрупкое мужское эго. Приведет ли равноправие к исчезновению секса

Приведет ли равенство полов к исчезновению секса

СНОБ
«В бизнесе надо просто не умереть по пути, есть вот такая задачка» «В бизнесе надо просто не умереть по пути, есть вот такая задачка»

Основатель «Партии еды» — зачем продал растущую компанию?

VC.RU
Вплоть до снятия с учета: ГИБДД жестко отреагировала на уловку водителей Вплоть до снятия с учета: ГИБДД жестко отреагировала на уловку водителей

Установка двойных стекол в машине – штраф

РБК
Наше и классное! Лучшие российские фильмы 2021 года, которые ты могла пропустить Наше и классное! Лучшие российские фильмы 2021 года, которые ты могла пропустить

Наше кино бывает отличным. Пусть и иногда немного мрачноватым.

Cosmopolitan
«Жирное заблуждение»: 3 главных мифа о жирах «Жирное заблуждение»: 3 главных мифа о жирах

Отрывок из книги Анны Флек «Жиры против углеводов».

Psychologies
Механические колебания иона увидели в оптический микроскоп Механические колебания иона увидели в оптический микроскоп

Физики смогли увидеть распределение иона иттербия в пространстве

N+1
Как вы считаете? Как вы считаете?

О главных событиях 2022-го для каждого из нас рассказывает нумеролог

Grazia
«Математическое образование заставляет людей думать по-другому» «Математическое образование заставляет людей думать по-другому»

Математик Федор Богомолов — про ученых и о роли математики в других науках

Наука
2400 лошадей под капотом: анонсирован проект шестиколесного, невероятно мощного электрокара от Hennessey Performance 2400 лошадей под капотом: анонсирован проект шестиколесного, невероятно мощного электрокара от Hennessey Performance

Джон Хеннесси задумал создать настоящего монстра из семейства электромобилей

Популярная механика
Жертвы проклятия короля Тутанхамона (и один избежавший злого рока) Жертвы проклятия короля Тутанхамона (и один избежавший злого рока)

Вот история девяти человек, которая может заставить вас поверить в такие вещи

Популярная механика
Развод без девичьей фамилии: как Петр I избавлялся от своих жен Развод без девичьей фамилии: как Петр I избавлялся от своих жен

О крутом нраве Петра I ходили легенды, и все жены государя познали его гнев

Cosmopolitan
Убытки, наркотики и драки: в клубе Haçienda зародился британский эйсид-хаус, но он приносил владельцам одни проблемы Убытки, наркотики и драки: в клубе Haçienda зародился британский эйсид-хаус, но он приносил владельцам одни проблемы

Haçienda — пример того, как предпринимателям не стоит управлять клубом

VC.RU
Hybrid theory: как совмещение реального и цифрового меняет формат работы Hybrid theory: как совмещение реального и цифрового меняет формат работы

Разбираемся, почему традиционный формат работы больше не работает

Inc.
Придется пересмотреть дважды: 10 фото, от которых взрывается мозг Придется пересмотреть дважды: 10 фото, от которых взрывается мозг

Поймать такой момент специально не получится!

Cosmopolitan
Ошибка Google Play: как исправить проблему Ошибка Google Play: как исправить проблему

Как избавиться от ошибки Google Play без особых усилий

CHIP
Как правильно загадывать желания в Новогоднюю ночь? 8 простых способов Как правильно загадывать желания в Новогоднюю ночь? 8 простых способов

Что сделать, чтобы желания точно исполнились?

Cosmopolitan
«Стал отцом русского рэпа»: Оксимирон выпустил альбом «Красота и уродство» «Стал отцом русского рэпа»: Оксимирон выпустил альбом «Красота и уродство»

Оксимирон представил новый альбом. Критики уже оставил отзывы на композиции

Cosmopolitan
И сбоку бантик И сбоку бантик

Простые и эффектные идеи упаковки подарков

Лиза
Энергетика Энергетика

Атомный век научил людей бояться атома

Esquire
Вот тебе и чудо: 5 историй, когда на Новый год что-то пошло не так Вот тебе и чудо: 5 историй, когда на Новый год что-то пошло не так

В новогоднюю ночь порой случаются курьезные, глупые и смешные ситуации

Playboy
Махершала Али — Forbes: «Для создателей фильмов кинотеатр — это убежище» Махершала Али — Forbes: «Для создателей фильмов кинотеатр — это убежище»

Махершала Али в фильме «Лебединая песня»

Forbes
Открыть в приложении