Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Фишинговые атаки: как противостоять интернет-мошенничеству Фишинговые атаки: как противостоять интернет-мошенничеству

Как защитить себя от злоумышленников в интернете?

Популярная механика
Перелетные птицы оказались светлее оседлых Перелетные птицы оказались светлее оседлых

Как светлая окраска помогает перелетным птицам?

N+1
Лена Ванина Лена Ванина

Лена Ванина — сценаристка важных сериалов нового времени

Собака.ru
Как получать удовольствие от неприятных дел? Читаем книгу «Без усилий» Как получать удовольствие от неприятных дел? Читаем книгу «Без усилий»

Зачем мучиться, занимаясь важными делами, если можно ими наслаждаться

РБК
«What the fuck is going on? Вот в чем вопрос!» «What the fuck is going on? Вот в чем вопрос!»

Художник Дэмиен Хёрст о реальности и иллюзии, об искусстве и не-искусстве

Weekend
Шесть «что будет, если...?», на которые должен ответить стартап Шесть «что будет, если...?», на которые должен ответить стартап

Что будет, если проект не зайдет или кончатся деньги?

Inc.
Экология Экология

Самой актуальной антиутопией по-прежнему остается климатическая

Esquire
Зеркальная материя: чем она отличается от антиматерии Зеркальная материя: чем она отличается от антиматерии

Физики вполне серьезно говорят о зеркальном мире или зеркальной материи

Популярная механика
Новгородцам XI века приглянулось катание на костяных коньках Новгородцам XI века приглянулось катание на костяных коньках

Катание на коньках было популярно во второй половине XI — начале XIII века

N+1
53 м² 53 м²

Мужская квартира с удобным кабинетом, спроектированная бюро TS Design

AD
5 самых грозных боевых топоров прошлого: оружие настоящего воина 5 самых грозных боевых топоров прошлого: оружие настоящего воина

Какими топорами сражались в прошлом суровые воители во всем мире

Популярная механика
60 м² 60 м²

Интерьер с ретроатмосферой, созданный Марией Пилипенко

AD
Вплоть до снятия с учета: ГИБДД жестко отреагировала на уловку водителей Вплоть до снятия с учета: ГИБДД жестко отреагировала на уловку водителей

Установка двойных стекол в машине – штраф

РБК
Так и есть: что имеет смысл добавить, а что – убрать из новогоднего меню? Так и есть: что имеет смысл добавить, а что – убрать из новогоднего меню?

Как трансформировать праздничное меню в трапезу продуманного зожника

Esquire
Успех без зависти. Новое поколение и старая классика в новосибирском театре «Глобус» Успех без зависти. Новое поколение и старая классика в новосибирском театре «Глобус»

Рассказ о театре-«паруснике» и трендах театральной режиссуры

СНОБ
Искусственный интеллект Искусственный интеллект

Человек начал бояться восстания роботов еще до того, как научился их создавать

Esquire
Игра «Лила» Игра «Лила»

Светские интроверты, рестораторы Галактион и Элина Табидзе

Tatler
Инвестиционный поход Инвестиционный поход

Важен баланс между стабильностью и риском

Esquire
Безопасная среда: как она помогает исцелиться от психологической травмы Безопасная среда: как она помогает исцелиться от психологической травмы

Как обрести безопасность после травмирующих событий?

Psychologies
80 м² 80 м²

Нарядный, но относительно недорогой интерьер трехкомнатной квартиры

AD
Кто есть я: 6 увлекательных книг о том, как устроены люди Кто есть я: 6 увлекательных книг о том, как устроены люди

Нескучные научно-популярные книги о человеческой анатомии и физиологии

Популярная механика
Ксения Раппопорт Ксения Раппопорт

Ксения Раппопорт — о режиссерах, театре и соцсетях

Собака.ru
Вызов принят Вызов принят

Ирина Горбачёва была номинирована дважды: как «Главный герой» и в «Паре года»

OK!
Цепная реакция, или ветви одного открытия Цепная реакция, или ветви одного открытия

Судьба научной школы Николая Николаевича Семёнова

Наука и жизнь
Россию сместили с пьедестала страха. Чем грозит Москве потеря статуса «врага США №1» Россию сместили с пьедестала страха. Чем грозит Москве потеря статуса «врага США №1»

Россия — уже не главный враг США, чем это грозит?

СНОБ
Подведем итоги: лучшие российские сериалы, которые вышли в 2021 году Подведем итоги: лучшие российские сериалы, которые вышли в 2021 году

Собрали все самое-самое, что сами смотрели с удовольствием в 2021 году

Cosmopolitan
Число Гуччи Число Гуччи

История семьи и бренда Гуччи в метрах, сыновьях, тюремных сроках и киллерах

Weekend
Как правильно стрелять из снайперской винтовки: секреты мастерства Как правильно стрелять из снайперской винтовки: секреты мастерства

Какие факторы ему необходимо учесть, чтобы пуля попала именно туда, куда нужно?

ТехИнсайдер
Времени хватит Времени хватит

Лучшие бьюти-процедуры «на выход»

Добрые советы
Интим предлагать Интим предлагать

Когда женщина выбирает отношения без обязательств

Лиза
Открыть в приложении