Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нужна ли России общественная дискуссия о Сталине Нужна ли России общественная дискуссия о Сталине

Почему образ «вождя всех времен и народов» сливается с образом Деда Мороза

СНОБ
Что такое анорексия: симптомы, причины, лечение Что такое анорексия: симптомы, причины, лечение

Что вызывает анорексию, каковые её последствия и как её вылечить?

РБК
Мои любимые «мышки» Мои любимые «мышки»

Летучие мыши — вовсе не мыши с крыльями

Наука и жизнь
Огород для робота: как автоматизированные городские фермы будут кормить человечество Огород для робота: как автоматизированные городские фермы будут кормить человечество

Как вертикальные фермы могут изменить экономику?

СНОБ
17 фильмов про суровую зиму и смерть во льдах 17 фильмов про суровую зиму и смерть во льдах

Если ты вдруг не знаешь, что посмотреть про холодную зиму

Maxim
Как 29-летний белорус построил «единорога» в США, помогая детям с аутизмом Как 29-летний белорус построил «единорога» в США, помогая детям с аутизмом

Elemy — «единорог», который помогает детям с аутизмом получать терапию

Forbes
Из запуганного мальчишки — в легенду Голливуда. Уилл Смит — о том, почему важно уметь отказываться от выгодного на первый взгляд предложения Из запуганного мальчишки — в легенду Голливуда. Уилл Смит — о том, почему важно уметь отказываться от выгодного на первый взгляд предложения

Отрывок из автобиографии Уилла Смита «Will»

Inc.
Расплата для разлучниц: судьба советских актрис, которые увели чужих мужей Расплата для разлучниц: судьба советских актрис, которые увели чужих мужей

Опыт знаменитых советских актрис, которые увели чужих мужей

Cosmopolitan
Автор подкаста Автор подкаста

Секс с близнецами — предельная фантазия или рецепт неудачи?

Playboy
Еда будущего: что может появиться на наших столах уже к 2030 году Еда будущего: что может появиться на наших столах уже к 2030 году

Как изменится пища на нашем столе?

Популярная механика
FX-фактор. Тест-драйв нового Infiniti QX55 FX-фактор. Тест-драйв нового Infiniti QX55

Что может противопоставить немецким конкурентам новый Infiniti QX55

РБК
Турецкие ихтиологи переоткрыли «вымершую» рыбу спустя почти 50 лет Турецкие ихтиологи переоткрыли «вымершую» рыбу спустя почти 50 лет

Ихтиологи переоткрыли редкую рыбу — батманского гольца

N+1
В. И. Ленин у карты ГОЭЛРО В. И. Ленин у карты ГОЭЛРО

Картина принадлежит кисти украинского живописца Леонида Шматько

Дилетант
Войны, драки и теракты: пять самых скандальных поводов для рекламы Войны, драки и теракты: пять самых скандальных поводов для рекламы

Реклама: дерзкая, провокационная — и далеко не всегда этичная

Playboy
Какие пластические операции можно сделать только раз в жизни — мнение врача Какие пластические операции можно сделать только раз в жизни — мнение врача

От каких пластических операций эффект останется на всю жизнь?

Cosmopolitan
Почему японки не полнеют: 10 секретов стройности, которые стоит запомнить Почему японки не полнеют: 10 секретов стройности, которые стоит запомнить

Почему японки не полнеют, что для этого едят и какой образ жизни они ведут

VOICE
Вот тебе и чудо: 5 историй, когда на Новый год что-то пошло не так Вот тебе и чудо: 5 историй, когда на Новый год что-то пошло не так

В новогоднюю ночь порой случаются курьезные, глупые и смешные ситуации

Playboy
Может ли человек создать злонамеренный искусственный интеллект? Может ли человек создать злонамеренный искусственный интеллект?

Что если кто-то решит создать искусственный интеллект для разрушения?

Популярная механика
Зачем fashion-индустрии машинное обучение Зачем fashion-индустрии машинное обучение

От персонализации до предсказания трендов: машинное обучение в fashion-индустрии

Популярная механика
«Я понимала, что он умирает»: откровенный рассказ жены алкоголика «Я понимала, что он умирает»: откровенный рассказ жены алкоголика

Жуткая история борьбы с алкоголизмом

VOICE
Роботы, искусственный интеллект и мир будущего: что почитать любителям фантастики Роботы, искусственный интеллект и мир будущего: что почитать любителям фантастики

Книги, в которых уже можно угадать настоящее

Playboy
Как Генри Кавилл полюбил польский фольклор и превратился в образцового Ведьмака Как Генри Кавилл полюбил польский фольклор и превратился в образцового Ведьмака

Данил Леховицер поговорил с исполнителем главной роли Генри Кавиллом

Esquire
Чтобы найти время на саморазвитие, начните следовать «правилу 20%». Оно популярно среди сотрудников Google Чтобы найти время на саморазвитие, начните следовать «правилу 20%». Оно популярно среди сотрудников Google

Что такое «правиле 20%» и как оно поможет найти время на учебу?

Inc.
Как помочь себе при утренней тревоге Как помочь себе при утренней тревоге

Неудивительно, что по утрам многие из нас испытывают приступы тревоги

Psychologies
Что такое дрожжи и почему их не надо бояться? Что такое дрожжи и почему их не надо бояться?

Что же такое дрожжи? Как они были «одомашнены»?

Популярная механика
Нашли общий язык: самые скандальные звездные поцелуи ever Нашли общий язык: самые скандальные звездные поцелуи ever

Самые горячие и неожиданные поцелуи знаменитостей

VOICE
Какими были новогодние подарки в СССР (много фото) Какими были новогодние подарки в СССР (много фото)

Вспоминаем популярные и желанные подарки в СССР

Maxim
Меган Маркл целовалась в губы с красавчиком Кристофером перед встречей с Гарри Меган Маркл целовалась в губы с красавчиком Кристофером перед встречей с Гарри

Меган Маркл до встречи с принцем Гарри снялась в легкомысленной комедии

Cosmopolitan
Преображение гуманизма. Эпизод 1 Преображение гуманизма. Эпизод 1

В истории почти всегда находились силы, которые преодолевали кризис

Эксперт
Можно ли заработать на инвестициях в салат, овсяное молоко и пиццу из цветной капусты Можно ли заработать на инвестициях в салат, овсяное молоко и пиццу из цветной капусты

Действительно ли компании, производящие овсяное молоко — это хорошее вложение

Forbes
Открыть в приложении