Почему человек доверяет компьютеру и к чему это может привести?

VC.RUHi-Tech

Доверие на автопилоте: почему человек верит машине больше, чем людям, — и не напрасно ли

Перевод издания «Идеономика».

Полина Лааксо

1280
Кадр из фильма Спайка Джонса «Она» 2013 года

Журналисты BBC рассказали, почему человек склонен доверять компьютеру и к чему это может привести. Материал перевело издание «Идеономика».

Многие люди заявляют, что скептически относятся к автономным технологиям, но кажется, мы, наоборот, слишком доверяем машинам.

Когда рейс 447 Air France полетел брюхом в Атлантический океан со скоростью почти 300 км в час, пилоту Пьеру-Седрику Бонену пришлось бороться со штурвалом. Он взял управление на себя, когда автопилот внезапно отключился, по-видимому, из-за оледенения на корпусе. Ситуация требовала ручного вмешательства.

Другие пилоты, не предполагавшие такого сценария, не могли стабилизировать самолёт. Их сбивали с толку сообщения и сигналы тревоги от бортового компьютера — всё выглядело так, будто двигатель не заглох, хотя на самом деле ситуация была критической.

Все 216 пассажиров и 12 членов экипажа погибли в тот день, 1 июня 2009 года. У таких несчастных случаев с участием людей и техники обычно существует несколько факторов или причин. Но аналитики частично обвиняют в трагедии рейса 447 чрезмерное доверие к технологиям.

Лётный экипаж надеялся на автопилот и на то, что информационные системы самолёта предоставляют точную информацию. И это далеко не единственный инцидент, в котором излишнее доверие к технологиям привело к гибели людей.

1280
Wikipedia

Это хорошо изученное явление, известное как предвзятость автоматизации, которая иногда также приводит к потере бдительности — то есть люди меньше способны замечать неисправности, когда всем управляет компьютер. Удивительно то, что на эту склонность «слишком доверять» машинам, возможно, напрямую повлияли миллионы лет эволюции.

«Излишнее доверие к технологиям — это ошибка ошеломляющего масштаба», — пишет Патрисия Хардре из Университета Оклахомы. Она утверждает, что людям обычно не хватает способности судить о том, насколько надежна конкретная технология. Мы иногда отказываемся от помощи компьютера в ситуациях, когда это принесёт нам пользу, или слепо доверяем ему тогда, когда он в конечном счёте вредит человеку и угрожает его существованию.

Поведение одного из наших ближайших родственников, шимпанзе, указывает на то, почему мы так плохо умеем оценивать надежность техники. Возможно, причина в том, что мы вместо этого оцениваем других представителей своего вида.

В недавнем эксперименте исследователи создали устройство, позволяющее шимпанзе в заповеднике в Кении получать еду, потянув за верёвку. Одна верёвка предлагала основную награду в виде кусочка банана. Но был второй вариант — более крупное вознаграждение в виде двух кусочков банана и ломтика яблока, которые можно было получить либо с помощью машины, либо от другого шимпанзе.

Однако иногда машина не выдавала угощение, а другой шимпанзе предпочитал не делиться. Таким образом, хотя этот способ потенциально обещал большую награду, его использование предполагало некую неопределённость. А участники-шимпанзе оказывались либо в социальных, либо в несоциальных условиях. Им нужно было довериться либо машине, либо другому шимпанзе, чтобы иметь шанс получить большее вознаграждение.

Исследование показало, что приматы реже выбирали способ, когда на другом конце верёвки оказывался другой шимпанзе, и отказывались участвовать в социальном эксперименте в 12% случаев. Но машину они отвергали только в 4% случаев. Другими словами, технике они доверяли больше.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кто в доме хозяин, или что должен делать хороший муж Кто в доме хозяин, или что должен делать хороший муж

Что должен делать муж в семье: вопрос не риторический

Playboy
Так и есть: что имеет смысл добавить, а что – убрать из новогоднего меню? Так и есть: что имеет смысл добавить, а что – убрать из новогоднего меню?

Как трансформировать праздничное меню в трапезу продуманного зожника

Esquire
Заграница нас научит Заграница нас научит

Обучение поварской науке за рубежом стало в последние годы настоящим трендом

Bones
Что смотреть на «Экспо-2020» в Дубае: репортаж Forbes Что смотреть на «Экспо-2020» в Дубае: репортаж Forbes

Главные экспонаты на выставке «Экспо-2020»: павильоны стран

Forbes
Победители конкурса «Лучшие оптические иллюзии 2021 года»: избранная десятка Победители конкурса «Лучшие оптические иллюзии 2021 года»: избранная десятка

Освободи себе день и разберись, как это работает.

Maxim
Психолог из Оксфорда объяснила, как помочь своему мозгу эффективнее справляться со стрессом Психолог из Оксфорда объяснила, как помочь своему мозгу эффективнее справляться со стрессом

Как восстановить контроль над своим «мозгом в режиме угрозы»

Inc.
Полный вперед Полный вперед

Дизайнеры снова размышляют о будущем, думают, сбылись ли прошлые модные прогнозы

Vogue
Гагаринской тропой Гагаринской тропой

Мы отправились в Саратов, чтобы еще раз понять и оценить подвиг Юрия Гагарина

Отдых в России
Свободный человек: как Дмитрий Зимин изменял мир для себя и других Свободный человек: как Дмитрий Зимин изменял мир для себя и других

Главным сюжетом жизни Дмитрия Зимина было постоянное преодоление

Forbes
Hic sunt dracones Hic sunt dracones

Птерозавр размером с истребитель — как выглядел и летал кетцалькоатль

N+1
Что такое марафон и как его пробежать: советы спортсмена Что такое марафон и как его пробежать: советы спортсмена

Что делать, если вы захотели пробежать марафон

РБК
Через побои к славе: как Полину Осетинскую отец пытками превратил в вундеркинда Через побои к славе: как Полину Осетинскую отец пытками превратил в вундеркинда

Как в 80-х годах СССР охватила вундер-истерия: история Полины Осетинской

Cosmopolitan
Может ли человек создать злонамеренный искусственный интеллект? Может ли человек создать злонамеренный искусственный интеллект?

Что если кто-то решит создать искусственный интеллект для разрушения?

Популярная механика
Топ-5 Топ-5

Что придумывали шарлатаны до развития доказательной медицины

Популярная механика
Археологи раскопали древнейшее погребение девочки-младенца в Европе Археологи раскопали древнейшее погребение девочки-младенца в Европе

Детские погребения все чаще обращают на себя внимание археологов и антропологов

N+1
Что такое NFT: объясняем простыми словами Что такое NFT: объясняем простыми словами

Что такое NFT, как их создать, и как зарабатывать на NFT?

CHIP
Короли и любовники: какие инстинкты управляют боссами Короли и любовники: какие инстинкты управляют боссами

Какие инстинкты и мотивы руководят боссом и что для него важно

Forbes
«Meta явно не будет одна в этом забеге»: как работает китайская метавселенная от Baidu «Meta явно не будет одна в этом забеге»: как работает китайская метавселенная от Baidu

Виртуальными мирами занялись не только в США

VC.RU
Как сэкономить на платных трассах: советы по выбору транспондера Как сэкономить на платных трассах: советы по выбору транспондера

Транспондер: что это за устройство, как работает и какие виды бывают

РБК
Юля Беретта: «Я притягиваю только умных и интересных людей» Юля Беретта: «Я притягиваю только умных и интересных людей»

Юлия Беретта накануне выхода ее нового альбома о личном и профессиональном

Maxim
Z — значит Зендея: почему самая безукоризненная голливудская звезда заслуживает внимания Z — значит Зендея: почему самая безукоризненная голливудская звезда заслуживает внимания

Как Зендея запололнила медиа-пространство и почему стоит за ней следить

Esquire
«Эгоцентризм и нытье». Вышел долгожданный альбом рэпера Oxxxymirona «Эгоцентризм и нытье». Вышел долгожданный альбом рэпера Oxxxymirona

Альбом Oxxxymirona «Красота и уродство» — самый громкий камбэк уходящего года

СНОБ
Сирийско-российская подводная археология Сирийско-российская подводная археология

Пять тысячелетий ближневосточной жизни — под водой

Наука
50-летние и роскошные! 5 звезд, которые научат быть стильной в любом возрасте 50-летние и роскошные! 5 звезд, которые научат быть стильной в любом возрасте

Для героинь нашей подборки возраст — всего лишь цифра в паспорте

Cosmopolitan
Краш с «Евровидения», фитнес-Бузова — эти блогеры выглядят копиями звезд! Краш с «Евровидения», фитнес-Бузова — эти блогеры выглядят копиями звезд!

Популярные и малоизвестные блогеры, которых можно перепутать со звездами

VOICE
Как менялась Анастасия Макеева: от королевы красоты до четырежды жены Как менялась Анастасия Макеева: от королевы красоты до четырежды жены

Как выглядела актриса Анастасия Макеева в разные моменты своей жизни

Cosmopolitan
Цветная капуста – настоящий суперфуд: вот 8 фактов, которые это доказывают Цветная капуста – настоящий суперфуд: вот 8 фактов, которые это доказывают

Суперфуды – это не только очень дорогие экзотические продукты

Cosmopolitan
На все четыре стороны: как утекают ваши персональные данные На все четыре стороны: как утекают ваши персональные данные

Для чего вы указываете дату рождения и электронный адрес на сайтах?

Популярная механика
История бетонного забора с ромбиками История бетонного забора с ромбиками

Esquire разыскал создателя бетонного забора с ромбиками

Esquire
ESG: как заработать на ответственном инвестировании ESG: как заработать на ответственном инвестировании

Как не поддаться моде и научиться инвестировать в хорошие компании?

Forbes
Открыть в приложении