Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое «мужской грипп» и существует ли он: только наука Что такое «мужской грипп» и существует ли он: только наука

Болеют ли мужчины как-то особенно?

ТехИнсайдер
Хорошее отношение к туалетам Хорошее отношение к туалетам

«Идеальные дни»: тихая повесть о человеке, который видит свет

Weekend
Что такое «коллапс модели», чем он угрожает развитию ИИ и человека Что такое «коллапс модели», чем он угрожает развитию ИИ и человека

Сегодня активно обсуждается «коллапс модели». Насколько это опасно?

ТехИнсайдер
От юбок из занавески до гигантских сумок на улицах Парижа: что стоит знать о дизайнере Симоне Порте Жакмюсе От юбок из занавески до гигантских сумок на улицах Парижа: что стоит знать о дизайнере Симоне Порте Жакмюсе

Начавший с самодельных вещей, теперь он заправляет самым почитаемым брендом

Правила жизни
От любви до ненависти: представители каких профессий считаются самыми счастливыми и самыми несчастными в мире От любви до ненависти: представители каких профессий считаются самыми счастливыми и самыми несчастными в мире

Представители каких профессий, как правило, наслаждаются своим делом?

ТехИнсайдер
Тональная система Джона Нистрома Тональная система Джона Нистрома

Проект новой системы арифметики, веса, меры и монет Джона Нистрома

Наука и жизнь
Играй, «Маэстро»: каким получился байопик Брэдли Купера про выдающегося дирижера Бернстайна Играй, «Маэстро»: каким получился байопик Брэдли Купера про выдающегося дирижера Бернстайна

«Маэстро» — кинематографичную арию про боль, жизнь и любовь

Правила жизни
На эти автомобили жалуются реже всего. Список моделей На эти автомобили жалуются реже всего. Список моделей

Найдены самые надежные автомобили по итогам 2023 года

РБК
«Жизнь — лучший сценарист»: Никита Кологривый — о детстве в Новосибирске, региональном кинематографе и, конечно, «Слове пацана» «Жизнь — лучший сценарист»: Никита Кологривый — о детстве в Новосибирске, региональном кинематографе и, конечно, «Слове пацана»

Никита Кологривый — о своем непростом характере и разнообразном послужном списке

Правила жизни
Ранние браки, запрет на аборты и проституция: как живут женщины в Нигерии Ранние браки, запрет на аборты и проституция: как живут женщины в Нигерии

Нигерия: страна, в которой беспрецедентно нарушаются права женщин

Forbes
Дерматиломания: как угомонить руки Дерматиломания: как угомонить руки

Почему некоторые люди расчесывают и повреждают кожу, как справиться с проблемой?

Psychologies
8 самых незаменимых инструментов и приборов при ремонте 8 самых незаменимых инструментов и приборов при ремонте

Что именно понадобится человеку с прямыми руками?

CHIP
Как развивалось протезирование Как развивалось протезирование

От протезов из дерева и телячьей кожи до современных биомеханических моделей

Наука и техника
Как правильно ссориться и мириться с мужчиной: 7 важных нюансов Как правильно ссориться и мириться с мужчиной: 7 важных нюансов

В чем главный секрет долгих и крепких взаимоотношений между мужчиной и женщиной?

Psychologies
Как убрать «фартук» на животе: эти 3 привычки для стройности соблюдает только 1 женщина из 10 Как убрать «фартук» на животе: эти 3 привычки для стройности соблюдает только 1 женщина из 10

Как мягко и бережно скорректировать нижнюю часть живота?

VOICE
Персональный «врач» у вас в кармане Персональный «врач» у вас в кармане

Новые портативные приборы помогут врачам выявлять скрытые патологии

Монокль
Мириам, сестра пророка Моисея Мириам, сестра пророка Моисея

Удивительная, неординарная личность, чья судьба неотделима от подвигов братьев

Знание – сила
Первая жена Владимира Высоцкого: «Таким его знала только я!» Первая жена Владимира Высоцкого: «Таким его знала только я!»

Он со мной! Всегда рядом. Потому что это моя радость, моя беда

Караван историй
12 способов повысить кровяное давление 12 способов повысить кровяное давление

Есть ли способ быстро поднять давление дома?

ТехИнсайдер
«Сложная болезнь»: как психотерапевты помогают алкоголикам — 4 ключевых шага «Сложная болезнь»: как психотерапевты помогают алкоголикам — 4 ключевых шага

Из каких этапов состоит работа над алкоголизмом вместе с психотерапевтом?

Psychologies
Как работает умный дом и чем он может быть полезен Как работает умный дом и чем он может быть полезен

Устройств для умного дома становится все больше, но как работает эта система?

CHIP
«Не пытайтесь изменить тех, кто не хочет меняться»: как правильно помогать «Не пытайтесь изменить тех, кто не хочет меняться»: как правильно помогать

Всегда ли стоит помогать другим?

Psychologies
Вдыхаемые наносенсоры помогут определить рак легких на ранней стадии Вдыхаемые наносенсоры помогут определить рак легких на ранней стадии

Ученые разработали систему скрининговой диагностики рака легких

N+1
Генерал Касем, правитель Ирака Генерал Касем, правитель Ирака

В период с 1958 по 1963 год чаще всего на марках Ирака появлялся генерал Касем

Дилетант
Он не признает ребенка Он не признает ребенка

Как быть, если ты беременна или родила, а он не хочет признавать отцовство

Лиза
Лучшие естественные способы сделать губы  полнее, если с возрастом они стали тонкими Лучшие естественные способы сделать губы  полнее, если с возрастом они стали тонкими

Как сохранить свои губы молодыми и пухлыми, не прибегая к инъекциям?

VOICE
Сложный мир разработки компьютерных игр: 5 книг для тех, кто хочет разобраться в геймдеве Сложный мир разработки компьютерных игр: 5 книг для тех, кто хочет разобраться в геймдеве

Пять книг, которые помогут сориентироваться в мире разработки игр

ТехИнсайдер
Вы едите их регулярно, но так мало о них знаете: топ-50 самых полезных продуктов, от которых нельзя отказываться Вы едите их регулярно, но так мало о них знаете: топ-50 самых полезных продуктов, от которых нельзя отказываться

Чем полезны продукты, которые многие едят каждый день

ТехИнсайдер
Неожиданные лайфхаки для дома с выдохшимся вином: используем то, что пить уже нельзя Неожиданные лайфхаки для дома с выдохшимся вином: используем то, что пить уже нельзя

Как использовать остатки вина с пользой для дома?

ТехИнсайдер
За чашечкой кофе За чашечкой кофе

Важные причины, почему не стоит давать ребенку кофе

Лиза
Открыть в приложении