Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

ИИ предсказывает столкновения нейтронных звезд ИИ предсказывает столкновения нейтронных звезд

Команда астрономов обучила нейросеть предсказывать столкновение нейтронных звезд

ТехИнсайдер
Коуч или психолог? Как выбрать эксперта для решения проблемы Коуч или психолог? Как выбрать эксперта для решения проблемы

Коуч vs психотерапевт? С чем идти к первому, а с чем — ко второму?

Psychologies
Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций

Тараканы-киборги — идеальные помощники для спасательных операций

Inc.
Чай матча: какой на вкус модный напиток и как его правильно заваривать Чай матча: какой на вкус модный напиток и как его правильно заваривать

Даже сейчас некоторые люди задаются вопросом: «Что же такое матча?»

ТехИнсайдер
Важная деталь делового стиля: как правильно стирать галстуки, чтобы они выглядели великолепно Важная деталь делового стиля: как правильно стирать галстуки, чтобы они выглядели великолепно

Советы деловым людям: как правильно стирать галстуки

ТехИнсайдер
Как вычислить людей, которые делают вас несчастными: простое упражнение Как вычислить людей, которые делают вас несчастными: простое упражнение

Иногда для счастья не хватает всего лишь идеально подобранного окружения

Psychologies
Лучшие фильмы ужасов с рейтингом IMDb выше 7, основанные на реальных событиях Лучшие фильмы ужасов с рейтингом IMDb выше 7, основанные на реальных событиях

Фильмы, от просмотра которых по всему телу побегут мурашки

ТехИнсайдер
Николь Кидман. Семь гномов австралийской Белоснежки Николь Кидман. Семь гномов австралийской Белоснежки

Похоже, она нашла в жизни то, что всегда искала — в сказках, в мечтах, в кино

Караван историй
Вы поразитесь! Мужчины могут понять по лицу, если девушка изменяет: исследование Вы поразитесь! Мужчины могут понять по лицу, если девушка изменяет: исследование

Мужчины развили «способность оценивать верность женщины»

ТехИнсайдер
Как ухаживать за кожей в холода: 10 зимних бьюти-лайфхаков, которые нужно знать каждой Как ухаживать за кожей в холода: 10 зимних бьюти-лайфхаков, которые нужно знать каждой

Что же предпринять, чтобы улучшить состояние кожи лица и тела зимой?

VOICE
Герпес после увеличения губ: почему он появляется и как это предотвратить Герпес после увеличения губ: почему он появляется и как это предотвратить

Как не омрачить бьюти-процедуру неприятными последствиями в виде вируса

VOICE
9 вещей, о которых можно врать детям и не стыдиться 9 вещей, о которых можно врать детям и не стыдиться

Что делать, если маленький человек еще не готов к правде? Врать!

Maxim
В лучах улыбки В лучах улыбки

Как исправить прикус незаметно для окружающих

Лиза
Сладкая проблема: как отстирать шоколад с одежды Сладкая проблема: как отстирать шоколад с одежды

Знать, как отстирать шоколад с белой или цветной одежды, следует каждому

ТехИнсайдер
10 лучших триллеров последних лет, которые стоит посмотреть 10 лучших триллеров последних лет, которые стоит посмотреть

Триллеры с харизматичными героями, которым хочется сопереживать

Правила жизни
TANK 300 прибавляет 450 TANK 300 прибавляет 450

Великолепие Tank 300 в том... что он не должен был появиться

4x4 Club
«Я в домике» «Я в домике»

Что такое дефлексия и в чем особенности этого защитного механизма

Лиза
Краткая история транспорта: почему во многих странах правостороннее движение, а в некоторых левостороннее? Краткая история транспорта: почему во многих странах правостороннее движение, а в некоторых левостороннее?

С чем связаны различия в движении автомобилей на дороге в разных странах?

ТехИнсайдер
Нехватка питьевой воды: как бороться с проблемой и почему она касается не только бедных стран Нехватка питьевой воды: как бороться с проблемой и почему она касается не только бедных стран

Какие технологии получения воды существуют сейчас и какие появятся в будущем?

СНОБ
Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России

Запрет на взыскание со счетов нерезидентов типа «С» и «И». К чему такая спешка?

Forbes
Угрозы Земле. Градации апокалипсиса Угрозы Земле. Градации апокалипсиса

В мифологических представлениях особое место занимают учения о конце света

Зеркало Мира
«Джеймс Уэбб» рассмотрел «кошачий хвост» обломочного диска вокруг Беты Живописца «Джеймс Уэбб» рассмотрел «кошачий хвост» обломочного диска вокруг Беты Живописца

«Джеймс Уэбб» рассмотрел наклонный вторичный обломочный диск у Бета Живописца

N+1
Назад в будни Назад в будни

Как заставить себя работать после праздников?

Лиза
Романтизация психических заболеваний: почему нам хочется быть безумными? Романтизация психических заболеваний: почему нам хочется быть безумными?

Как вплетены ментальные расстройства в образы великих творцов и их героев?

Psychologies
Любимая дача императоров Любимая дача императоров

Поводы посетить Гатчину — официальную столицу Ленинградской области 2023 года

Лиза
Китайский человекоподобный робот Kepler Forerunner получил манипуляторы с 12 степенями свободы Китайский человекоподобный робот Kepler Forerunner получил манипуляторы с 12 степенями свободы

Китайская компания представила гуманоидного робота Kepler Forerunner

N+1
Какой чай выпить, чтобы избавиться от вздутия живота: 10 лучших вариантов Какой чай выпить, чтобы избавиться от вздутия живота: 10 лучших вариантов

Как насчет того, чтобы избавиться от неприятных ощущениях за чашечкой чая?

VOICE
Такая чувствительная Такая чувствительная

С чем приходится сталкиваться обладательницам чувствительной кожи?

Лиза
Мегалодоны постройнели и удлинились в новой реконструкции Мегалодоны постройнели и удлинились в новой реконструкции

Мегалодоны вероятно, были более изящными, чем современные белые акулы

N+1
В приватном режиме: как обеспечить сохранность личных данных, используя нейросети В приватном режиме: как обеспечить сохранность личных данных, используя нейросети

Как обеспечить приватность при использовании нейронных сетей?

Forbes
Открыть в приложении