Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему оливковое масло считается полезным Почему оливковое масло считается полезным

8 главных преимуществ оливкового масла для здоровья

ТехИнсайдер
Чем вдохновлялись и как себя разрушали творцы: 7 историй гениев и их психических расстройств Чем вдохновлялись и как себя разрушали творцы: 7 историй гениев и их психических расстройств

Похоже, большой талант неотделим от выраженного личного своеобразия

Psychologies
Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций Ученые превратили тараканов в киборгов, наделив их способностями для спасательных операций

Тараканы-киборги — идеальные помощники для спасательных операций

Inc.
Когда нужно отменить запись на маникюр и педикюр: 5 ситуаций, в которых гель-лак не будет держаться на ногтях Когда нужно отменить запись на маникюр и педикюр: 5 ситуаций, в которых гель-лак не будет держаться на ногтях

Ситуации, когда нельзя делать маникюр и педикюр с покрытием

VOICE
10 ошибок в аэропорту, которые дорого вам обойдутся 10 ошибок в аэропорту, которые дорого вам обойдутся

Рассказываем о мелочах, которые могут существенно подорвать бюджет поездки

Maxim
Искусственное мясо вырастили в среде без факторов роста Искусственное мясо вырастили в среде без факторов роста

Стволовые клетки мышц быка можно выращивать в среде без факторов роста

N+1
10 малоизвестных и забытых фактов о советских самолетах 10 малоизвестных и забытых фактов о советских самолетах

Мы собрали некоторые интересные факты о советских самолетах и «Аэрофлоте»

Maxim
Без труда Без труда

Шесть убедительных аргументов, доказывающих, что лень – это прекрасно

Лиза
«Мастер и Маргарита»: русская классика с иностранными консультантами «Мастер и Маргарита»: русская классика с иностранными консультантами

Новая экранизация «Мастера и Маргариты»: едва ли Булгаков, но захватывающе

Правила жизни
9 шагов, которые помогут справиться с одиночеством после разрыва отношений 9 шагов, которые помогут справиться с одиночеством после разрыва отношений

Какие действия помогают обрести психологическую стабильность после расставания

Psychologies
Оранжевое небо: почему Россия почти 20 лет крупнейший импортер мандаринов в мире Оранжевое небо: почему Россия почти 20 лет крупнейший импортер мандаринов в мире

О любви россиян к мандаринам рассказывает Forbes

Forbes
Неожиданные лайфхаки для дома с выдохшимся вином: используем то, что пить уже нельзя Неожиданные лайфхаки для дома с выдохшимся вином: используем то, что пить уже нельзя

Как использовать остатки вина с пользой для дома?

ТехИнсайдер
Оценка проектов развития территорий | Assessing Territorial Development Projects Оценка проектов развития территорий | Assessing Territorial Development Projects

Кейс Фонда целевого капитала «Наш Норильск»

Позитивные изменения
ТОП-10 самых счастливых стран в мире: новый отчет за 2023 год ТОП-10 самых счастливых стран в мире: новый отчет за 2023 год

Центр Гэллапа оценил, какие страны являются самыми счастливыми в мире

ТехИнсайдер
Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае

Как правильно инвестировать в недвижимость в Дубае

СНОБ
Как сделать расклад на будущее на игральных картах: рассказывает таролог Как сделать расклад на будущее на игральных картах: рассказывает таролог

Простой расклад на будущее можно сделать и с помощью игральных карт

VOICE
Легенда о «Летучем Шотландце»: чем удивляет самый знаменитый паровоз мира Легенда о «Летучем Шотландце»: чем удивляет самый знаменитый паровоз мира

Это не самый мощный поезд, но что-то сделало его особенным

ТехИнсайдер
Что такое бесключевой доступ в авто и как он работает. Нюансы работы СБДА Что такое бесключевой доступ в авто и как он работает. Нюансы работы СБДА

Все о бесключевом доступе: как он работает и насколько безопасен

РБК
Хищное чудо из Ориноко Хищное чудо из Ориноко

Необычная экзотическая внешность и любовь аквариумистов – черепаха мата-мата

Знание – сила
Двойственное восприятие литовцев в Северо-Восточной Руси XV века в контексте «Сказания о нашествии Едигея» Двойственное восприятие литовцев в Северо-Восточной Руси XV века в контексте «Сказания о нашествии Едигея»

Образ Великого княжества Литовского и двойственность его восприятия народом Руси

Знание – сила
Почему стоит заниматься спортом под музыку? Почему стоит заниматься спортом под музыку?

Кто из нас не хотел бы такой же рельефный пресс, как у Генри Кавилла?

Maxim
Я — сноб: художник Андрей Волков Я — сноб: художник Андрей Волков

Художник Андрей Волков — о практике беспредметного искусства

СНОБ
Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос Нужно ли вашей машине малозольное масло: простой ответ на сложный вопрос

Зачем придумали малозольные масла, в чем их минусы и плюсы?

ТехИнсайдер
Долететь до горизонта Долететь до горизонта

Иногда кажется, будто быстроходные яхты летят между поверхностью воды и небом

Y Magazine
Пневмония без температуры Пневмония без температуры

6 симптомов, по которым можно узнать пневмонию

Лиза
Комфорт и домашняя еда: как лауреатка «Грэмми» заработала $20 млн на пирогах Комфорт и домашняя еда: как лауреатка «Грэмми» заработала $20 млн на пирогах

Как певица Патти Лабель покорила американцев своими домашними рецептами

Forbes
Стреляет в ухе Стреляет в ухе

Что делать, если болит ухо, и как помочь в домашних условиях

Лиза
Ланские Ланские

Ланские сыграли заметную роль в Наполеоновских войнах и отмене крепостного права

Дилетант
Получите, распишитесь Получите, распишитесь

Как оформить электронную подпись и где ей можно пользоваться

Лиза
Правда ли, что вариатор менее надежен, чем автомат: простой вопрос и неочевидный ответ Правда ли, что вариатор менее надежен, чем автомат: простой вопрос и неочевидный ответ

Какие проблемы у вариаторов все же существуют?

ТехИнсайдер
Открыть в приложении