Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить Стукнул чужое авто на парковке, оставил телефонный номер и уехал: можно ли так поступить

Можно ли покинуть место ДТП, оставив записку с телефонным номером?

ТехИнсайдер
Статус обязывает Статус обязывает

Бюро Officina Italiana ответственно за дизайн всех яхт Riva c 1994 года

Y Magazine
В Финляндии стали использовать избыточное тепло дата-центров для отопления В Финляндии стали использовать избыточное тепло дата-центров для отопления

Дата-центр снабжает финский город теплом уже около десяти лет

Inc.
12 мифов об одиночках, которые ужасно бесят 12 мифов об одиночках, которые ужасно бесят

Одинокие люди в повседневной жизни постоянно сталкиваются со стигматизацией

Psychologies
Обмануть время: зачем во многих странах переводят часы на зимнее и летнее время и почему в России от этого отказались Обмануть время: зачем во многих странах переводят часы на зимнее и летнее время и почему в России от этого отказались

Зачем вообще была придумана практика перевода часов на зимнее время?

ТехИнсайдер
Кто виноват? Евреи! Кто виноват? Евреи!

Студенческие забастовки стали одним из характерных явлений на сломе XIX–XX веков

Дилетант
Что добавить в воду, чтобы без усилий отмыть самую стойкую грязь с кухонных шкафов Что добавить в воду, чтобы без усилий отмыть самую стойкую грязь с кухонных шкафов

Хочешь, чтобы твоя кухня всегда выглядела, как новая?

VOICE
В России растет число случаев школьной травли: как родители могут защитить своих детей В России растет число случаев школьной травли: как родители могут защитить своих детей

Как отличить школьный конфликт от травли и помочь своему ребенку?

Psychologies
7 заболеваний, о которых говорит седина у 20-летних женщин 7 заболеваний, о которых говорит седина у 20-летних женщин

С чем может быть связана ранняя седина? И когда пора обращаться к врачу?

Psychologies
ТОП-5 самых высоких деревьев планеты ТОП-5 самых высоких деревьев планеты

Как деревья могут быть выше Ниагарского водопада и Статуи Свободы?

ТехИнсайдер
«Слишком притчевые, хулиганские и русские»: как «Смешарики» с «логикой Винни-Пуха» выходили в Китай, Германию и США «Слишком притчевые, хулиганские и русские»: как «Смешарики» с «логикой Винни-Пуха» выходили в Китай, Германию и США

Чем Смешарики не угодили немцам и чего лишились из-за кризиса 2008 года?

VC.RU
Как повысить самооценку: 6 ценных рекомендаций Как повысить самооценку: 6 ценных рекомендаций

Позитивные установки, спорт и уход за собой: как стать увереннее в себе?

ТехИнсайдер
8 самых незаменимых инструментов и приборов при ремонте 8 самых незаменимых инструментов и приборов при ремонте

Что именно понадобится человеку с прямыми руками?

CHIP
Дыра на месте Дыра на месте

Что снимки телескопа показали в галактике M87 спустя год после первых наблюдений

N+1
Африканская чума погубила бородатых свиней на Борнео Африканская чума погубила бородатых свиней на Борнео

Бородатые свиньи всего за несколько лет они почти полностью исчезли на Борнео

N+1
Аральская описательная экспедиция А. И. Бутакова и ее штатный художник Аральская описательная экспедиция А. И. Бутакова и ее штатный художник

Опальный поэт Шевченко и его служба в экипаже «Константина»

Наука и техника
Как поднять настроение: 11 способов, советы психолога Как поднять настроение: 11 способов, советы психолога

Как быстро и надолго поднять себе настроение, а какие способы нерабочие?

РБК
Как поэт Лев Рубинштейн всю жизнь сохранял в себе ребенка и дарил окружающим надежду Как поэт Лев Рубинштейн всю жизнь сохранял в себе ребенка и дарил окружающим надежду

Лев Рубинштейн — человек, который не боялся называть вещи своими именами

Forbes
Кто такие пиндосы? Сейчас так называют американцев, но так было не всегда! Кто такие пиндосы? Сейчас так называют американцев, но так было не всегда!

Откуда произошло слово "пиндос" и что оно означает?

ТехИнсайдер
Высокочувствительным людям: как оставаться спокойными в конфликте Высокочувствительным людям: как оставаться спокойными в конфликте

Глава из книги Элейн Эйрон «Высокочувствительная личность в любви»

Psychologies
Кто еще в опасности? Вот как цифровые медиа влияют на тревогу у подростков Кто еще в опасности? Вот как цифровые медиа влияют на тревогу у подростков

Почему использование цифровых медиа связано с симптомами тревоги?

ТехИнсайдер
Галерея истории древней живописи Галерея истории древней живописи

5 (17) февраля 1852 года состоялась церемония открытия Императорского Эрмитажа

Дилетант
Как расставить всё по кухонным шкафам, чтобы готовить быстро и в свое удовольствие Как расставить всё по кухонным шкафам, чтобы готовить быстро и в свое удовольствие

Как сделать кухню амбассадором порядка и пространственной логики

VOICE
Что такое AGM аккумуляторы и как их правильно заряжать Что такое AGM аккумуляторы и как их правильно заряжать

Все о AGM аккумуляторах: отличия, как заряжать, плюсы и минусы

РБК
Расколоть на счастье Расколоть на счастье

Ни один орех не пользуется такой любовью, как грецкий

Лиза
Вы не можете скрыть свою неуверенность из-за языка тела! Вот что нужно знать Вы не можете скрыть свою неуверенность из-за языка тела! Вот что нужно знать

Как тело выдает наши искренние эмоции?

ТехИнсайдер
Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта

Почему в автомобиле происходит запотевание стекол и что делать в этой ситуации

ТехИнсайдер
Модный аксессуар: для чего мужчины высшего общества носили широкие воротники Модный аксессуар: для чего мужчины высшего общества носили широкие воротники

Почему европейцы носили широкие воротники на ежедневной основе?

ТехИнсайдер
«Лучший день в моей жизни наступил в тюрьме»: что мы узнали из новой документалки о Джипси Роуз Бланшар «Лучший день в моей жизни наступил в тюрьме»: что мы узнали из новой документалки о Джипси Роуз Бланшар

Стоит ли внимания документальный фильм «Тюремные признания Джипси Роуз Бланшар»?

Правила жизни
Никакой химии: как отбелить простыни подручными средствами Никакой химии: как отбелить простыни подручными средствами

Щадящие способы сделать белье белоснежным

ТехИнсайдер
Открыть в приложении