Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Национальность может говорить о потребностях во сне Национальность может говорить о потребностях во сне

Культурные нормы определяют ваши потребности во сне. Так ли это?

ТехИнсайдер
5 книг для подростков, которые помогут найти ответы на главные вопросы 5 книг для подростков, которые помогут найти ответы на главные вопросы

Книги, которые помогут подростку разобраться с чувствами

Psychologies
Драйверы от Windows или фирменные: что лучше Драйверы от Windows или фирменные: что лучше

Стоит ли устанавливать фирменные драйверы или можно ограничиться встроенными

CHIP
«Пацаны не извиняются»: 6 актеров из «Слова пацана», за которыми стоит следить «Пацаны не извиняются»: 6 актеров из «Слова пацана», за которыми стоит следить

Актеры из «Слова пацана»: как проходил кастинг и съемки, что им дал сериал?

Правила жизни
Как Пеппи Длинныйчулок стала символом свободы и изменила жизни миллионов девочек Как Пеппи Длинныйчулок стала символом свободы и изменила жизни миллионов девочек

Как Астрид Линдгрен стала борцом за права детей и причем тут Пеппи Длинныйчулок?

Forbes
Токсичные отношения с родителями: как оказать сопротивление властной матери Токсичные отношения с родителями: как оказать сопротивление властной матери

Токсичные родители не любят своих детей или просто не умеют этого делать?

Psychologies
В России растет число случаев школьной травли: как родители могут защитить своих детей В России растет число случаев школьной травли: как родители могут защитить своих детей

Как отличить школьный конфликт от травли и помочь своему ребенку?

Psychologies
Как укротить аппетит Как укротить аппетит

Что нас побуждает есть и почему иногда мы не замечаем чувства сытости?

Лиза
Опра в семи действиях: за что мы любим Опру Уинфри Опра в семи действиях: за что мы любим Опру Уинфри

Рассказываем о ключевых ипостасях легендарной телеведущей Опры Уинфри

Правила жизни
Какие продукты полезны для печени, а какие вредны Какие продукты полезны для печени, а какие вредны

Какие продукты полезны для печени: все они входят в средиземноморскую диету

РБК
Старые звезды — лучшее место для жизни Старые звезды — лучшее место для жизни

У звезд есть момент, который приходится примерно на возраст нашего Солнца

ТехИнсайдер
Акулы гибнут с угрожающей скоростью из-за своих плавников Акулы гибнут с угрожающей скоростью из-за своих плавников

Промысел акульих плавников способен привести к вымиранию этих рыб

ТехИнсайдер
Хуа Мулань Хуа Мулань

В Китае история Мулан не ограничивается мультиком и имеет многовековой стаж

Дилетант
Получите, распишитесь Получите, распишитесь

Как оформить электронную подпись и где ей можно пользоваться

Лиза
Доктор холодных морей Доктор холодных морей

О том, чем приходится заниматься судовому врачу, столь важной фигуре в экипаже

Y Magazine
Правила жизни Аркадия Райкина Правила жизни Аркадия Райкина

Артист эстрады, сатирик, умер 17 декабря 1987 года в возрасте 76 лет в Москве

Правила жизни
«Цвет войны — противный желто-коричневый». Петербургский художник Александр Траугот вспоминает дни блокады «Цвет войны — противный желто-коричневый». Петербургский художник Александр Траугот вспоминает дни блокады

Живописец Александр Траугот — о роли художников во время войны

СНОБ
Мириам, сестра пророка Моисея Мириам, сестра пророка Моисея

Удивительная, неординарная личность, чья судьба неотделима от подвигов братьев

Знание – сила
Тест-драйв Jaecoo J7: за что можно полюбить новинку китайского бренда Тест-драйв Jaecoo J7: за что можно полюбить новинку китайского бренда

Разбираемся во всех нюансах нового большого кроссовера от Jaecoo

Правила жизни
Людмила Гришина Людмила Гришина

Людмила Ивановна провела в Ленинграде самую страшную первую зиму блокады

Собака.ru
Борьба, тюрьма, 8 Марта: какой была жизнь Клары Цеткин Борьба, тюрьма, 8 Марта: какой была жизнь Клары Цеткин

Стереотипный образ Клары Цеткин — седовласая партийная функционерка

Forbes
Проблемы в отношениях? Вот как изменить свой тип привязанности: объяснение экспертов Проблемы в отношениях? Вот как изменить свой тип привязанности: объяснение экспертов

Как люди могут развить более безопасный стиль привязанности

ТехИнсайдер
Простые самодельные игрушки для кошек, перед которыми не устоит ни один питомец Простые самодельные игрушки для кошек, перед которыми не устоит ни один питомец

Как сделать дразнилки для котенка своими руками из подручных средств

ТехИнсайдер
Унитазная магия и гипноз водой: мы знаем, почему ваша кошка ломится за вами в ванную Унитазная магия и гипноз водой: мы знаем, почему ваша кошка ломится за вами в ванную

Если кошки боятся воды, то зачем просятся в ванную?

ТехИнсайдер
Романтизация психических заболеваний: почему нам хочется быть безумными? Романтизация психических заболеваний: почему нам хочется быть безумными?

Как вплетены ментальные расстройства в образы великих творцов и их героев?

Psychologies
«Оголяешь грудь — и все сходят с ума»: почему грудное вскармливание так злит людей «Оголяешь грудь — и все сходят с ума»: почему грудное вскармливание так злит людей

В соцсетях вновь подняли тему кормления грудью в общественных местах

Psychologies
Что добавить в воду, чтобы противни и сковородки сияли, как новые Что добавить в воду, чтобы противни и сковородки сияли, как новые

Средства для очистки и блеска противней не обязательно покупать в магазине

VOICE
«Не пытайтесь изменить тех, кто не хочет меняться»: как правильно помогать «Не пытайтесь изменить тех, кто не хочет меняться»: как правильно помогать

Всегда ли стоит помогать другим?

Psychologies
Рождение с 32 по 36 неделю связали с повышенным риском нарушений развития нервной системы Рождение с 32 по 36 неделю связали с повышенным риском нарушений развития нервной системы

Рождение на 32-33 и 34-36 неделях связано с риском нарушений развития ЦНС

N+1
Ирина Яшкина «Пробуждение тишины». Отрывок из рассказа про цунами в Северо-Курильске Ирина Яшкина «Пробуждение тишины». Отрывок из рассказа про цунами в Северо-Курильске

Цунами в Северо-Курильске: глава из рассказа Ирины Яшкиной

СНОБ
Открыть в приложении