Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Продукты, которые могут оказаться опасными, если приготовить их неправильно Продукты, которые могут оказаться опасными, если приготовить их неправильно

Если неправильно приготовить эти блюда, последствия могут быть серьезными!

ТехИнсайдер
Чем полезна гвоздика: 5 свойств, ценность для организма Чем полезна гвоздика: 5 свойств, ценность для организма

Гвоздику добавляют в разные блюда для аромата и вкуса, но есть ли от неё польза?

РБК
«Думающие» ИИ-спутники сами выбирают момент съемки Земли «Думающие» ИИ-спутники сами выбирают момент съемки Земли

Как работает система, позволяющая спутникам анализировать обстановку

ТехИнсайдер
Непо-дети захватывают Голливуд: почему мы завидуем успеху родственников звезд Непо-дети захватывают Голливуд: почему мы завидуем успеху родственников звезд

Кто такие непо-дети?

Psychologies
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Акулы гибнут с угрожающей скоростью из-за своих плавников Акулы гибнут с угрожающей скоростью из-за своих плавников

Промысел акульих плавников способен привести к вымиранию этих рыб

ТехИнсайдер
Спорт вне политики: 10 фильмов, доказывающих обратное Спорт вне политики: 10 фильмов, доказывающих обратное

Фильмы, в которых политика влияет на спорт, спорт — на политику

Forbes
4 причины чаще заниматься сексом 4 причины чаще заниматься сексом

Почему для здоровья важно регулярно заниматься сексом?

Psychologies
Микаэл Таривердиев «И Дон Кихот, и Дон Жуан в одном лице - это про него» Микаэл Таривердиев «И Дон Кихот, и Дон Жуан в одном лице - это про него»

«Люблю, люблю, но реже говорю об этом. Люблю нежней...» Звучал родной голос

Коллекция. Караван историй
Самая глубокая лаборатория в мире для изучения темной материи построена Китае Самая глубокая лаборатория в мире для изучения темной материи построена Китае

В Китае начала работу самая глубокая и крупная в мире подземная лаборатория

ТехИнсайдер
Пристрастие к корму для скота удлинило клюв североамериканских скворцов Пристрастие к корму для скота удлинило клюв североамериканских скворцов

За 130 лет скворцы стали мельче, но при этом обзавелись более длинным клювом

N+1
Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать Ночной кошмар Australian Open: почему матчи завершаются под утро и что с этим делать

Почему внезапно время в теннисе стало проблемой?

Forbes
Польза горчичного масла: как его принимать и не навредить организму Польза горчичного масла: как его принимать и не навредить организму

Горчичное масло — популярный и полезный ингредиент азиатской кухни

РБК
Ученые посчитали сколько живых клеток было на Земле и сколько еще будет Ученые посчитали сколько живых клеток было на Земле и сколько еще будет

Сколько клеток населяло нашу планету со времени появления первой?

ТехИнсайдер
Низкие дозы кальция предотвратили преэклампсию не хуже высоких Низкие дозы кальция предотвратили преэклампсию не хуже высоких

Прием 500 миллиграмм кальция тоже профилактирует преэклампсию у беременных

N+1
Тонкая линия Тонкая линия

Как избавиться от келоидных рубцов

Лиза
Рейтинг всех пяти поколений Jeep Cherokee. От худшего к лучшему Рейтинг всех пяти поколений Jeep Cherokee. От худшего к лучшему

В своё время, на пике популярности, Cherokee покорил сердца миллионов

4x4 Club
В гостях у лабынкырского черта В гостях у лабынкырского черта

Есть в Оймяконском улусе одна достопримечательность, весьма суровая...

Зеркало Мира
10 малоизвестных и забытых фактов о советских самолетах 10 малоизвестных и забытых фактов о советских самолетах

Мы собрали некоторые интересные факты о советских самолетах и «Аэрофлоте»

Maxim
Паузы в речи: как сделать из них инструмент для воздействия на собеседника Паузы в речи: как сделать из них инструмент для воздействия на собеседника

Как правильно использовать паузы в речи?

Psychologies
Названы мужские и женские имена, которые отталкивают потенциальных партнеров Названы мужские и женские имена, которые отталкивают потенциальных партнеров

Как имя влияет на возможность построить отношения?

Psychologies
Нужно ли мыть рис перед приготовлением: вот что об этом говорит наука Нужно ли мыть рис перед приготовлением: вот что об этом говорит наука

С точки зрения науки эффекты мытья риса не такие, какими мы их себе представляем

VOICE
Внедорожники, которые до сих пор можно купить со стальными дисками Внедорожники, которые до сих пор можно купить со стальными дисками

Колёса не обязательно должны быть большими и сложными

4x4 Club
«Лучшей возможности, чем сейчас, не будет» «Лучшей возможности, чем сейчас, не будет»

Павел Беликов о перспективах, открывшихся перед российским станкостроением

Монокль
Идеальное свидание: романтические выходные только для двоих Идеальное свидание: романтические выходные только для двоих

Мы собрали лучшие идеи, которые помогут парам расслабиться

Караван историй
Хрупкая сильная «ботанка»: как Джоди Фостер изменила Голливуд Хрупкая сильная «ботанка»: как Джоди Фостер изменила Голливуд

Как актриса Джоди Фостер боролась за право быть уязвимой и сильной одновременно

Forbes
В переплетенных около 1600 года книгах нашли фрагменты англосаксонской Псалтыри XI века В переплетенных около 1600 года книгах нашли фрагменты англосаксонской Псалтыри XI века

Лингвист Тийс Порк проанализировал 21 фрагмент средневекового пергамента

N+1
Искусственный снег станет дешевле и перестанет таять: простой минерал спасет горнолыжный спорт Искусственный снег станет дешевле и перестанет таять: простой минерал спасет горнолыжный спорт

Обычный полевой шпат способен заметно улучшить свойство искусственного снега

ТехИнсайдер
Плацебо наоборот Плацебо наоборот

Рассказываем, что такое эффект ноцебо и как он работает

Лиза
То самое чувство моря То самое чувство моря

Элегантная яхта с корпусом из стали и надстройкой из легкого сплава

Y Magazine
Открыть в приложении