Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как выбрать мясорубку и не превратить кухню в филиал мясокомбината Как выбрать мясорубку и не превратить кухню в филиал мясокомбината

Как выбрать идеальную мясорубку, чтобы она не стала пылесборником на полке

ТехИнсайдер
В ядре Меркурия идет железный снег В ядре Меркурия идет железный снег

Магнитное поле Меркурия формирует железный снег, выпадающий из мантии на ядро

ТехИнсайдер
Как выбрать фотопленку? Вот почему Portra 400 для портретов, а Ektar 100 — для пейзажей! Как выбрать фотопленку? Вот почему Portra 400 для портретов, а Ektar 100 — для пейзажей!

Проверенные варианты фотопленок, которые работают в разных условиях

ТехИнсайдер
Одно из крупнейших землетрясений в истории США: катастрофа 1906 года в Сан-Франциско Одно из крупнейших землетрясений в истории США: катастрофа 1906 года в Сан-Франциско

Рассказываем об одном из самых страшных и разрушительных землетрясений в США

ТехИнсайдер
Маме не говори: 12 вещей, которые родителям не нужно знать о твоем мужчине Маме не говори: 12 вещей, которые родителям не нужно знать о твоем мужчине

О чем не стоит рассказывать даже маме?

VOICE
Леонид Роберман: Спектакль — это всегда встреча, взаимоотношения и взаимовлияние Леонид Роберман: Спектакль — это всегда встреча, взаимоотношения и взаимовлияние

Продюсер Леонид Роберман — о вызовах современной театральной индустрии

СНОБ
Колумб золотых россыпей России Колумб золотых россыпей России

Лев Брусницын совершил технологический прорыв, самый настоящий научный подвиг

Зеркало Мира
Вымирание тасманского дьявола привело к изменению генетики совсем другого хищника — маленького кволла Вымирание тасманского дьявола привело к изменению генетики совсем другого хищника — маленького кволла

Сокращение численности тасманского дьявола влияет на генетику кволла

ТехИнсайдер
Местечковая застава: почему не получилось заселить Приамурье евреями Местечковая застава: почему не получилось заселить Приамурье евреями

Почему евреев в СССР переселяли на Дальний Восток и что из этого вышло?

Forbes
Первая женщина-психоаналитик и любовница Юнга: что известно о россиянке Сабине Шпильрейн Первая женщина-психоаналитик и любовница Юнга: что известно о россиянке Сабине Шпильрейн

Глава из книги «50 историй российских девушек, изменивших мир»

Psychologies
Почему стоит заниматься спортом под музыку? Почему стоит заниматься спортом под музыку?

Кто из нас не хотел бы такой же рельефный пресс, как у Генри Кавилла?

Maxim
О чем расскажет дом: 5 неочевидных аспектов, которые раскрывают личность хозяина О чем расскажет дом: 5 неочевидных аспектов, которые раскрывают личность хозяина

Как дом характеризует нас в глазах окружающих?

Psychologies
Что такое ретравматизация и как перестать ходить по кругу боли Что такое ретравматизация и как перестать ходить по кругу боли

Как выйти из цикла повторения травмы? Чем себе помочь?

Psychologies
Как не угробить свой телефон на морозе: инструкция по применению Как не угробить свой телефон на морозе: инструкция по применению

Рекомендации, чтобы телефон смог работать при сильном морозе

ТехИнсайдер
Что известно о фильме «Большая гонка. „Ауди“ против „Лянчи“» Что известно о фильме «Большая гонка. „Ауди“ против „Лянчи“»

История знаменитого противостояния итальянской̆ «Лянчи» и немецкой «Ауди»

Maxim
Кто такой Никита Кологривый, который осуждает всех подряд Кто такой Никита Кологривый, который осуждает всех подряд

Как и о ком высказывался скандально известный Никита Кологривый

Maxim
Городские огороды обвинили в повышенных выбросах углекислого газа Городские огороды обвинили в повышенных выбросах углекислого газа

Огороды в городе стали причиной повышенного выброса углекислого газа

N+1
Геоархеологи отследили миграцию исчезнувшего нильского рукава на восток от плато Гиза Геоархеологи отследили миграцию исчезнувшего нильского рукава на восток от плато Гиза

Как изменялcя гидрологический режим в районе «озера Хуфу»

N+1
Как зарабатывают миллионы: почему усердный труд не помогает разбогатеть Как зарабатывают миллионы: почему усердный труд не помогает разбогатеть

Что на самом деле нужно делать, чтобы разбогатеть?

Forbes
И у взрослых бывает И у взрослых бывает

Симптомы кори у взрослых и как быстро ее вылечить

Лиза
9 признаков, что вы действительно умный человек 9 признаков, что вы действительно умный человек

И вовсе необязательно козырять умными терминами к месту и не к месту.

Maxim
Николь Кидман. Семь гномов австралийской Белоснежки Николь Кидман. Семь гномов австралийской Белоснежки

Похоже, она нашла в жизни то, что всегда искала — в сказках, в мечтах, в кино

Караван историй
Ошибка или предательство: как на самом деле погибла Жанна Д’Арк Ошибка или предательство: как на самом деле погибла Жанна Д’Арк

Глава из книги «Дева со знаменем» — как в образе Жанны Д’Арк отражена Франция

Forbes
Коктейль с пеной из монооксида углерода может способствовать лечению рака Коктейль с пеной из монооксида углерода может способствовать лечению рака

«Углеродный» коктейль может улучшить некоторые виды лечения рака

ТехИнсайдер
Виновником митохондриальной дисфункции при ожирении назвали малый G-белок Виновником митохондриальной дисфункции при ожирении назвали малый G-белок

Ученые выяснили механизм возникновения фрагментации и дисфункции митохондрий

N+1
«Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия «Я все»: зачем маркетологи убеждают нас, что выгорание — это общественная эпидемия

Глава из книги «Я все! Почему мы выгораем на работе и как это изменить»

Forbes
Тайная жизнь манекенов Тайная жизнь манекенов

Манекены в интерьерных и дизайнерских решениях — бизнес семьи Густавсон

Монокль
Лёня Немодный: Велосипед для мертвеца Лёня Немодный: Велосипед для мертвеца

Есть такое химическое соединение — угарный газ

4x4 Club
6 самых токсичных бьюти-трендов, которые царили во времена наших мам и бабушек 6 самых токсичных бьюти-трендов, которые царили во времена наших мам и бабушек

Устаревшие тренды в индустрии красоты, которые наносили реальный урон женщинам

Psychologies
«Лицо не соответствует душе»: как распознать серийного маньяка — 10 признаков «Лицо не соответствует душе»: как распознать серийного маньяка — 10 признаков

Глава из книги Антуана Касса и Ирины Капитановой «Феномен российских маньяков»

Psychologies
Открыть в приложении