Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Это не автомобиль: какой самый опасный вид транспорта Это не автомобиль: какой самый опасный вид транспорта

Рейтинг самых «аварийных» типов транспорта

ТехИнсайдер
Как открыть файл PDF: 7 полезных программ для ПК и смартфона Как открыть файл PDF: 7 полезных программ для ПК и смартфона

Чем открыть PDF файл на Windows, macOS, Android и других платформах

CHIP
Робособаку научили карабкаться по стенам враспор Робособаку научили карабкаться по стенам враспор

Как инженеры научили робособаку научили эффективно двигаться по вертикали

N+1
«Утро пчеловода» «Утро пчеловода»

8 непростительных ошибок, из-за которых ты встаешь с утра с отеками

Лиза
Исцеляющая сила секса. Что можно вылечить оргазмом Исцеляющая сила секса. Что можно вылечить оргазмом

Какое отношение сексуальное удовлетворение может иметь к терапии души?

СНОБ
Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием

Как связаны импульсивность и поведение у приматов и людей?

N+1
Сексуальная жизнь в длительных отношениях: 4 истории пар, которые давно вместе Сексуальная жизнь в длительных отношениях: 4 истории пар, которые давно вместе

Как партнерам, живущим вместе 10-20 лет, удается поддерживать огонь страсти?

Psychologies
Эдит находит тело Гарольда Эдит находит тело Гарольда

Поражение Гарольда Годвинсона ознаменовало успех норманнского завоевания

Дилетант
Вечное сияние чистого таланта: 15 лучших ролей Джима Керри Вечное сияние чистого таланта: 15 лучших ролей Джима Керри

Лучшие фильмы с уникальным драматическим актером Джимом Керри

Правила жизни
Надежда Бабкина: «Красотой русских женщин восторгается весь мир!» Надежда Бабкина: «Красотой русских женщин восторгается весь мир!»

Сценический образ Надежды Бабкиной узнаваем в любом уголке нашей страны

Лиза
Падение дома Эрихов: трагическая судьба знаменитой династии рестлеров Падение дома Эрихов: трагическая судьба знаменитой династии рестлеров

Вспоминаем фон Эрихов и пытаемся найти рациональное объяснение мрачной легенде

Правила жизни
Топ-5 самых честных книг о жизни в 80-90-е в России Топ-5 самых честных книг о жизни в 80-90-е в России

В топе собраны книги, которые в подробностях описывают 80-90-е

Maxim
«Седой развод»: почему пожилые люди стали чаще расторгать браки «Седой развод»: почему пожилые люди стали чаще расторгать браки

Почему браки в позднем возрасте становятся обыденным явлением?

Forbes
«Музей криптографии. Коллекция» «Музей криптографии. Коллекция»

Как Вермахт дешифровал перехваченные сообщения

N+1
Крупнейших приматов в истории погубило изменение климата Крупнейших приматов в истории погубило изменение климата

Гигантопитеки не смогли приспособиться к более сухому и сезонному климату

N+1
За чашечкой кофе За чашечкой кофе

Важные причины, почему не стоит давать ребенку кофе

Лиза
Что такое ретравматизация и как перестать ходить по кругу боли Что такое ретравматизация и как перестать ходить по кругу боли

Как выйти из цикла повторения травмы? Чем себе помочь?

Psychologies
Заповедник: остров в море цивилизации Заповедник: остров в море цивилизации

Какую роль научная работа играет в жизни заповедников

Наука и жизнь
Почему посадка на Луну сегодня сложнее, чем в прошлом Почему посадка на Луну сегодня сложнее, чем в прошлом

Добраться до поверхности Луны все еще остается далеко не простым делом!

ТехИнсайдер
Оценка проектов развития территорий | Assessing Territorial Development Projects Оценка проектов развития территорий | Assessing Territorial Development Projects

Кейс Фонда целевого капитала «Наш Норильск»

Позитивные изменения
Норвегия первой одобрила бурение морского дна для добычи полезных ископаемых. Морские экосистемы могут пострадать Норвегия первой одобрила бурение морского дна для добычи полезных ископаемых. Морские экосистемы могут пострадать

Норвегия — первая страна, разрешившая глубоководную добычу полезных ископаемых

ТехИнсайдер
«Жизнь — лучший сценарист»: Никита Кологривый — о детстве в Новосибирске, региональном кинематографе и, конечно, «Слове пацана» «Жизнь — лучший сценарист»: Никита Кологривый — о детстве в Новосибирске, региональном кинематографе и, конечно, «Слове пацана»

Никита Кологривый — о своем непростом характере и разнообразном послужном списке

Правила жизни
Красные линии Красного моря Красные линии Красного моря

Зачем хуситы обрушили мировую торговлю и как на это смотрит арабский мир

Монокль
Быстрый психологический тест, который раскроет ваши глубинные страхи: а вы знаете, что мешает вам двигаться к цели? Быстрый психологический тест, который раскроет ваши глубинные страхи: а вы знаете, что мешает вам двигаться к цели?

Давайте разберем, чего вы боитесь больше всего в данный момент

ТехИнсайдер
4 телесные практики, которые помогут снизить тревогу, гнев и страх 4 телесные практики, которые помогут снизить тревогу, гнев и страх

Как телесно-ориентированные практики помогает справиться с тревожностью

Psychologies
Раз – и на Кузбасс Раз – и на Кузбасс

Кузбасс: уникальная природа Шерегеша и гостеприимство шорцев

Лиза
10 грампластинок, которые были в каждом советском доме 10 грампластинок, которые были в каждом советском доме

Музыка, которая звучала в каждом доме СССР

Maxim
Когда менять смартфон? Пять признаков, что нужно идти в магазин за новым Когда менять смартфон? Пять признаков, что нужно идти в магазин за новым

Как понять, что пришло время обновить гаджет

РБК
Почему мы любим прокрастинировать Почему мы любим прокрастинировать

Почему люди медлят, и можем ли мы что-то сделать, чтобы уменьшить эту тенденцию?

ТехИнсайдер
Кот переборол свою застенчивость благодаря заботливой собаке Кот переборол свою застенчивость благодаря заботливой собаке

История одной пушистой дружбы

ТехИнсайдер
Открыть в приложении