Можно ли сегодня защитить себя от компьютерных ошибок?

ТехИнсайдерHi-Tech

Компьютеры всегда совершали ошибки, ИИ делает ситуацию критически опасной, но закон на стороне машин

Владимир Губайловский

Почтовое отделение UK Post Office

Более 20 лет назад консориум Fujitsu поставил главному почтовому ведовству Великобритании UK Post Office систему автоматизации рабочих мест почтовых работников по всей стране. Только через много лет стало известно, что система постоянно ошибалась, и многие почтовые работники были оштрафованы, заключены в тюрьму, а несколько человек покончили с собой. Почему это происходило так долго? И можно ли сегодня защитить себя от компьютерных ошибок?

Эта трагическая история связана с «презумпцией безошибочности компьютеров». Но компьютеры могут ошибаться, а в системах ИИ некоторый процент ошибок заложен изначально. И пока непонятно как защитить человека от «железного» обвинителя.

Более 20 лет назад японский технологический консориум Fujitsu создал ИТ-систему бухгалтерского учета для Почты Великобритании (UK Post Office). Система получила название Horizon. Рабочие места этой системы были установлены по всей стране. Часто это были небольшие почтовые отделения, которые собирали и доставляли письма и посылки. 20 лет назад это был крупнейший гражданский ИТ-проект в Европе.

Система Horizon была далеко небезупречной. Она делала ошибки. Но руководители Почты Великобритании верили ей, а не людям.

Многих работников почтовых отделений обвинили в краже или фальсификации отчетности. От них требовали возместить убытки и угрожали судом. В период с 2000 по 2014 год более 700 человек были привлечены к ответственности, и в среднем 30 человек каждый год в период с 2000 по 2014 заключали под стражу. Люди теряли недвижимость, накопления, репутацию. Некоторые из безвинно пострадавших покончили жизнь самоубийством.

Многие подробности этой трагедии до сих пор неизвестны. Но самым вопиющим стало заявление Fujitsu, что компания знала об ошибках в системе примерно в то время, когда поставила Horizon Почте Великобритании в 1999 году.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что скрывает от нас подземка: 10 интересных фактов о московском метро Что скрывает от нас подземка: 10 интересных фактов о московском метро

Московское метро — незаменимый транспорт, про который мы не все знаем

ТехИнсайдер
Надо ли мчаться смотреть фильм «Большая гонка. „Лянча“ против „Ауди“» Надо ли мчаться смотреть фильм «Большая гонка. „Лянча“ против „Ауди“»

Насколько хорош «Большая гонка. „Лянча“ против „Ауди“» и стоило ли его снимать?

Maxim
Сколько лет самому старому ныне летающему самолету ВВС США: даже знатокам будет трудно угадать! Сколько лет самому старому ныне летающему самолету ВВС США: даже знатокам будет трудно угадать!

Какой самый старый ныне летающий самолет в военной авиации США

ТехИнсайдер
Бесы внутри и снаружи. Новый фильм Ивана И. Твердовского «Панические атаки» Бесы внутри и снаружи. Новый фильм Ивана И. Твердовского «Панические атаки»

Картина о девушке, которая пытается справиться с душевными травмами

СНОБ
Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов Девушки и яйца: как стильные и вкусные завтраки приносят сотни миллионов

Как две девушки сделали бизнес на блюдах с яйцами?

Forbes
Как развивалось протезирование Как развивалось протезирование

От протезов из дерева и телячьей кожи до современных биомеханических моделей

Наука и техника
Первая жена Владимира Высоцкого: «Таким его знала только я!» Первая жена Владимира Высоцкого: «Таким его знала только я!»

Он со мной! Всегда рядом. Потому что это моя радость, моя беда

Караван историй
Садат и Асад Садат и Асад

Война Судного дня планировалась властями Сирии и Египта как реванш

Дилетант
Вирус Зика эффективен при лечении детского рака мозга Вирус Зика эффективен при лечении детского рака мозга

Инъекции вируса Зика в нейробластомные опухоли уменьшают их

ТехИнсайдер
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Совсем другая игра: как женщины совершили революцию на рынке кроссовок Совсем другая игра: как женщины совершили революцию на рынке кроссовок

В мире производства спортивной обуви наступает новая, женская, эра

Forbes
Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае Вложиться в квадраты. Что нужно знать тем, кто планирует купить жилье в Дубае

Как правильно инвестировать в недвижимость в Дубае

СНОБ
На месте замри На месте замри

12 способов развить усидчивость и внимание у взрослых

Лиза
Что такое перископическая камера и как она работает Что такое перископическая камера и как она работает

В чем преимущества перископической камеры?

CHIP
Какая система отопления лучше для частного дома: сравниваем варианты Какая система отопления лучше для частного дома: сравниваем варианты

Отапливать дом можно не только разным топливом, но и разными системами

CHIP
Почему мы любим прокрастинировать Почему мы любим прокрастинировать

Почему люди медлят, и можем ли мы что-то сделать, чтобы уменьшить эту тенденцию?

ТехИнсайдер
Почему ваша собака все грызет и нужно ли ей это запрещать: мнение кинологов Почему ваша собака все грызет и нужно ли ей это запрещать: мнение кинологов

Скука и гигиена: для чего собаки грызут вещи?

Psychologies
В доме Лорки В доме Лорки

Гарсиа Лорка: необычная судьба, ранняя смерть и музей памяти поэта

Знание – сила
Астрономы указали место откуда падает на Землю жесткий космический ливень Астрономы указали место откуда падает на Землю жесткий космический ливень

Порожденные микрокавазарами космические лучи постоянно бомбардируют Землю

ТехИнсайдер
«Танцуй, селедка!»: как комедия с Сашей Бортич исследует травму брошенной дочери «Танцуй, селедка!»: как комедия с Сашей Бортич исследует травму брошенной дочери

«Танцуй, селедка!»: по-хорошему странное, но терапевтическое кино

Forbes
Соль замещенного циклопентадиенильного катиона оказалась стабильна при комнатной температуре Соль замещенного циклопентадиенильного катиона оказалась стабильна при комнатной температуре

Ученые синтезировали соль замещенного циклопентадиенильного катиона

N+1
Тест Роршаха | The Rorschach Test: Тест Роршаха | The Rorschach Test:

О роли знаний и практиках управления ими в филантропических организациях

Позитивные изменения
Грибы начали синтезировать псилоцибин во время вымирания динозавров Грибы начали синтезировать псилоцибин во время вымирания динозавров

Биологи построили филогенетическое дерево рода Psilocybe

N+1
Фарминдустрия жмет тяжелый вес Фарминдустрия жмет тяжелый вес

Как новые «эликсиры стройности» работают с точки зрения науки?

Монокль
София Коппола: Мне хотелось показать, в какой ужас может превратиться невинная девичья фантазия София Коппола: Мне хотелось показать, в какой ужас может превратиться невинная девичья фантазия

Интервью с американским режиссером Софией Копполой

СНОБ
5 армянских модных марок, за которыми стоит следить 5 армянских модных марок, за которыми стоит следить

Рассказываем о пяти уникальных дизайнерах маленькой горной страны

Правила жизни
«Юг Руси» слил масло «Юг Руси» слил масло

Одна из крупнейших сделок последних лет в АПК — продажа бизнеса «Юга Руси»

Агроинвестор
Как воспитывать «обычного» ребенка рядом с вундеркиндом Как воспитывать «обычного» ребенка рядом с вундеркиндом

Проблема воспитания одаренных детей — тема множества дискуссий

СНОБ
Зачем раньше крахмалили белье: лайфхак из прошлого, который пригодится и сегодня Зачем раньше крахмалили белье: лайфхак из прошлого, который пригодится и сегодня

Как накрахмаливание влияло на качество одежды и домашнего текстиля?

ТехИнсайдер
Шоураннер — это человек, который создает мир Шоураннер — это человек, который создает мир

Свою колонку Александра Ремизова посвятила своей главной страсти — кино

СНОБ
Открыть в приложении