Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Болванчик из бейсбола: как фигурки-сувениры приносят миллионы командам МЛБ Болванчик из бейсбола: как фигурки-сувениры приносят миллионы командам МЛБ

Бейсбол: уникальная субкультура и сумасшедший спрос на фигурки

Forbes
Революция флирта. Почему жертв харассмента будет все больше Революция флирта. Почему жертв харассмента будет все больше

Главный редактор «Медузы» Иван Колпаков временно отстранен от должности

Forbes
Отключили мобильный интернет: новая реальность российского цифрового пространства Отключили мобильный интернет: новая реальность российского цифрового пространства

Кто страдает от отключений интернета и как бизнесу адаптироваться к этому

Inc.
На старт! Внимание! На старт! Внимание!

Стартапы, которые облегчат нам жизнь

Grazia
История культового символа Лондона: почему телефонные будки красного цвета История культового символа Лондона: почему телефонные будки красного цвета

Почему телефонные будки Лондона окрашены именно в яркий красный цвет?

ТехИнсайдер
Назван лучший молодой повар России 2018 года Назван лучший молодой повар России 2018 года

Лучшим молодым поваром России экспертное жюри объявило Александра Райляна

Cosmopolitan
Lexus UX Lexus UX

Lexus UX. Японцы придумали, как заставить тебя мечтать о покупке автомобиля

Quattroruote
Банковские карты для автомобилистов: возвращаем деньги за бензин Банковские карты для автомобилистов: возвращаем деньги за бензин

Хорошие новости: расходы на бензин снижаются до 10%

CHIP
Вредные советы: как провалить организацию мероприятия Вредные советы: как провалить организацию мероприятия

6 вредных советов, которые помогут понять, что делать точно не следует.

Psychologies
10 известных футболистов, конфликтовавших с законом 10 известных футболистов, конфликтовавших с законом

Кокорин и Мамаев оказались в весьма звездной компании

Maxim
Физики сфотографировали молекулу в наномасштабе с помощью МРТ Физики сфотографировали молекулу в наномасштабе с помощью МРТ

Ученые сфотографировали молекулу в ультравысоком разрешении

Популярная механика
Орден Педру I Орден Педру I

Среди коллекционеров орден Педру I считается довольно редким

Дилетант
Не в службу, а в дружбу Не в службу, а в дружбу

Каждому важно иметь хорошие отношения с коллегами, а женщинам особенно

Лиза
ЧСВ — это хорошо: 9 способов избавиться от синдрома самозванца ЧСВ — это хорошо: 9 способов избавиться от синдрома самозванца

ЧСВ — это хорошо: 9 способов избавиться от синдрома самозванца

Playboy
10 крайне неприятных и страшных роботов 10 крайне неприятных и страшных роботов

Роботы, при взгляде на которых становится как-то особенно жутко

Популярная механика
С Думой о мире С Думой о мире

Мирослава Дума пересмотрела взгляды на моду и свой гардероб

Vogue
Новые кадры. Почему компании ищут сотрудников без опыта Новые кадры. Почему компании ищут сотрудников без опыта

Soft skills становятся для работодателей важнее, чем профессиональный опыт

Forbes
Союз ржавых 3 Союз ржавых 3

Фотоэкскурсия по заброшенным объектам индустриального наследия продолжается

Maxim
Перспективная ниша: что выгодно экспортировать в Китай Перспективная ниша: что выгодно экспортировать в Китай

Китай превращается в перспективный рынок для экспорта российской продукции

Forbes
Сказки для президента: почему генетическое оружие невозможно Сказки для президента: почему генетическое оружие невозможно

Российские генетики объясняют, почему генетическое оружие нереально

Forbes
У компьютеров есть глаза: как выбрать веб-камеру? У компьютеров есть глаза: как выбрать веб-камеру?

У компьютеров есть глаза: как выбрать веб-камеру?

CHIP
У Солнца под боком У Солнца под боком

О том, какие загадки должен решить меркурианский зонд

Популярная механика
35 способов почувствовать себя мужественнее 35 способов почувствовать себя мужественнее

Список плевых дел, каждое из которых увеличивает твое мужское достоинство в разы

Maxim
Как пить дать Как пить дать

Основатель компании «Братья Асканели» рассказывает о винной отрасли в Грузии

СНОБ
Под сенью пальм Под сенью пальм

Дизайнер оформила дом в Калифорнии, освежив интерьер под стать окружению

SALON-Interior
Каналы в Голландии могут замерзнуть вновь, но это не отменяет глобального потепления Каналы в Голландии могут замерзнуть вновь, но это не отменяет глобального потепления

О том, как алармизм подменяет собой реальные проблемы глобального потепления

СНОБ
72 дня каннибализма: годовщина авиакатастрфы в Андах 72 дня каннибализма: годовщина авиакатастрфы в Андах

История авиакатастрофы 1972 года в Андах: выжившим пришлось стать людоедами

Maxim
Как заставить куклу умереть Как заставить куклу умереть

Создатель пепелаца Теодор Тэжик объявил самоимпичмент

Русский репортер
Тайна Шарлотты Бронте Тайна Шарлотты Бронте

Из новой книги Нины Агишевой «Викторианская любовь»

СНОБ
Совет да лайфхак Совет да лайфхак

Лучшие полезные советы от авторов журнала MAXIM

Maxim
Открыть в приложении