Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Порочная королева»: как мораль XVI века приводила женщин на казнь за измену мужу «Порочная королева»: как мораль XVI века приводила женщин на казнь за измену мужу

Отрывок из романа «Порочная королева» о жене Генриха XVIII, Кэтрин Говард

Forbes
«С появлением сына стал мудрее» «С появлением сына стал мудрее»

Сергей Лазарев — номинант премии ОK! «Больше чем звёзды»

OK!
Карта памяти: как навигаторы и GPS меняют работу нашего мозга Карта памяти: как навигаторы и GPS меняют работу нашего мозга

Как навигаторы влияют на человеческий мозг и почему не всегда в лучшую сторону

Forbes
Маленькая проблема Маленькая проблема

Как правильно подготовить ребенка к встрече с психологом

Добрые советы
Как психологическое состояние влияет на сексуальную жизнь Как психологическое состояние влияет на сексуальную жизнь

Половая жизнь — это не только физиология, но и сложный эмоциональный процесс

Правила жизни
Небесполезная наука: как нобелевские открытия превращаются в бизнес Небесполезная наука: как нобелевские открытия превращаются в бизнес

Медицина полностью захватила нобелевские подмостки

Forbes
Лучший день в году! Лучший день в году!

Каждый ребенок с нетерпением ждет день рождения, надеясь на что-то особенное

Лиза
«Никто меня в артисты не готовил» «Никто меня в артисты не готовил»

Интервью с замечательным артистом Александром Коршуновым

Добрые советы
За что мы любим Софию Чконию За что мы любим Софию Чконию

Как грузинская столица попала на карту мировой моды

Vogue
Верный путь Верный путь

Фонд помощи хосписам «Вера» номинируется на премию «Сделано в России»

СНОБ
Предложена модель распространения жизни во Вселенной Предложена модель распространения жизни во Вселенной

Ученые смоделировали гипотезу распространения жизни во Вселенной из одного очага

Популярная механика
Беззащитный возраст. Почему закон не защищает будущих пенсионеров от увольнения Беззащитный возраст. Почему закон не защищает будущих пенсионеров от увольнения

Закон вряд ли решит проблему дискриминации возрастных сотрудников

Forbes
Тест и обзор Apple iPhone XS 256GB: усовершенствованный iPhone X Тест и обзор Apple iPhone XS 256GB: усовершенствованный iPhone X

В основе Apple iPhone XS лежат те же инновации, что и в iPhone X

CHIP
Том Харди: «Я больше не хулиган» Том Харди: «Я больше не хулиган»

Актер Том Харди рассказал, как из двоечника превратиться в суперзлодея

Esquire
Во что поиграть на Хеллоуин: самые страшные игры в истории Во что поиграть на Хеллоуин: самые страшные игры в истории

Мы выбрали 7 страшных игр которые точно напугают вас до дрожи костей

CHIP
Metric: «Мы – группа-аномалия» Metric: «Мы – группа-аномалия»

В московском RED Club наконец-то выступят канадские нью-вейверы Metric

Cosmopolitan
Подружиться со своим телом Подружиться со своим телом

О том, как мы обращаемся с телом и чем оно нам за это платит

Psychologies
Страшно горячо! 22 невероятно горячих красотки Хэллоуина (ты точно не устоишь) Страшно горячо! 22 невероятно горячих красотки Хэллоуина (ты точно не устоишь)

Настоящие бестии. Но такие привлекательные

Playboy
«Электроника зашла в тупик» «Электроника зашла в тупик»

Почему именно свет сегодня стал объектом изучения физиков во всем мире

Огонёк
Платно лучше? Платно лучше?

Варианты ведения беременности

9 месяцев

В соцсетях проводят параллели с Петровым и Бошировым

Esquire
Джереми Скотт – о золотой коллаборации с H&M и Moschino, жизни на ферме и о Вирджиле Абло Джереми Скотт – о золотой коллаборации с H&M и Moschino, жизни на ферме и о Вирджиле Абло

Джереми Скотт – человек, который делает модные коллекции для себя

GQ
Страсти по завещанию. Можно ли защитить капитал от растраты наследниками Страсти по завещанию. Можно ли защитить капитал от растраты наследниками

Разбираемся, как оформить наследование, чтобы не потерять дело своей жизни

Forbes
Маршрут перестроен Маршрут перестроен

Надежда Михалкова сняла дебютный хоррор

Esquire
Обзор игры «Человек-паук» для PS4: новая Вселенная Marvel Обзор игры «Человек-паук» для PS4: новая Вселенная Marvel

Одна из лучших игр года

CHIP
Gumball 3000: спорткары, миллионеры и билет на ралли за 5 млн рублей Gumball 3000: спорткары, миллионеры и билет на ралли за 5 млн рублей

В 2018 году Gumball назвали «самым расточительным ралли в мире»

Forbes
«Мама, мы не будем дружить» «Мама, мы не будем дружить»

Поэт Анна Аркатова: нужно ли «дружить» со своими родителями и чем это чревато

Psychologies
Беда от НДС. Экономисты предсказали повышение ключевой ставки ЦБ до 8% Беда от НДС. Экономисты предсказали повышение ключевой ставки ЦБ до 8%

Специалисты Matrix Capital прогнозируют рост ставки ЦБ на 50 базисных пунктов

Forbes
Бутерброд Мерфи. Введение санкций стало фетишем американской элиты Бутерброд Мерфи. Введение санкций стало фетишем американской элиты

О возможном запрете деятельности российских банков в США

Forbes
Проблема курицы и яйца: что мешает распространению дополненной реальности Проблема курицы и яйца: что мешает распространению дополненной реальности

Дополненная реальность уже пришла в мобильные устройства

Forbes
Открыть в приложении