Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Тренд золотых девочек»: как женщины ищут компаньонок для совместной жизни на пенсии «Тренд золотых девочек»: как женщины ищут компаньонок для совместной жизни на пенсии

Женские коммуны вместо домов престарелых — как женщины борются с одиночеством

Forbes
Последний русский олигарх: как Алишер Усманов поспорил с Аристотелем Последний русский олигарх: как Алишер Усманов поспорил с Аристотелем

Сформулированное в Древней Греции понятие «олигарх» не дожило до наших дней

Forbes
Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android Эксперт Фомин рассказал, как предотвратить слежку за переписками на Android

Способы защиты переписок для пользователей Android-устройств

ТехИнсайдер
Дело тренировки. Как ставить бизнес-цели, чтобы они работали Дело тренировки. Как ставить бизнес-цели, чтобы они работали

Достичь успешного результата можно с помощью agile-планирования

Forbes
5 ключей к разумному оптимизму 5 ключей к разумному оптимизму

Как видеть в жизни хорошее, не вступая в противоречие со здравым смыслом

Psychologies
Во что поиграть на Хеллоуин: самые страшные игры в истории Во что поиграть на Хеллоуин: самые страшные игры в истории

Мы выбрали 7 страшных игр которые точно напугают вас до дрожи костей

CHIP
Трое учёных-тролля опубликовали в феминистическом научном журнале чуть исправленную главу из Mein Kampf Трое учёных-тролля опубликовали в феминистическом научном журнале чуть исправленную главу из Mein Kampf

Содержание менсплейнинга в этой статье равно 100%

Maxim
В какой стране живут самые высокие девушки? 50 мест распределились так... В какой стране живут самые высокие девушки? 50 мест распределились так...

Согласно сухой статистике, мужчинам не нравятся высокие девушки

Maxim
Новое диско Новое диско

Сегодня диско – не ностальгия, а новый модный тренд

Домашний Очаг
Пора экономить время: 6 способов сделать 8-часовую работу за 4 часа Пора экономить время: 6 способов сделать 8-часовую работу за 4 часа

Самое время научиться выполнять работу в два раза оперативнее

Playboy
Смена курса: как освоить новую профессию Смена курса: как освоить новую профессию

Всех, кто решается на радикальные перемены в карьере, поджидают трудности

Forbes
Комсомольский комсомолец Комсомольский комсомолец

Уголок желтой прессы

Maxim
Лучшие шутки о «золотой судье» Хахалевой, которая никогда не имела юридического образования Лучшие шутки о «золотой судье» Хахалевой, которая никогда не имела юридического образования

Лучшие шутки о «золотой судье» Хахалевой

Maxim
Как наказать спамеров, звонящих с рекламой: советы юристов и CHIP Как наказать спамеров, звонящих с рекламой: советы юристов и CHIP

Надоели звонки с рекламой медицинских центров и прочих компаний?

CHIP
Красивые слова. Как провести трансформацию бизнеса без Agile и Scrum Красивые слова. Как провести трансформацию бизнеса без Agile и Scrum

Как провести изменения в компании, руководствуясь реальными потребностями

Forbes
Как прийти в состояние потока Как прийти в состояние потока

Все мы хотим заниматься любимым делом и стремимся попасть в состояние потока

Psychologies
«Панические атаки прошли, когда я разрешила себе себя» «Панические атаки прошли, когда я разрешила себе себя»

Из-за чего возникают панические атаки и как они проявляются?

Psychologies
Ирена Понарошку: Ирена Понарошку:

Ирена Понарошку была звездой молодежи в нулевых, а теперь ведет блог в Instagram

Cosmopolitan
Удар с запада. Банки упустили 15% прибыли из-за санкций Удар с запада. Банки упустили 15% прибыли из-за санкций

Если бы не западные санкции, прибыль российских банков была бы выше

Forbes
Главные зарубежные рок-группы 2018 года Главные зарубежные рок-группы 2018 года

Молодые группы, которые имеют все шансы войти в Зал славы рок-н-ролла

Esquire
37 вещей, которые не должен делать мужчина 37 вещей, которые не должен делать мужчина

37 вещей, которые не должен делать мужчина

Maxim
«Маруся отравилась: секс и смерть в 1920-е»: отрывок из новой книги Дмитрия Быкова «Маруся отравилась: секс и смерть в 1920-е»: отрывок из новой книги Дмитрия Быкова

Фрагмент из антологии литературы эпохи НЭПа о сексуальной революции и смерти

Esquire
Тайные места Лондона Тайные места Лондона

Чем заняться, если вы уже купили себе банку чая в виде красной телефонной будки?

Cosmopolitan
Арестованный миллиардер Магомедов разбогател после продажи акций НМТП Арестованный миллиардер Магомедов разбогател после продажи акций НМТП

После объявления о сделке котировки порта резко подскочили

Forbes
Скрытая угроза. Погубит ли «Почта России» российский онлайн-ретейл Скрытая угроза. Погубит ли «Почта России» российский онлайн-ретейл

Через пару лет китайский интернет-ретейл начнет доминировать в России

Forbes
Конец советского мира. Почему плацкартные вагоны уходят в прошлое Конец советского мира. Почему плацкартные вагоны уходят в прошлое

Смена парадигмы железнодорожных перевозок: плацкарт теряет актуальность

Forbes
Том Харди: «Я больше не хулиган» Том Харди: «Я больше не хулиган»

Актер Том Харди рассказал, как из двоечника превратиться в суперзлодея

Esquire
Хорошая компания. 5 лучших работодателей из России в рейтинге Forbes Хорошая компания. 5 лучших работодателей из России в рейтинге Forbes

Среди 500 лучших работодателей мира есть компании из России

Forbes
15 замечательнейших фильмов, которые провалились в прокате 15 замечательнейших фильмов, которые провалились в прокате

Когда великое кино пролетает мимо кассы — это обидно

Maxim
Кто спасет МКС Кто спасет МКС

МКС может завершить работу через шесть лет. Что будет дальше?

Популярная механика
Открыть в приложении