Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«На офисную должность ни за что бы не перешла»: как женщины работают на заводах «На офисную должность ни за что бы не перешла»: как женщины работают на заводах

Женщины на заводе: что привело их на предприятие и с какими мифами они борются

Forbes
Индиана Джонс XIX века, или Приключения Джованни, расхитителя гробниц Индиана Джонс XIX века, или Приключения Джованни, расхитителя гробниц

Джованни Батиста Белзони был первым египтологом на свете

Maxim
Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер» Вовсе не для развлечения: зачем на самом деле в Windows были встроены игры «Косынка» и «Сапер»

«Косынка» и «Сапер»: какой замысел Билла Гейтса они в себе таили?

ТехИнсайдер
Как обрезать сим-карту под микро сим в домашних условиях Как обрезать сим-карту под микро сим в домашних условиях

Рассказываем, как правильно обрезать сим-карту под микро сим

CHIP
«Кухня Древнего мира» «Кухня Древнего мира»

О сырах, которые в Древнем Риме считались скромной пищей

N+1
Баварский фокус: тест BMW X4 20d Баварский фокус: тест BMW X4 20d

Второе поколение BMW X4

Популярная механика
Технические моменты: чем «Яндекс» и «Сбербанк» могут помочь друг другу Технические моменты: чем «Яндекс» и «Сбербанк» могут помочь друг другу

Обсуждение альянса «Сбербанка» и «Яндекса»

Forbes
«Хочу успевать жить» «Хочу успевать жить»

Она серьезно относится к своей работе, а о себе говорит с иронией

OK!
Действительно ли приложения для смартфона помогают справиться с депрессией Действительно ли приложения для смартфона помогают справиться с депрессией

Как современные технологии заменяют профессиональную терапию

Vogue
Правила жизни Массимо Карреры Правила жизни Массимо Карреры

Правила жизни тренера «Спартака» Массимо Карреры

Esquire
В боевых условиях В боевых условиях

Обновление своего внедорожника УАЗ отметил экспедицией по Кольскому полуострову

АвтоМир
Не только Слендермен: самые страшные городские легенды Не только Слендермен: самые страшные городские легенды

Какие только ужасы не рождаются в глубокой тьме интернета

Cosmopolitan
Возраст любви Возраст любви

Аль Пачино нашел новую возлюбленную среди подруг бывшей гражданской жены

StarHit
Общение с деревьями: практика для 5 органов чувств Общение с деревьями: практика для 5 органов чувств

Лесная терапия — это способ снизить стресс и зарядиться энергией

Psychologies
Подсмотрено в Instagram: 5 юбок, которые есть у всех блогеров Подсмотрено в Instagram: 5 юбок, которые есть у всех блогеров

Осенью (и зимой, к слову, тоже) не обойтись без стильной юбки

Cosmopolitan
Мискузи! 7 вещей, без которых реально не обойтись в путешествии Мискузи! 7 вещей, без которых реально не обойтись в путешествии

Список реально крутых гаджетов, которые точно пригодятся в путешествии

Playboy
Свадебный подарок – жизнь Свадебный подарок – жизнь

Как на сочинский аэропорт обрушился шквал смс одного содержания

StarHit
Звучит как штамп Звучит как штамп

Как прошла тайная свадьба Гвинет Пэлтроу

Grazia
Страшно горячо! 22 невероятно горячих красотки Хэллоуина (ты точно не устоишь) Страшно горячо! 22 невероятно горячих красотки Хэллоуина (ты точно не устоишь)

Настоящие бестии. Но такие привлекательные

Playboy
Почему я одна: четыре причины Почему я одна: четыре причины

Быть одной — это нормально

Psychologies
Все побежали... Все побежали...

Ежегодно афинский марафон собирает десятки тысяч участников со всего мира

Вокруг света
Жим лежа: спорим, ты неправильно его делаешь? Топ-6 самых частых ошибок Жим лежа: спорим, ты неправильно его делаешь? Топ-6 самых частых ошибок

Жим лежа — одно из самых популярных упражнений в тренажерном зале

Playboy
Ракетное бессилие. Почему договор РСМД на самом деле никому не нужен Ракетное бессилие. Почему договор РСМД на самом деле никому не нужен

Дональд Трамп заявил о выходе из договора о ликвидации ракет

Forbes
Круче Беллуччи Круче Беллуччи

Ирина Дубцова. Столь знойную женщину мы просто обязаны были снять

Maxim
9 зубастых фактов о книге и фильмах «Оно» 9 зубастых фактов о книге и фильмах «Оно»

Читай это вслух, если тебя окружили клоуны. Это их отпугнет

Maxim
Город золотой. Почему платный въезд стал проблемой для мегаполисов Город золотой. Почему платный въезд стал проблемой для мегаполисов

Результаты платного въезда в Нью-Йорке, Лондоне и Осло

Forbes
Защита с подвохом. Как вложить деньги в страхование жизни и не потерять их Защита с подвохом. Как вложить деньги в страхование жизни и не потерять их

Превращение ИСЖ из индивидуального продукта в массовый

Forbes
«Я плохая мать»: как преодолеть чувство вины? «Я плохая мать»: как преодолеть чувство вины?

Если вы мать, наверняка вам приходилось ощущать чувство материнской вины

Psychologies
Цена дружбы: Хабиб Нурмагомедов готов лишиться гонорара за победу Цена дружбы: Хабиб Нурмагомедов готов лишиться гонорара за победу

Цена дружбы: Хабиб Нурмагомедов готов лишиться гонорара за победу

Forbes
Неделя моды в Сеуле: несколько дельных идей от корейцев Неделя моды в Сеуле: несколько дельных идей от корейцев

Находки, подсмотренные у гостей Сеульской недели моды

Cosmopolitan
Открыть в приложении