Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Общая проблема: как мужчины работают в организациях, которые помогают жертвам насилия Общая проблема: как мужчины работают в организациях, которые помогают жертвам насилия

Почему помогающим организациям важно работать с мужской аудиторией

Forbes
Звезда родилась: как Вконтакте и Youtube изменили музыкальную индустрию Звезда родилась: как Вконтакте и Youtube изменили музыкальную индустрию

Социальные сети полностью изменили правила игры в музыкальной индустрии

Esquire
Домашняя работа: как привести IT в ЖКХ в порядок Домашняя работа: как привести IT в ЖКХ в порядок

О том, что можно сделать с хаосом в жилищно-коммунальном IT

Forbes
Как жить после предательства близкого человека Как жить после предательства близкого человека

Как справиться с болью и что делать, когда любимый человек предает

Psychologies
«Средневековье в латах» «Средневековье в латах»

Как умирали и какие раны наносили друг другу средневековые воины

N+1
Жизнь в сетях Жизнь в сетях

Соцсети изменили понятие о частной жизни, границах и конфиденциальности

Домашний Очаг
«Я рос мажором, пока мы не оказались на улице» «Я рос мажором, пока мы не оказались на улице»

Казахский музыкант с азербайджанскими корнями Jah Khalib покоряет слушателей

OK!
Неделя моды в Сеуле: несколько дельных идей от корейцев Неделя моды в Сеуле: несколько дельных идей от корейцев

Находки, подсмотренные у гостей Сеульской недели моды

Cosmopolitan
«Мама, мы не будем дружить» «Мама, мы не будем дружить»

Поэт Анна Аркатова: нужно ли «дружить» со своими родителями и чем это чревато

Psychologies
На пике На пике

В тирольском городке Китцбюэль есть все, чтобы влюбиться в него раз и навсегда

Добрые советы
Сбывшиеся фантастические прогнозы писателей Сбывшиеся фантастические прогнозы писателей

Для писателя-фантаста главное подождать, и тогда все его предсказания сбудутся

Maxim
Вопреки санкциям. Россия улучшила свою конкурентоспособность в мире Вопреки санкциям. Россия улучшила свою конкурентоспособность в мире

Аналитики отметили макроэкономическую стабильность России и размер ее рынка

Forbes
Дом, где живет счастье Дом, где живет счастье

Поздняя осень – время для того, чтобы вспомнить о самом уютном стиле – хюгге

Лиза
Против правил Против правил

Принц Гарри не выпил ни капли алкоголя с тех пор, как узнал о беременности жены

StarHit
9 необычных источников заработка карликовых государств 9 необычных источников заработка карликовых государств

Чем зарабатывают на жизнь маленькие страны?

Maxim
Рами Малек: Рами Малек:

Актер Рами Малек позирует Esquire в вещах осенних коллекций

Esquire
Google представила флагман Pixel 3 Google представила флагман Pixel 3

Журналисты знали заранее о новинках: флагмане Pixel 3, планшете и умном экране

Maxim
Режим ожидания Режим ожидания

Кенсингтонский дворец подтвердил – жена принца Гарри ждет ребенка!

Grazia
Нью–Йорк в Москве Нью–Йорк в Москве

Эта квартира, предназначенная для приёма гостей, призвана произвести впечатление

SALON-Interior
Летающий фрегат Летающий фрегат

Российский проект транспортного беспилотника с вертикальными взлетом и посадкой

Популярная механика
Темная сторона брака Темная сторона брака

Человек, которого мы выбираем в партнеры, — это своеобразное отражение нас самих

Psychologies
Фантастика в открытом поле Фантастика в открытом поле

Иннополис – город, в котором нет старости

Популярная механика
Спорт для народа Спорт для народа

Автоваз представил новую спортивную модификацию седана Vesta

АвтоМир
Любовь — великая замануха жизни Любовь — великая замануха жизни

История слепого массажиста без инвалидной психологии

Русский репортер
Последний русский олигарх: как Алишер Усманов поспорил с Аристотелем Последний русский олигарх: как Алишер Усманов поспорил с Аристотелем

Сформулированное в Древней Греции понятие «олигарх» не дожило до наших дней

Forbes
Лифт или не лифт? Кое-что об олимпиаде «Кандидат в университет» Лифт или не лифт? Кое-что об олимпиаде «Кандидат в университет»

Нужно ли нам социальное предпринимательство олимпийского толка?

Forbes
Актер Филипп Авдеев — о «Кислоте» и поколении молодых Актер Филипп Авдеев — о «Кислоте» и поколении молодых

Четвертого октября на экраны выходит фильм «Кислота»

Esquire
Любовь как в кино: 5 фильмов для первого свидания Любовь как в кино: 5 фильмов для первого свидания

Провести первое свидание за просмотром кино? Почему бы и да!

Playboy
Я к вам пришел навеки поселиться Я к вам пришел навеки поселиться

Джулия Робертс сдает имение в аренду, потому что не может продать

StarHit
Жизнь катится к чертям? 8 звезд, которые научат тебя никогда не сдаваться Жизнь катится к чертям? 8 звезд, которые научат тебя никогда не сдаваться

Им пришлось не раз облажаться в свое время

Playboy
Открыть в приложении