Чтобы разработать этику для роботов, необходимо разобраться в человеческой

ForbesHi-Tech

Совесть для робота: как действуют алгоритмы добра и зла

Исследователи, разрабатывающие кибернетическую этику, обнаружили, что для начала им придется разобраться в этике обычной — человеческой.

Алексей Алексенко

1-gettyimages-468882914.jpg__1538733833__56882.jpg
Фото Akio Kon / Bloomberg via Getty Images

Стремительное развитие технологий ставит человечество лицом к лицу с вопросами, которые еще недавно казались совершенно абстрактными. Вот, например, проблема вагонетки. Тяжелая вагонетка мчится по рельсам прямо к той точке, где на ее пути лежат пять человек (возможно, детей) — связанные и совершенно беспомощные перед неотвратимой угрозой. Вы можете перевести стрелку и пустить вагонетку по другому пути. Но там к рельсам тоже привязан человек — правда, всего один. Должны ли вы перевести стрелку? С одной стороны, пять невинных жизней явно больше, чем одна. С другой — кто вы такой, чтобы решать судьбу человека, которому, если бы не вы, вообще ничто бы не угрожало?

Ситуация щекотливая, но, к счастью, достаточно искусственная: не так уж часто нам поручают переводить железнодорожные стрелки, да еще и со столь серьезными последствиями. Когда в 1967 английский философ Филиппа Фут формулировала свой «парадокс вагонетки», никто не подозревал, что спустя всего полвека подобные вопросы придется решать не философам и богословам, а программистам.

Дело в том, что очень похожая задача возникает при проектировании автомобилей-беспилотников. На дороге возникла критическая ситуация, под угрозой жизни нескольких пешеходов, и спасти их можно только одним способом: направив беспилотный автомобиль в столб. При этом, скорее всего, пострадает пассажир. И снова пять пешеходов — это больше, чем один пассажир, и снова вопрос: кто дал бездушной машине право решать судьбы людей? Может, пассажир и сам бы мог рискнуть жизнью ради спасения ближнего, но своему беспилотнику он такой выбор доверить не готов. Он и так уже доверил ему собственную жизнь, и не для того, чтобы машина распоряжалась ею по своему усмотрению.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Реклама для женщин: как фемвертайзинг ломает стереотипы и увеличивает прибыль брендов Реклама для женщин: как фемвертайзинг ломает стереотипы и увеличивает прибыль брендов

Почему фемвертайзинг становится трендом

Forbes
Что о вас знает Google? Отключаем функции сбора данных Что о вас знает Google? Отключаем функции сбора данных

Помогаем найти способ запретить Google собирать данные о вас

CHIP
В чем разница между SDR и HDR? Это нужно знать каждому диджитал-артисту! В чем разница между SDR и HDR? Это нужно знать каждому диджитал-артисту!

Как выбрать подходящий формат для вашего проекта? Что значит SDR и HDR?

ТехИнсайдер
Андрей Кайков: «В жизни я – зануда» Андрей Кайков: «В жизни я – зануда»

Звезда шоу «6 кадров» о том, как из сыновей вырастить достойных мужчин

StarHit
Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе Святая вода из Эфиопии вызвала семь случаев устойчивой холеры в Европе

Вспышка холеры в Европе: во всем виновата святая вода из Эфиопии

N+1
Наука о прикосновениях Наука о прикосновениях

Белорусский стартап реализовал технологию передачи тактильных ощущений для VR

Популярная механика
Что такое «восточная мода» и почему это не то, что мы думаем Что такое «восточная мода» и почему это не то, что мы думаем

Эксперты восточной культуры развеивают главные мифы о моде Востока

Vogue
Инопланетянка? Шведская модель покоряет мир нереально длинными ногами Инопланетянка? Шведская модель покоряет мир нереально длинными ногами

Когда выражение «ноги от ушей» — не такое уж преувеличение

Playboy
Жасмин: «Буду рада, если сын захочет жениться» Жасмин: «Буду рада, если сын захочет жениться»

Откровенный рассказ Жасмин об отношениях с главными в жизни мужчинами

StarHit
9 самых нелепых злых двойников супергероев — от Красного Халка до Кэтмена 9 самых нелепых злых двойников супергероев — от Красного Халка до Кэтмена

9 самых нелепых злых двойников супергероев — от Красного Халка до Кэтмена

Playboy
Ставка на долголетие Ставка на долголетие

Вложения в медицину могут принести доход не только бессмертным инвесторам

Forbes
Бешеный счетчик. В домах ограничат дешевое электричество Бешеный счетчик. В домах ограничат дешевое электричество

Правительство вернулось к идее ввести социальную норму энергопотребления

Forbes
История создания образов пяти самых известных киноманьяков История создания образов пяти самых известных киноманьяков

После прочтения этой статьи ты не сможешь спать даже при включенном свете

Maxim
10 режиссерских версий фильмов, которые стоит найти и посмотреть 10 режиссерских версий фильмов, которые стоит найти и посмотреть

Всегда ли стоит пересматривать привычное кино в непривычном виде

Maxim
Volvo XC40 Volvo XC40

Volvo XC40. Компактный кроссовер из Швеции

Quattroruote
Мама, я онлайн! Мама, я онлайн!

Что надо знать о детях и соцсетях

Домашний Очаг
Вторая половина жизни: как наполнить ее смыслом и счастьем Вторая половина жизни: как наполнить ее смыслом и счастьем

Как сделать счастливой и насыщенной зрелую пору нашей жизни

Psychologies
Облачный шопинг за $34 млрд: зачем IBM покупает Red Hat Облачный шопинг за $34 млрд: зачем IBM покупает Red Hat

Облачный шопинг за $34 млрд: зачем IBM покупает Red Hat

Forbes
Photokina 2018: главные новинки ведущей мировой видеофотовыставки Photokina 2018: главные новинки ведущей мировой видеофотовыставки

Photokina 2018 — торговая выставка в сфере визуализации, прошедшая в Кельне

Популярная механика
Судьбы красавиц со знаменитых портретов русских художников Судьбы красавиц со знаменитых портретов русских художников

Кем были женщины, которых художники избрали своими музами

Cosmopolitan
Ты мое золото Ты мое золото

Дети-блогеры зарабатывают миллионы на YouTube

GQ
Трудные поиски. Как малому и среднему бизнесу привлечь инвестиции Трудные поиски. Как малому и среднему бизнесу привлечь инвестиции

Доля малого и среднего бизнеса в российской экономике все еще невелика

Forbes
«Грязная игра». Развяжет ли Америка санкционную войну против Китая «Грязная игра». Развяжет ли Америка санкционную войну против Китая

Готов ли Дональд Трамп ввести серьезные политические санкции против Пекина

Forbes
«Хочу успевать жить» «Хочу успевать жить»

Она серьезно относится к своей работе, а о себе говорит с иронией

OK!
Пять причин не менять экран смартфона, а купить новый Пять причин не менять экран смартфона, а купить новый

Почему замена треснувшего экрана на смартфоне не стоит свеч

CHIP
Карта рисков. Что будет волновать инвесторов до конца года Карта рисков. Что будет волновать инвесторов до конца года

Инвесторы больше не рассчитывают, что мировые центробанки будут на их стороне

Forbes
Гены за деньги Гены за деньги

Коммерческая геномика. С какими проблемами сталкиваются ученые и инвесторы?

Forbes
Тянем (не) потянем Тянем (не) потянем

Неформальный девиз ипотеки – «Долго, дорого, тяжело»

Cosmopolitan
Настоящая Настоящая

Сериал "Американская история ужасов" основан на реальных событиях: это страшно

Cosmopolitan
Дело техники Дело техники

Новинки бьюти-индустрии, которые вас удивят

Grazia
Открыть в приложении