О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как страх помогает нам выжить, но мешает жить лучше Как страх помогает нам выжить, но мешает жить лучше

Отрывок из книги психолога Фрэнка Фаранда «Парадокс страха»

Inc.
Удивительная история пса Боджи, который ездит в общественном транспорте Стамбула Удивительная история пса Боджи, который ездит в общественном транспорте Стамбула

Боджи — талисман стамбульского метро с удивительной жизнью

Maxim
Быт военного времени Быт военного времени

Первая часть ответов на вопросы о повседневной жизни в условиях военного времени

Дилетант
«Она похожа на соль — улучшит любое блюдо, если не переборщить»: как инженер-пианист создал гитарную педаль Big Muff «Она похожа на соль — улучшит любое блюдо, если не переборщить»: как инженер-пианист создал гитарную педаль Big Muff

Майк Мэтьюс придумал «золотой стандарт» гитарных педалей с искажением

VC.RU
Свобода власти: почему за 30 лет в России так и не появилось политической конкуренции Свобода власти: почему за 30 лет в России так и не появилось политической конкуренции

Почему в стране не возникло движений, способных оказать давление на власть

Forbes
Есть ли дружба во френдзоне Есть ли дружба во френдзоне

Дружба между мужчиной и женщиной — это обязательно намек на секс?

СНОБ
Бум иноязычного контента в эпоху кадрового кризиса: почему скоро некому будет переводить фильмы и сериалы Бум иноязычного контента в эпоху кадрового кризиса: почему скоро некому будет переводить фильмы и сериалы

Как «Игра в кальмара» привлекла внимание к сфере перевода

VC.RU
Герметичные миры Уэса Андерсона: гид по визуальным особенностям его фильмов Герметичные миры Уэса Андерсона: гид по визуальным особенностям его фильмов

Стиль режиссера Уэса Андерсона и его истоки

Esquire
Когда психика толкает на преступление. Что такое клептомания Когда психика толкает на преступление. Что такое клептомания

Клептомания – тяжелое и опасное психическое расстройство

РБК
Пять новых российских сериалов, которые стоят твоего внимания Пять новых российских сериалов, которые стоят твоего внимания

Несколько сериалов, на которые стоит обратить внимание

Cosmopolitan
Алена Шишкова: «У нас совсем нет поводов конфликтовать с Анастасией Решетовой» Алена Шишкова: «У нас совсем нет поводов конфликтовать с Анастасией Решетовой»

Модель Алена Шишкова дала эксклюзивное интервью

Cosmopolitan
«Вытаскивала их руками!» Женщина сама удалила нити после неудачной подтяжки лица «Вытаскивала их руками!» Женщина сама удалила нити после неудачной подтяжки лица

История Барбары, которая чуть не изуродовала себе лицо

Cosmopolitan
5 советов, чтобы есть, не толстея 5 советов, чтобы есть, не толстея

Простой способ есть, не набирая лишний вес даже в праздники

Psychologies
Кимчи, лаваш и васёку: какая еда входит в список мирового наследия ЮНЕСКО Кимчи, лаваш и васёку: какая еда входит в список мирового наследия ЮНЕСКО

Ни оливье, ни крабового в списке нет.

Playboy
Новый миллиардер: как Джон Риччитьелло заработал на играх Новый миллиардер: как Джон Риччитьелло заработал на играх

История успеха миллиардера индустрии видеоигр Джона Риччитьелло

Forbes
Великолепная рыбалка Великолепная рыбалка

Цапля не спит — она видит всё!

Наука и жизнь
Начистоту: новые фото Навки, Бузовой, Бони и других звезд без макияжа и ретуши Начистоту: новые фото Навки, Бузовой, Бони и других звезд без макияжа и ретуши

Смотреть на фото звезд без макияжа всегда безумно интересно!

Cosmopolitan
Использованные шины оказались смертельной ловушкой для раков-отшельников Использованные шины оказались смертельной ловушкой для раков-отшельников

Забравшись в выброшенные в океан шины, раки больше не могут оттуда выбраться

N+1
Самые модные способы носить дубленку этой зимой: 9 идей от главных модниц Европы Самые модные способы носить дубленку этой зимой: 9 идей от главных модниц Европы

Дубленка — теплая, стильная, практичная верхняя одежда на зиму

Cosmopolitan
5 главных вопросов о DDR5: стоит ли переходить на эту память уже сейчас? 5 главных вопросов о DDR5: стоит ли переходить на эту память уже сейчас?

Отвечаем на основные вопросы о новом стандарте оперативной памяти DDR5

CHIP
На Большом адронном коллайдере измерили силу взаимодействия протонов с φ-мезонами На Большом адронном коллайдере измерили силу взаимодействия протонов с φ-мезонами

Результаты исследования могут помочь понять свойства вакуума хромодинамики

N+1
Секс, ложь и гейминг: что скрывал глава Activision Blizzard и сохранит ли он компанию Секс, ложь и гейминг: что скрывал глава Activision Blizzard и сохранит ли он компанию

В чем обвиняют главу Activision Blizzard Бобби Котика

Forbes
Та самая Мамушка: как Хэтти МакДэниел стала первой афроамериканкой с премией «Оскар» Та самая Мамушка: как Хэтти МакДэниел стала первой афроамериканкой с премией «Оскар»

История Хэтти МакДэниел, которая боролась с дискриминацией даже став звездой

Forbes
Елена Брусилова: «У людей появилась мотивация быть здоровыми» Елена Брусилова: «У людей появилась мотивация быть здоровыми»

Президент ГК «Медси» Елена Брусилова о том, как изменилась частная медицина

РБК
Движение по кругу: как менялась мода на джинсы последние 100 лет Движение по кругу: как менялась мода на джинсы последние 100 лет

Почему та или иная модель джинсов становилась культовой

Esquire
50 красивых женских причесок для коротких волос 50 красивых женских причесок для коротких волос

Эти звездные прически подойдут для разных образов и ситуаций. Бери на заметку!

Cosmopolitan
Физики запутали поляризацию и пространственную структуру разных фотонов Физики запутали поляризацию и пространственную структуру разных фотонов

Авторы доказали наличие запутанности фотонов, проведя томографию состояний

N+1
Зубная боль: как защититься от некачественных материалов у стоматолога Зубная боль: как защититься от некачественных материалов у стоматолога

Какие технологии чаще всего подделывают в стоматологиях?

Популярная механика
Стратегии на ПК с развитием и строительством: рейтинг лучших игр в 2021 году Стратегии на ПК с развитием и строительством: рейтинг лучших игр в 2021 году

Подборка трех лучших, на наш взгляд, игр о стратегии, городах и цивилизациях

CHIP
«И не друг, и не враг»: как токсичная дружба отравляет нам жизнь «И не друг, и не враг»: как токсичная дружба отравляет нам жизнь

Почему так тяжело дружить с токсичными людьми

Psychologies
Открыть в приложении