О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Казалось, что я в гробу и в крышку молотками заколачивают гвозди». Как была устроена карательная психиатрия в СССР «Казалось, что я в гробу и в крышку молотками заколачивают гвозди». Как была устроена карательная психиатрия в СССР

Отрывок из книги «Девятый круг. Одиссея диссидента в психиатрическом ГУЛАГе»

СНОБ
Фрагменты Врубеля Фрагменты Врубеля

Путеводитель по самой большой выставке художника за последние 65 лет

Weekend
Жатва Гиппократа Жатва Гиппократа

Что нового в медицине в последние 20 лет начавшегося века

Maxim
Источники питания Источники питания

Что такое ресурс, зачем он нужен и как соотносится с заботой о себе?

Glamour
Как понять, что ваш босс — нарцисс Как понять, что ваш босс — нарцисс

Как распознать нарцисса в компании?

Psychologies
Мария Нагая: мать Дмитрия и... Лжедмитрия Мария Нагая: мать Дмитрия и... Лжедмитрия

Последняя жена Ивана IV Грозного пережила не только мужа, но и двух сыновей

Дилетант
Андрей Писарев: «Ожидания у всех одинаковые — выгода и уникальность» Андрей Писарев: «Ожидания у всех одинаковые — выгода и уникальность»

Будущее рынка — в усилении персонализации, развитии подписочной модели

РБК
Зелёный свет Зелёный свет

Как «Светофор» положил начало гонке дискаунтеров

РБК
Четырехногая змея оказалась ящерицей Четырехногая змея оказалась ящерицей

Раннемеловой рептилии отказали в статусе переходного звена

N+1
Как ученым удалось вырастить клетки сердца и мозга без помощи генетики Как ученым удалось вырастить клетки сердца и мозга без помощи генетики

Ученые заставили соединительную ткань превратиться в сердце и нейроны

Популярная механика
Никогда не курила и заболела раком легкого: как я победила болезнь и выздоровела Никогда не курила и заболела раком легкого: как я победила болезнь и выздоровела

Иногда опухоль появляется в легких человека, который ведет здоровый образ жизни

Cosmopolitan
Лариса и Лина Долины. Друг без друга нам невыносимо Лариса и Лина Долины. Друг без друга нам невыносимо

Лариса и Лина Долины: мы выходили на замкнутый круг

Коллекция. Караван историй
Как бывший консультант McKinsey в 27 лет возглавил сервис «Яндекс.Еда» Как бывший консультант McKinsey в 27 лет возглавил сервис «Яндекс.Еда»

Генеральный директор «Яндекс.Еды» — как ему удалось быстро вырасти в корпорации?

Forbes
Влияет ли расстояние от устройства до маршрутизатора Wi-Fi на скорость загрузки Влияет ли расстояние от устройства до маршрутизатора Wi-Fi на скорость загрузки

Почему чем дальше вы отходите от роутера, тем хуже работает интернет

Популярная механика
Не такие, как все Не такие, как все

Необычные профессии, вопреки недоуменным взглядам окружающих

Psychologies
Спроси VC: почему стартапу не нужна свободная конкуренция Спроси VC: почему стартапу не нужна свободная конкуренция

Почему стартапу важно занимать доминирующее положение в важных для бизнеса нишах

Forbes
Память vs внимание: как понять, с чем именно у вас проблемы? Память vs внимание: как понять, с чем именно у вас проблемы?

Мчитесь домой перепроверять, выключили ли утюг? Не спешите винить память

Psychologies
Российский сериал «Чиновница» удивил нас дважды Российский сериал «Чиновница» удивил нас дважды

Cериал «Чиновница» — триллер о борьбе женщины против русской реальности

Maxim
Лилия Бурдинская Лилия Бурдинская

Танц-художница и основательница центра Bye Bye Ballet Лилия Бурдинская

Собака.ru
Голод, упорство, операции: как похудела Гоар Аветисян Голод, упорство, операции: как похудела Гоар Аветисян

Мы знаем, как похудела Гоар Аветисян, и рассказываем тебе

Cosmopolitan
No stress No stress

Профессиональная жизнь Анастасии Уколовой набирает обороты

OK!
Археологи раскопали в Крыму кенотаф с клинковым оружием эпохи великого переселения народов Археологи раскопали в Крыму кенотаф с клинковым оружием эпохи великого переселения народов

Символическую могилу обнаружили на памятнике Джурга-Оба

N+1
Пигментация кожи: как избавиться от темных пятен Пигментация кожи: как избавиться от темных пятен

С чем связано появление темных участков кожи, как предотвратить этот процесс?

РБК
Секс или самовыражение? Что такое кинки-пати — разбираемся подробно Секс или самовыражение? Что такое кинки-пати — разбираемся подробно

Kinky party — что это такое, как и где происходит?

Cosmopolitan
Лодырь, серый кардинал, манипулятор: как Оксимирон стал главным антагонистом русского рэпа и почему им остается Лодырь, серый кардинал, манипулятор: как Оксимирон стал главным антагонистом русского рэпа и почему им остается

О роли Оксимирона и значении его фигуры и творчества

Esquire
Могут ли выпадать волосы от шампуней с сульфатами в составе: разрушаем мифы о моющих средствах Могут ли выпадать волосы от шампуней с сульфатами в составе: разрушаем мифы о моющих средствах

Разбираемся, действительно ли сульфаты в шампуне вредят волосам

ТехИнсайдер
Быстрее, выше, смелее! Быстрее, выше, смелее!

Зачем нужна детская спортивная страховка

Лиза
8 вещей, которые нельзя делать после 30-ти 8 вещей, которые нельзя делать после 30-ти

Прочитай, что не стоит делать мужчине, вступающему в самый расцвет сил

Maxim
Как перестать бояться и начать свое дело Как перестать бояться и начать свое дело

Какие качества помогут создать успешный бизнес

СНОБ
Обучение за границей: как выбрать лучшую школу или вуз для вашего ребенка Обучение за границей: как выбрать лучшую школу или вуз для вашего ребенка

Как выбрать учебное заведение за рубежом

СНОБ
Открыть в приложении