О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как в «Чёрном зеркале»: нейросеть GPT-3 помогла канадцу «связаться» с умершей невестой — в ИИ-чате Как в «Чёрном зеркале»: нейросеть GPT-3 помогла канадцу «связаться» с умершей невестой — в ИИ-чате

C помощью ИИ можно «оживить» умерших, но их всё равно придётся потерять

VC.RU
«Вширь и вверх: как облачная телефония помогает бизнесу расти не только географически, но и финансово» «Вширь и вверх: как облачная телефония помогает бизнесу расти не только географически, но и финансово»

Как облачная телефония влияет на бизнес?

Inc.
Край гор и долин Край гор и долин

Почему Судеты стали яблоком раздора

Дилетант
Убила мужа, провела в тюрьме 18 лет и… счастлива: история Патриции Гуччи Убила мужа, провела в тюрьме 18 лет и… счастлива: история Патриции Гуччи

Кем была «черная вдова» семьи Гуччи

Cosmopolitan
Как перестать беспокоиться о том, что думают другие Как перестать беспокоиться о том, что думают другие

Как перестать волноваться из-за мнений окружающих по поводу вашей персоны

Psychologies
Рогатый нянь Рогатый нянь

«Дело Макмартинов» считается самым дорогостоящим судебным разбирательством в США

Maxim
Как на иголках Как на иголках

Чего мы не понимаем об акупунктуре

N+1
О чем думают девушки, когда занимаются сексом на одну ночь? О чем думают девушки, когда занимаются сексом на одну ночь?

Какие подводные камни кроются за согласием «просто разок поехать к тебе»

Maxim
Диета «Секреты Лос-Анджелеса»: худеем как звезды Голливуда Диета «Секреты Лос-Анджелеса»: худеем как звезды Голливуда

Этой диеты придерживаются голливудские звезды, чтобы быстро прийти в форму

Cosmopolitan
Винные термины: азбука от А до Я Винные термины: азбука от А до Я

Краткий гид по виноделию

Esquire
Повесть о Настоящем Адвокате Повесть о Настоящем Адвокате

Адвокат Семён Ария и дело об убийстве супруг Раскиных

Дилетант
Крайние меры: как выключить или перезагрузить iPhone 12, 11, X, 8, 7 Крайние меры: как выключить или перезагрузить iPhone 12, 11, X, 8, 7

Как выключить айфон – при зависании или отсутствии реакции на касания

CHIP
Мир глазами человека с аутизмом. Маделин Райан: «Комната по имени Земля» Мир глазами человека с аутизмом. Маделин Райан: «Комната по имени Земля»

Отрывок из книги Маделин Райан о жизни персон с аутизмом

СНОБ
Сложно обнаружить, еще сложнее вылечить: как я заболела туберкулезом Сложно обнаружить, еще сложнее вылечить: как я заболела туберкулезом

В последние годы туберкулез перестал быть болезнью асоциальных слоев населения

Cosmopolitan
Наши все дома Наши все дома

Как устроить в обычной квартире новогоднюю вечеринку, выгнав всех из смартфонов?

Cosmopolitan
Бог с вами: какими получились «Вечные» Хлои Чжао и сыграла ли ставка Marvel Бог с вами: какими получились «Вечные» Хлои Чжао и сыграла ли ставка Marvel

Стоит ли отдавать комиксы на откуп режиссерам больших, тягучих драм

Esquire
Собаки и корабли: какие сны говорят, что твои отношения в опасности Собаки и корабли: какие сны говорят, что твои отношения в опасности

Сны могут быть тревожным звоночком: твои отношения в опасности

Cosmopolitan
Кадры будущего Кадры будущего

Как новые технологии изменят рынок HR до 2030 года

РБК
В Германии раскопали средневековый некрополь для прокаженных В Германии раскопали средневековый некрополь для прокаженных

Археологи нашли некрополь для тяжелобольных

N+1
8 вещей, которые нельзя делать после 30-ти 8 вещей, которые нельзя делать после 30-ти

Прочитай, что не стоит делать мужчине, вступающему в самый расцвет сил

Maxim
Как Чарльз Мэнсон повлиял на современную культуру: фильмы, сериалы, музыка о лидере смертоносного культа Как Чарльз Мэнсон повлиял на современную культуру: фильмы, сериалы, музыка о лидере смертоносного культа

Как Мэнсон повлиял на то, каким мы видим сегодняшний мир

Maxim
Как будущий американский самолет может доминировать в воздухе Как будущий американский самолет может доминировать в воздухе

ВВС США продолжает разработку новых истребителей

Популярная механика
Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов Личный опыт: как запустить пиццерию в Великобритании и не потеряться среди гигантов

Уроки «Додо» из экспансии на перенасыщенный пиццериями рынок Великобритании

Inc.
Психогенное бесплодие. Порой забеременеть мешают... эмоции. Что с этим делать? Психогенное бесплодие. Порой забеременеть мешают... эмоции. Что с этим делать?

Как выявляют психогенное бесплодие и как его вылечить?

Лиза
Джокер и Харли Квин из СССР: как следовательница Воронцова полюбила преступника Джокер и Харли Квин из СССР: как следовательница Воронцова полюбила преступника

Зачем следовательница принесла пистолет преступнику?

Cosmopolitan
Воскрешение в пробирке: вымершие животные, которых люди пытаются возродить Воскрешение в пробирке: вымершие животные, которых люди пытаются возродить

О нескольких проектах по восстановлению вымерших видов

Популярная механика
Развод, потеря веса и отношения с отцом-алкоголиком: певица Адель дала интервью Опре Развод, потеря веса и отношения с отцом-алкоголиком: певица Адель дала интервью Опре

Американская телеведущая Опра Уинфри взяла интервью у Адель

Forbes
Гибель в 29 лет: ужасная судьба лучшей конькобежки СССР Инги Артамоновой Гибель в 29 лет: ужасная судьба лучшей конькобежки СССР Инги Артамоновой

Инга Артамонова была одной из самых красивых советских спортсменок СССР

Cosmopolitan
10 самых крутых экспонатов автомобильного музея Лейна 10 самых крутых экспонатов автомобильного музея Лейна

Джефф Лейн и его один из самых крутых автомобильных музеев в Теннесси

Популярная механика
Полярники мезозоя Полярники мезозоя

Каких динозавров находят в Якутии и на Аляске и как им жилось

N+1
Открыть в приложении