О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Признаки жизни Признаки жизни

Получим ли мы когда-нибудь доказательства существования внеземных организмов?

Вокруг света
Штосс, бостон и винт: во что играли герои русской классики Штосс, бостон и винт: во что играли герои русской классики

Собрали правила популярных карточных игр и нашли примеры в русской литературе

Культура.РФ
Батальоны просят бамбук! Батальоны просят бамбук!

Конструкторы много дров наломали, собирая артиллерию из дерьма и палок

Maxim
Перед тем как создавать продукт, думает, как его упростить: как устроен минимализм японского дизайнера Наото Фукасавы Перед тем как создавать продукт, думает, как его упростить: как устроен минимализм японского дизайнера Наото Фукасавы

Кто такой дизайнер Наото Фукасава и что он сделал

VC.RU
Почему женщины ненавидят: что такое женская мизогиния и как она влияет на гендерное равенство Почему женщины ненавидят: что такое женская мизогиния и как она влияет на гендерное равенство

Мизогиния: в чем причина неприязни женщин друг к другу?

Esquire
Он не Илон: как младший брат основателя Tesla скопил состояние в $700 млн Он не Илон: как младший брат основателя Tesla скопил состояние в $700 млн

Илон Маск — не единственный из Масков, разбогатевший благодаря инвестициям

Forbes
Карта Сан-Франциско на шести кассетах: чем пользовались водители для навигации до GPS Карта Сан-Франциско на шести кассетах: чем пользовались водители для навигации до GPS

Краткая история первых навигационных систем — в пересказе Ars Technica

VC.RU
«Нужно не бороться, а жить»: онколог о борьбе с раком и партнерском подходе к лечению «Нужно не бороться, а жить»: онколог о борьбе с раком и партнерском подходе к лечению

Онколог — о том, чем западные стандарты лечения отличаются от российских

Forbes
Как не стать лузером: рецепт проактивности в повседневной жизни Как не стать лузером: рецепт проактивности в повседневной жизни

Как развивать и проявлять навыки проактивности в повседневной жизни

Популярная механика
От тебя я другого и не ожидала От тебя я другого и не ожидала

Родители играют очень большую роль в развитии тревоги и депрессии

Лиза
Композитор Евгений Гринько — о Томе Йорке, мармеладе и языке музыки Композитор Евгений Гринько — о Томе Йорке, мармеладе и языке музыки

Композитор Евгений Гринько о там, почему чем больше трактовок, тем лучше

РБК
Как съесть радугу и похудеть: что нужно знать о диете по цвету продуктов Как съесть радугу и похудеть: что нужно знать о диете по цвету продуктов

Каноны разноцветной диеты, которая обеспечит тебе цветущий вид

Cosmopolitan
Как выбрать игровую клавиатуру: советы для геймеров Как выбрать игровую клавиатуру: советы для геймеров

На какие параметры нужно обратить внимание при выборе игровой «клавы»

CHIP
Когда наш эротический сон — не про секс? Когда наш эротический сон — не про секс?

Наши героини рассказали о своих эротических снах, а сексолог их проанализировала

Psychologies
Периодическое падение яркости двойной звезды объяснили плотным облаком пыли Периодическое падение яркости двойной звезды объяснили плотным облаком пыли

Почему некоторые звезды могут тускнеть?

N+1
Повесть о Настоящем Адвокате Повесть о Настоящем Адвокате

Адвокат Семён Ария и дело об убийстве супруг Раскиных

Дилетант
Физики экспериментально обнаружили паулевскую блокировку светорассеяния Физики экспериментально обнаружили паулевскую блокировку светорассеяния

Эффект паулевской блокировки светорассеяния искали 30 лет

N+1
Секс во славу богов: невероятная история храмовой проституции Секс во славу богов: невероятная история храмовой проституции

Как проституция превратилась из священного ритуала в позорное ремесло?

Maxim
Жительница США заказала киллера для бывшего мужа на фейковом сайте Жительница США заказала киллера для бывшего мужа на фейковом сайте

Уроженка США решила, что можно заказать убийство человека на общедоступном сайте

Популярная механика
Мир глазами человека с аутизмом. Маделин Райан: «Комната по имени Земля» Мир глазами человека с аутизмом. Маделин Райан: «Комната по имени Земля»

Отрывок из книги Маделин Райан о жизни персон с аутизмом

СНОБ
10 легальных антидепрессантов 10 легальных антидепрессантов

Мы собрали средства от вселенской тоски, на которые не нужен рецепт врача

Maxim
Влияет ли расстояние от устройства до маршрутизатора Wi-Fi на скорость загрузки Влияет ли расстояние от устройства до маршрутизатора Wi-Fi на скорость загрузки

Почему чем дальше вы отходите от роутера, тем хуже работает интернет

Популярная механика
«Бизнес не может быть интровертом»: как веб-сервисы изменили рынок делового туризма «Бизнес не может быть интровертом»: как веб-сервисы изменили рынок делового туризма

Ани Алексанян рассказала об основных трендах рынка корпоративного туризма

Inc.
Загробная жизнь: что люди видят после смерти Загробная жизнь: что люди видят после смерти

Истории тех, кто пережил клиническую смерть и вернулся к жизни

Cosmopolitan
Дополненная реальность Дополненная реальность

Художник Жак Луи Давид подчинил воле императора пространство, время и реальность

Вокруг света
Трогательная история для семейного чтения на выходных. Майкл Морпурго: «Хранитель острова Паффин» Трогательная история для семейного чтения на выходных. Майкл Морпурго: «Хранитель острова Паффин»

Отрывок из светлой истории о дружбе и преданности Майкла Морпурго

СНОБ
Древнеримская фигурка борца оказалась африканским воином Древнеримская фигурка борца оказалась африканским воином

Свинцовая фигурка I века нашей эры изображала африканского воина

N+1
Как два выпускника Бауманки построили компанию на полмиллиарда и продали ее «Сберу» Как два выпускника Бауманки построили компанию на полмиллиарда и продали ее «Сберу»

Как Валишев и Иванниковы придумали онлайн-чаты Jivo

Forbes
«И не друг, и не враг»: как токсичная дружба отравляет нам жизнь «И не друг, и не враг»: как токсичная дружба отравляет нам жизнь

Почему так тяжело дружить с токсичными людьми

Psychologies
Археологи уточнили хронологию бронзового века в Минусинской котловине Археологи уточнили хронологию бронзового века в Минусинской котловине

Афанасьевцы пришли на Средний Енисей в XXX веке до нашей эры

N+1
Открыть в приложении