О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

8 самых страшных и странных мест на Земле 8 самых страшных и странных мест на Земле

Где находится вход в Ад? Почему шотландские собаки сводят счеты с жизнью?

Популярная механика
Энергетик для мускулов: что такое креатин и как он работает Энергетик для мускулов: что такое креатин и как он работает

Рассказываем о пользе и противопоказаниях креатина вместе с врачом и тренером

РБК
В каких странах, кроме России и КНДР, еще есть мавзолеи В каких странах, кроме России и КНДР, еще есть мавзолеи

Традиция строить мавзолеи прижилась именно в социалистических странах

Maxim
5 странных поводов для ареста в Японии 5 странных поводов для ареста в Японии

В России на эти преступления не обратили бы внимания. Но не в Японии

Лиза
Палеогенетики впервые извлекли человеческую ДНК из кальцита Палеогенетики впервые извлекли человеческую ДНК из кальцита

Палеогенетикам впервые удалось выделить древнюю ДНК человека из кальцита

N+1
Как выбрать нишу в закупках. Инструкция для начинающих Как выбрать нишу в закупках. Инструкция для начинающих

Почему ошибка при выборе ниши и контрагента в закупках чревата большими убытками

Inc.
Истина в жене Истина в жене

«Последняя дуэль»: язвительно современный Ридли Скотт в декорациях Средневековья

Weekend
«Не хочу тусоваться, хочу сажать цветочки» «Не хочу тусоваться, хочу сажать цветочки»

Героини статьи рассказали, как в их жизни появились «бабушкины радости»

Лиза
У природы нет плохой погоды: 5 книг о климате У природы нет плохой погоды: 5 книг о климате

Книги, которые расскажут, что такое климатический кризис и чем он чреват

Популярная механика
Скручивание тела растущей улитки свернуло тесную раковину в спираль Скручивание тела растущей улитки свернуло тесную раковину в спираль

Ученые построили математическую модель роста раковины моллюсков

N+1
Измена: взгляд с двух сторон. Если изменили вам Измена: взгляд с двух сторон. Если изменили вам

Измена — это «симптом» отношений, а в отношениях всегда участвуют две стороны

Psychologies
Чемодан на колесиках: история главного изобретения путешественников Чемодан на колесиках: история главного изобретения путешественников

Как появилась дорожная сумка на колесах?

Популярная механика
Археологи раскопали поселение первых металлургов и скотоводов Алтая Археологи раскопали поселение первых металлургов и скотоводов Алтая

Ученые завершили работы на памятнике афанасьевской культуры Нижняя Соору

N+1
Художник, случайно сорвавший маску с человечества: жизнь и творчество классика современного искусства Олега Целкова Художник, случайно сорвавший маску с человечества: жизнь и творчество классика современного искусства Олега Целкова

Олег Целков — один из лидеров советского нонконформизма

Esquire
Страна полного привода: самые популярные кроссоверы России Страна полного привода: самые популярные кроссоверы России

Половина от проданных на российском рынке новых автомобилей — кроссоверы

Playboy
Алкогений: Анри де Тулуз-Лотрек Алкогений: Анри де Тулуз-Лотрек

Анри де Тулуз-Лотрек — один из ярких художников своего времени и певец порока!

Maxim
О сложностях материнства, романе с Гарри и не только: новое интервью Меган Маркл О сложностях материнства, романе с Гарри и не только: новое интервью Меган Маркл

Меган Маркл пришла в студию к Эллен Дедженерес

Cosmopolitan
Дмитрий Блинов Дмитрий Блинов

Как гостю и ресторатору выйти сухими из бурлящих вод комментов и отзывов

Собака.ru
Спроси VC: почему стартапу не нужна свободная конкуренция Спроси VC: почему стартапу не нужна свободная конкуренция

Почему стартапу важно занимать доминирующее положение в важных для бизнеса нишах

Forbes
Активы будущего для смелых и уверенных: кому нужны альтернативные инвестиции Активы будущего для смелых и уверенных: кому нужны альтернативные инвестиции

Какие тенденции наблюдаются в мире инвестиций и как выбирать активы?

СНОБ
Цветок, из которого готовят синий «чай» Цветок, из которого готовят синий «чай»

Цветки клитории используют в кулинарии для придания необычной синей окраски

Наука и жизнь
5 комедий, вызывающих стыд (и смех, конечно же) 5 комедий, вызывающих стыд (и смех, конечно же)

Запасайтесь попкорном и неловкостью

GQ
Где твоя маска? Где твоя маска?

О масочном режиме, введенном среди людей, испытывающих боль славы

Harper's Bazaar
Муаровый магнитный порядок нашли в скрученном трииодиде хрома Муаровый магнитный порядок нашли в скрученном трииодиде хрома

Физики увидели в трииодиде хрома ферромагнитные и антиферромагнитные участки

N+1
5 законов США, которые нам не понять 5 законов США, которые нам не понять

Необычные запреты в США, которые действуют в США много лет

Playboy
Липидные медиаторы помешали макрофагам фагоцитировать пневмококков Липидные медиаторы помешали макрофагам фагоцитировать пневмококков

Гидролазы возвращают макрофагам способность к фагоцитозу

N+1
Война с астероидом: зачем NASA запустило зонд-камикадзе Война с астероидом: зачем NASA запустило зонд-камикадзе

Зачем NASA отправили зонд на самоубийственную миссию?

Forbes
Быстрее, выше, смелее! Быстрее, выше, смелее!

Зачем нужна детская спортивная страховка

Лиза
Гибель в 29 лет: ужасная судьба лучшей конькобежки СССР Инги Артамоновой Гибель в 29 лет: ужасная судьба лучшей конькобежки СССР Инги Артамоновой

Инга Артамонова была одной из самых красивых советских спортсменок СССР

Cosmopolitan
«Локомотивом сближения может стать «зеленая» энергетика» «Локомотивом сближения может стать «зеленая» энергетика»

Тадзио Шиллинг о перспективах энергетического сотрудничества России и ЕС

РБК
Открыть в приложении