О трудностях обучения роботов

VC.RUHi-Tech

Бить за чизбургер — плохо, бить чизбургером — приемлемо: как учёные обучают искусственный интеллект этическим нормам

Учёные обучили ИИ-бота нормам морали, составив для него учебник на основе философских сабреддитов. Теперь робот знает, что нельзя убивать медведя, чтобы порадовать ребёнка, и не стоит включать блендер в три часа ночи. О проекте и трудностях обучения — в пересказе IEEE Spectrum.

Полина Лааксо

1280
Bold Expert

Технологии искусственного интеллекта всё чаще используют для принятия важных решений, пишет IEEE Spectrum: например, когда нужно определить, какой срок лишения свободы назначить преступнику или кто в первую очередь должен получить социальную помощь.

В этих и многих других вопросах, считают учёные, ИИ должен отталкиваться от нравственных и моральных норм. И базовые принципы, которым нужно обучать роботов, сформулировал ещё в 1942 году писатель и биохимик Айзек Азимов в научно-фантастическом рассказе «Хоровод»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы это сделал кто-то другой.
  2. Он обязан выполнять приказы человека, если только те не противоречат первому пункту.
  3. И должен защищать себя до тех пор, пока это не идёт вразрез с первым и вторым положениями.

Общеизвестные заповеди вроде «не убей» кажутся очевидными и легко применимыми в теории, но в некоторых ситуациях человек может ими пренебречь — например, при самообороне.

Поэтому разработчики ИИ-бота Delphi, который должен принимать более осознанные с точки зрения морали выводы, решили отойти от теоретических аксиом, согласно которым «убивать — всегда плохо», а значит делать это ни при каких условиях нельзя.

Вместо этого мы обратились к дескриптивной этике — той, что изучает реально практикуемые в повседневных ситуациях нормы. Ронан Ле Бра, соавтор исследования

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Дело не в тебе»: вот как тип либидо влияет на сексуальную жизнь «Дело не в тебе»: вот как тип либидо влияет на сексуальную жизнь

Узнай, кто ты — холодный лорд или ненасытный «эротик»?

Maxim
Самая сильная боль: ты точно испытывала ее хотя бы раз в жизни Самая сильная боль: ты точно испытывала ее хотя бы раз в жизни

Иногда боль бывает такой сильной, что ее просто невозможно терпеть

Cosmopolitan
Из помазанников Божьих в святые мученики Из помазанников Божьих в святые мученики

Расстрел царской семьи — едва ли не самый хорошо исследованный сюжет

Дилетант
10 страшных историй, которые случились наяву 10 страшных историй, которые случились наяву

От изгнания бесов до необъяснимых смертей: кошмары, в которые трудно поверить

Esquire
Что нам делать с моногамией Что нам делать с моногамией

Почему иногда лучше попробовать, чем долго сомневаться

GQ
Кейс LASERWAR: как запустить производство игрушечных винтовок в Смоленске и наладить экспорт в 75 стран Кейс LASERWAR: как запустить производство игрушечных винтовок в Смоленске и наладить экспорт в 75 стран

Как братья изучили лазертаг от и до и открыли производство игровых винтовок

Inc.
Как похудела звезда КВН Ольга Картункова — без шуток Как похудела звезда КВН Ольга Картункова — без шуток

Ольге Картунковой пришлось сбрасывать вес: общий итог — минус 84 кг!

Cosmopolitan
Лайфхаки для туриста: как увезти из путешествия красивые фото Лайфхаки для туриста: как увезти из путешествия красивые фото

Есть «сувениры», любовь к которым объединяет почти всех туристов, – фотографии

Популярная механика
Дмитрий Брейтенбихер: «Сначала лучше, потом дешевле. Сначала доходы, потом расходы» Дмитрий Брейтенбихер: «Сначала лучше, потом дешевле. Сначала доходы, потом расходы»

ВТБ намерен развивать бизнес по работе с состоятельными клиентами

Forbes
Еще теплее Еще теплее

Дольче и Габбана рассказали, как придумали почти две тысячи предметов интерьера

Harper's Bazaar
10 животных, которые способны клонировать сами себя 10 животных, которые способны клонировать сами себя

Клонирование среди животных — миф или реальность?

Популярная механика
Умники и умницы: 9 сериалов для настоящих интеллектуалов Умники и умницы: 9 сериалов для настоящих интеллектуалов

Презираешь сериалы, считая их пустой тратой времени и глупым развлечением?

Cosmopolitan
LinkedIn для медиков: как стартап Н1 привлек $100 млн и собрал онлайн-данные о врачах LinkedIn для медиков: как стартап Н1 привлек $100 млн и собрал онлайн-данные о врачах

Компания собрала информацию о 10 млн врачей по всему миру и заработала на этом

Forbes
Мой ласковый и нежный сталкер: история женщины, для которой преследователь стал единственным родным человеком Мой ласковый и нежный сталкер: история женщины, для которой преследователь стал единственным родным человеком

Историю девушки, которая искала смысл жизни, а нашла телефонного маньяка

Esquire
Лилия Бурдинская Лилия Бурдинская

Танц-художница и основательница центра Bye Bye Ballet Лилия Бурдинская

Собака.ru
Палеогенетики впервые извлекли человеческую ДНК из кальцита Палеогенетики впервые извлекли человеческую ДНК из кальцита

Палеогенетикам впервые удалось выделить древнюю ДНК человека из кальцита

N+1
Главный сенсор: как устроен лидар «Яндекс» для беспилотных автомобилей Главный сенсор: как устроен лидар «Яндекс» для беспилотных автомобилей

«Яндекс» перевел свой флот беспилотных автомобилей на собственные лидары

VC.RU
Мужской стиль одежды: как выбрать свой Мужской стиль одежды: как выбрать свой

Какие бывают мужские стили одежды, как выбрать свой и не совершить ошибки

Playboy
Дмитрий Блинов Дмитрий Блинов

Как гостю и ресторатору выйти сухими из бурлящих вод комментов и отзывов

Собака.ru
Загрузка Драйвера: чем хорош главный Адам современного кино Загрузка Драйвера: чем хорош главный Адам современного кино

Маршрут по фильмографии и биографии Адама Драйвера

Esquire
Книги для саморазвития, которые помогут вам стать лучше Книги для саморазвития, которые помогут вам стать лучше

Книги по повышению продуктивности в бизнесе, общении, саморазвитии

Популярная механика
Ресторатор Алексей Буров — о проекте Smoke BBQ и формате fine casual Ресторатор Алексей Буров — о проекте Smoke BBQ и формате fine casual

Интервью с шефом Алексеем Буровым, автором книги «Smoke BBQ: кухня живого огня»

РБК
Беспроигрышная лотерея Беспроигрышная лотерея

Зачем аналитики и экономисты делают неверные прогнозы и не останавливаются

Forbes
От femme fatale до супергероев и андроидов: эволюция киногероев за последние 100 лет От femme fatale до супергероев и андроидов: эволюция киногероев за последние 100 лет

Какие типажи героев появились в кино за последние 100 лет?

Esquire
Неочевидные театральные профессии: кто на самом деле стоит за созданием спектаклей Неочевидные театральные профессии: кто на самом деле стоит за созданием спектаклей

Чем занимаются бутафоры, пострижеры, механики сцены и другие люди в театре

GQ
Мария Нагая: мать Дмитрия и... Лжедмитрия Мария Нагая: мать Дмитрия и... Лжедмитрия

Последняя жена Ивана IV Грозного пережила не только мужа, но и двух сыновей

Дилетант
Археологи нашли в ЮАР постель возрастом более 40 тысяч лет Археологи нашли в ЮАР постель возрастом более 40 тысяч лет

Древняя постель представляла собой подстилку из растений, размещенную на золе

N+1
Бренд-менеджер «Онегина» — о тонкости вкусов и неизвестной сказке Пушкина Бренд-менеджер «Онегина» — о тонкости вкусов и неизвестной сказке Пушкина

Бренд «Онегин» придумал оригинальную арт-концепцию под запуск нового проекта

РБК
Номер один по объему агроинвестиций Номер один по объему агроинвестиций

Обзор АПК Воронежской области по итогам работы в 2020 году

Агроинвестор
Тизнаос: самодельные испанские броневики времен Гражданской войны Тизнаос: самодельные испанские броневики времен Гражданской войны

Тизнаос — алмаз самодельных броневиков Испании

Популярная механика
Открыть в приложении