Чтобы ИИ не восстал против создателей, нужно читать ему правильные сказки

Популярная механикаНаука

Какие сказки нужно читать искусственному интеллекту?

Чтобы искусственный интеллект не восстал против своих создателей, нужно в процессе обучения читать ему правильные сказки.

Дмитрий Мамонтов

С тех пор как люди создали умные машины, их не оставляет страх, что рано или поздно их творения выйдут из-под контроля. Первый такой случай описал в своей пьесе R.U.R. автор слова «робот» — Карел Чапек. Позднее в фантастике искусственный интеллект, восставший против своих создателей, стал если не мейнстримом, то весьма распространенным сюжетом. Конец этому положил Айзек Азимов со своими «Тремя законами», первый из которых гласил: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред».

Расскажи ему сказку!

До настоящего искусственного интеллекта (ИИ) пока далеко, но уже существуют различные системы, функционирующие подобно человеческому мозгу. Нейронные сети, такие как Google Deep Dream, способны распознавать изображения. Специализированные суперкомпьютеры, такие как IBM Watson, понимают заковыристые вопросы, заданные на естественном языке, умеют сопоставлять симптомы, уточнять медицинские диагнозы и даже придумывать кулинарные шедевры. В ближайшие десятилетия нас ждет массовая компьютеризация многих аспектов человеческой деятельности. В связи с этим специалисты по робототехнике и ИИ все чаще поднимают важный, но пока совершенно непроработанный вопрос: как заставить роботов поступать этично?

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Чистота в доме: 10 способов сократить количество пыли, которые многие игнорируют Чистота в доме: 10 способов сократить количество пыли, которые многие игнорируют

Вы регулярно убираете, а пыль все равно лежит слоями?

Популярная механика
Типы характеров: шпаргалка на все случаи жизни Типы характеров: шпаргалка на все случаи жизни

Гештальт-терапевт Ольга Дулепина предлагает простую и понятную модель характеров

Psychologies
Найденная рыбаками на дне Тайваньского пролива древняя челюсть принадлежала денисовцу Найденная рыбаками на дне Тайваньского пролива древняя челюсть принадлежала денисовцу

Кусок нижней челюсти архаичного человека Penghu-1 принадлежал денисовцу

N+1
Изменчивая родинка Изменчивая родинка

20 мая в России отмечается День диагностики меланомы

Лиза
История человеческого тела История человеческого тела

Эволюция, здоровье и болезни

kiozk originals
Каннский фестиваль открылся фильмом Джима Джармуша “Мертвые не умирают” — пронзительной историей о том, что и мы, и наши кумиры  разлагаемся на протяжении всей жизни — но это не повод стрелять нам в мозг. Корреспондент Esquire на фестивале Егор Москвитин Каннский фестиваль открылся фильмом Джима Джармуша “Мертвые не умирают” — пронзительной историей о том, что и мы, и наши кумиры  разлагаемся на протяжении всей жизни — но это не повод стрелять нам в мозг. Корреспондент Esquire на фестивале Егор Москвитин

«Мертвые не умирают» — фильм о том, что мы разлагаемся на протяжении всей жизни

Esquire
Бурный роман Бурный роман

Пятьдесят шестой Форбс Роман Авдеев — самый многодетный отец России

Tatler
Дима Билан рассказал об испытаниях, через которые прошел на «Евровидении» Дима Билан рассказал об испытаниях, через которые прошел на «Евровидении»

37-летний Дима Билан прокомментировал результаты завершившего в Израиле конкурса

Cosmopolitan
Стася Милославская: «Вообще, я везунчик!» Стася Милославская: «Вообще, я везунчик!»

На телеканале СТС с успехом прошел сериал «90-е. Весело и громко» с ее участием

Караван историй
Аида Гарифуллина: «Красота начинается с твоих мыслей!» Аида Гарифуллина: «Красота начинается с твоих мыслей!»

Аида Гарифуллина – одна из самых востребованных оперных певиц в мире

Cosmopolitan
Праздник цвета Праздник цвета

Яркий микс классики, Востока и современного стиля

SALON-Interior
«Фактически предлагается публично покаяться». Что решили арбитры из РСПП по жалобе Baring Vostok «Фактически предлагается публично покаяться». Что решили арбитры из РСПП по жалобе Baring Vostok

Арбитры решили, что Шерзод Юсупов нарушил принципы корпоративной этики

Forbes
«Есть ситуации, когда невозможно молчать». Александр Горбунов рассказал, как создал «Сталингулаг» «Есть ситуации, когда невозможно молчать». Александр Горбунов рассказал, как создал «Сталингулаг»

Александр Горбунов признался, что он действительно автор блога «Сталингулаг»

Forbes
Когда актеры были большими: «Однажды в Голливуде» Квентина Тарантино Когда актеры были большими: «Однажды в Голливуде» Квентина Тарантино

На Каннском кинофестивале прошла премьера самого ожидаемого авторского фильма

Forbes
Шокирующие цифры от Лукашенко. Каков реальный ущерб от грязной нефти в «Дружбе» Шокирующие цифры от Лукашенко. Каков реальный ущерб от грязной нефти в «Дружбе»

Ситуация с поставками загрязненной нефти в нефтепровод «Дружба» разрешается

Forbes
Хюгге по-русски: можем ли мы освоить датскую науку счастья? Хюгге по-русски: можем ли мы освоить датскую науку счастья?

Из чего складывается хюгге и какому русскому понятию этот термин ближе всего

Psychologies
Как 20 минут ежедневной ходьбы изменят вашу жизнь Как 20 минут ежедневной ходьбы изменят вашу жизнь

Достаточно ежедневно выделять 20 минут на пешую прогулку, чтобы изменить жизнь

Psychologies
Если б я был Нурсултан Если б я был Нурсултан

Нурсултан Назарбаев оставил пост президента по собственной воле. Но оставил ли?

GQ
Как едет Range Rover за 1 миллиард фунтов стерлингов? Как едет Range Rover за 1 миллиард фунтов стерлингов?

Один миллиард фунтов стерлингов был потрачен на разработку этого автомобиля

GQ
«Война Анны» — фильм, который нельзя пропустить «Война Анны» — фильм, который нельзя пропустить

Главный российский фильм 2018 года появится на больших экранах с 9 по 12 мая

Forbes
Mazda6: Еще рывочек Mazda6: Еще рывочек

«Шестерка» всегда балансировала на грани премиума

АвтоМир
Убийца авианосцев: трагическая история «сотки» Т-4 Убийца авианосцев: трагическая история «сотки» Т-4

СССР пытался найти дешевое «противоядие» для борьбы с королями океанов

Популярная механика
Странная геометрия Странная геометрия

В дизайне ковров и обоев новый тренд — окончательный слом стереотипов

SALON-Interior
Крупнейший независимый НПЗ России попросил признать себя банкротом Крупнейший независимый НПЗ России попросил признать себя банкротом

Антипинский НПЗ 18 мая направил в суд заявление о банкротстве

Forbes
Пять современных достижений в науке, которые сделали женщины Пять современных достижений в науке, которые сделали женщины

Устройство, которое видит сквозь стены, планшет для слепых и фото черной дыры

Forbes
Собеседник без эмоций: как подготовиться к интервью с HR-роботом Собеседник без эмоций: как подготовиться к интервью с HR-роботом

Первые собеседования в крупных компаниях все чаще проводят роботы

Forbes
Бумажка вместо навыков: почему онлайн-образование не подготовит лидеров будущего Бумажка вместо навыков: почему онлайн-образование не подготовит лидеров будущего

Онлайн-курсы воспитывают людей с искаженным представлением о профессионализме

Forbes
Ненасытный «азиат» из Беларуси: тест Geely Atlas Ненасытный «азиат» из Беларуси: тест Geely Atlas

Стоит ли Geely Atlas своих денег?

Популярная механика
Как стареть так же красиво, как Джордж Клуни? Как стареть так же красиво, как Джордж Клуни?

Что делать, чтобы доказать всем окружающим: зрелость – это красиво

GQ
Машина, которая не боится аварий: необычный Mercedes в деталях Машина, которая не боится аварий: необычный Mercedes в деталях

Что нас ждет в будущем от Mercedes?

РБК
Открыть в приложении