Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Женщина 20 лет не убирала в доме, но он оставался чистым. Почему? Женщина 20 лет не убирала в доме, но он оставался чистым. Почему?

Думаете, дом, который не убирался больше 20 лет был похож на свалку?

Популярная механика
«Письмо, которое не будет отправлено»: дочь Легкоступовой обратилась к певице «Письмо, которое не будет отправлено»: дочь Легкоступовой обратилась к певице

Анэтта Бриль написала трогательное письмо маме, певице Валентине Легкоступовой

Cosmopolitan
История купальника: как борьба за право раздеться привела к обратному результату История купальника: как борьба за право раздеться привела к обратному результату

Раньше женщинам запрещали раздеваться, а теперь — одеваться

Forbes
10 фобий, которые могут испортить ваш отпуск 10 фобий, которые могут испортить ваш отпуск

Мы изучили 10 главных страхов путешественника

Psychologies
Cadillac XT6. Всё включено Cadillac XT6. Всё включено

К Cadillac у нас отношение особое

4x4 Club
#лицо #лицо

Все для того, чтобы кожа оставалась свежей, сияющей и увлажненной

Glamour
Юрий Чурсин: «Кино – это вообще-то произведение искусства» Юрий Чурсин: «Кино – это вообще-то произведение искусства»

Юрий Чурсин рассказал о русском кино и опыте игры в женской одежде

GQ
9 мифов о еде, которым ты веришь совершенно напрасно 9 мифов о еде, которым ты веришь совершенно напрасно

Узнай всю правду о еде, и питаться правильно тебе будет гораздо легче

Maxim
Как ухаживают за кожей топ-модели: 15 секретов — от оливкового масла до авокадо Как ухаживают за кожей топ-модели: 15 секретов — от оливкового масла до авокадо

Домашние рецепты красоты и любимые бренды топ-моделей

Cosmopolitan
Атака этажерок-убийц. История первых самолетов-бомбардировщиков Атака этажерок-убийц. История первых самолетов-бомбардировщиков

История бомбардировщиков «Ильи Муромца» и «Цеппелин-Штаакена»

Maxim
8 случаев, когда ваши права внезапно станут недействительными. Памятка 8 случаев, когда ваши права внезапно станут недействительными. Памятка

Что грозит автомобилистам с поврежденным водительским удостоверением?

РБК
Что, кроме «Щелкунчика», послушать под Рождество Что, кроме «Щелкунчика», послушать под Рождество

Семь композиций, которые настроят на праздничный рождественский лад

Seasons of life
Как просить подарки у Деда Мороза так, чтобы он тебе их точно подарил Как просить подарки у Деда Мороза так, чтобы он тебе их точно подарил

Полное пошаговое руководство по общению с Дедом Морозом для взрослых

Maxim
«Объясняя науку: Руководство для авторов научно-популярных текстов» «Объясняя науку: Руководство для авторов научно-популярных текстов»

Отрывок из книги Игоря Иванова о том, как писать научно-популярные новости

N+1
Сага о Набутовых: семья, по которой можно изучать историю Сага о Набутовых: семья, по которой можно изучать историю

Это не сериал «Династия». Это петербургская сага. Сага о Набутовых

Esquire
Искусство облачения капуцинов Искусство облачения капуцинов

Марина Прохорова об Artycapucines Collection 2020

Weekend
Как путешествовать по миру на 50 долларов в день Как путешествовать по миру на 50 долларов в день

Платите меньше, путешествуйте дольше, действуйте с умом

kiozk originals
Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях» Нейросеть GPT-3: «Роботы никогда не заменят потребность в людях»

Собеседник РБК — третье поколение алгоритма по обработке естественного языка

РБК
Геологи предложили новую теорию формирования ледяных щитов Земли Геологи предложили новую теорию формирования ледяных щитов Земли

Движение тектонических плит резко замедлилось, что привело к изменению климата

Популярная механика
Максен из карбида титана превратил ткань в клетку Фарадея Максен из карбида титана превратил ткань в клетку Фарадея

Простой способ получения ткани с защитой от электромагнитного излучения

N+1
Во имя отца и сына. На Netflix вышел «Манк» — ревизия «Гражданина Кейна» от режиссера Дэвида Финчера и сценариста Джека Финчера, его отца Во имя отца и сына. На Netflix вышел «Манк» — ревизия «Гражданина Кейна» от режиссера Дэвида Финчера и сценариста Джека Финчера, его отца

«Манк» — новый фильм Дэвида Финчера, который обязательно войдет в историю

Esquire
Гепарды не захотели охотиться на скот вдали от деревьев для меток Гепарды не захотели охотиться на скот вдали от деревьев для меток

На территории гепардов есть так называемые «узлы связи»

N+1
От оргазма до маразма От оргазма до маразма

Что за 50 лет стало с «Мужчиной и женщиной» и французской мелодрамой

Weekend
Птицы научились зондировать субстрат клювом еще в эпоху динозавров Птицы научились зондировать субстрат клювом еще в эпоху динозавров

Древние птицы литорнитиды обладали чувствительными клювами, подобно киви

N+1
Помоги себе сам: 7 способов быстро справиться с эмоциями Помоги себе сам: 7 способов быстро справиться с эмоциями

Как научиться контролировать эмоции и всегда сохранять трезвый ум?

Psychologies
Как карантин и изоляция породили новые формы жизни Как карантин и изоляция породили новые формы жизни

Туризм, трибуны болельщиков, клубы и музеи во время изоляции

Weekend
Чем заняться в Тюмени и Тобольске Чем заняться в Тюмени и Тобольске

Почему именно в Тюмени и Тобольске есть шанс создать успешный турпродукт

СНОБ
Как живут школьники из рыбацкой деревни Взвад: фотоистория Как живут школьники из рыбацкой деревни Взвад: фотоистория

Дети из деревни Взвад в Новгородской области рассказывают о своей жизни

Esquire
Как Жан-Люк Годар снял свой главный фильм и продолжает снимать его до сих пор. Годару — 90, «Безумному Пьеро» — 55 Как Жан-Люк Годар снял свой главный фильм и продолжает снимать его до сих пор. Годару — 90, «Безумному Пьеро» — 55

Жан-Люк Годар — могильщик кино, заново изобретающий его в каждом фильме

Weekend
Кому удалось воскресить старые автомобильные бренды, а кто – облажался Кому удалось воскресить старые автомобильные бренды, а кто – облажался

Зачем Renault возрождают Alpine и почему с рынка исчезли автомобили Bugatti

GQ
Открыть в приложении