Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Потерянная звезда Плеяд позволила оценить время возникновения легенд о скоплении Потерянная звезда Плеяд позволила оценить время возникновения легенд о скоплении

Звезды Атлас и Плейона находились дальше друг от друга на небе, чем сейчас

N+1
Пневматическая почта: как это работает Пневматическая почта: как это работает

Пневмопочта сможет спасти крупные города от пробок и смога

Популярная механика
Брэду Питту – 57! Вспоминаем лучшие высказывания актера Брэду Питту – 57! Вспоминаем лучшие высказывания актера

Вспомнили лучшие высказывания Брэда Питта, показывающие, что он за человек

РБК
Особенности туристической подготовки внедорожников Особенности туристической подготовки внедорожников

Уроки школы автотуризма: как подготовить внедорожник к экспедиции

4x4 Club
Пьянящий актив Пьянящий актив

Власти Крыма продают «Массандру» вместе с сотнями тысяч бутылок вина

Forbes
«Не обновляли со времен Горбачева». Иностранцы — о российских машинах «Не обновляли со времен Горбачева». Иностранцы — о российских машинах

Какие российские автомобили наделали много шума за рубежом

РБК
Как решить проблему неприязни к маленьким детям Как решить проблему неприязни к маленьким детям

Вас раздражают чужие младенцы?

СНОБ
Как способов прокачать мозги: 6 нетривиальных способов Как способов прокачать мозги: 6 нетривиальных способов

Более того, чтобы поумнеть, тебе почти не придется вставать с дивана

Maxim
На БАК измерили сильное взаимодействие между протонами и редкими гиперонами На БАК измерили сильное взаимодействие между протонами и редкими гиперонами

Измерение взаимодействия между протонами и двумя типами гиперонов

N+1
Ботаники описали новый вид подземных орхидей с Мадагаскара Ботаники описали новый вид подземных орхидей с Мадагаскара

Ученые нашли одну из самых некрасивых орхидей в мире

N+1
Каникулы без последствий Каникулы без последствий

Эксперты рассказывают, как лучше питаться в праздничные дни

Лиза
Самые странные телефоны из прошлого, которые на фоне современных смартфонов выглядят внезпано футуристично Самые странные телефоны из прошлого, которые на фоне современных смартфонов выглядят внезпано футуристично

Футуристичные гаджеты из прошлого: телефон-часы и раскладушка для буддистов

Maxim
Читаем на английском: 5 книг для начинающих (и полезные советы, чтобы не бросить) Читаем на английском: 5 книг для начинающих (и полезные советы, чтобы не бросить)

Что читать и как читать на английском

Esquire
Долой финансовую зависимость: как выстроить раздельный семейный бюджет Долой финансовую зависимость: как выстроить раздельный семейный бюджет

Как быть на равных с партнером и строить финансовые отношения по-взрослому?

Cosmopolitan
«Амбиций у меня вообще поубавилось, тем более в бизнесе»: главное из интервью Олега Тинькова на «Дожде» «Амбиций у меня вообще поубавилось, тем более в бизнесе»: главное из интервью Олега Тинькова на «Дожде»

Олег Тиньков рассказал о борьбе с болезнью и сорвавшейся сделке с «Яндексом»

VC.RU
Что надо знать о выгорании и как его у себя определить Что надо знать о выгорании и как его у себя определить

Что такое профессиональное выгорание и как его у себя диагностировать

СНОБ
Павианы научились ворчанию у соплеменников Павианы научились ворчанию у соплеменников

Социальная близость повлияла на издаваемые павианами звуки

N+1
7 сигналов организма, после которых надо бежать к эндокринологу 7 сигналов организма, после которых надо бежать к эндокринологу

Признаки проблем проблем с щитовидной железой

Cosmopolitan
Преобразователи материи Преобразователи материи

Елена Стафьева о проекте Meet our Artisans

Weekend
«Загадай желание»: 4 вопроса, чтобы понять, чего мы хотим «Загадай желание»: 4 вопроса, чтобы понять, чего мы хотим

Как понять, о чем мы мечтаем на самом деле?

Psychologies
Михаил Сергачев Михаил Сергачев

Михаил Сергачев – хоккеист, в 22 года выигравший Кубок Стэнли

Maxim
7 деликатных моментов, которые нас смущают в начале отношений 7 деликатных моментов, которые нас смущают в начале отношений

В начале любого романа иногда возникают неловкие ситуации

Psychologies
«Люблю себя больше жизни»: зачем люди женятся на самих себе «Люблю себя больше жизни»: зачем люди женятся на самих себе

Сологамия — новый тренд в свадебной индустрии.

Cosmopolitan
Эффективные упражнения на пресс: описание, видео, советы Эффективные упражнения на пресс: описание, видео, советы

Рассказываем, как сделать пресс сильным и рельефным, не выходя из дома

РБК
Топ-7 зимних хоррор-видеоигр Топ-7 зимних хоррор-видеоигр

Эти видеоигры доказывают, что зима может быть крайне неуютным временем года

Популярная механика
Помощники спекулянтов: как гринч-боты скупают дефицитные товары Помощники спекулянтов: как гринч-боты скупают дефицитные товары

Кто создает гринч-боты, сколько они стоят и как активно их используют в России?

Forbes
Почему в России головные уборы были необходимой частью костюма? Почему в России головные уборы были необходимой частью костюма?

В старину головные уборы имели практическое значение

Культура.РФ
Наркотики, интриги, драки: 7 некрасивых историй красивого голливудского кино Наркотики, интриги, драки: 7 некрасивых историй красивого голливудского кино

Что скрывается за кадром легендарных фильмов, которыми восхищается весь мир?

Cosmopolitan
«Родить успею»: как женщины в XIX веке выбрали образование и карьеру «Родить успею»: как женщины в XIX веке выбрали образование и карьеру

Отрывок из книги «Сметая запреты» о русской сексуальной культуре XI-XX веков

Forbes
Открыть в приложении