Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Женщина 20 лет не убирала в доме, но он оставался чистым. Почему? Женщина 20 лет не убирала в доме, но он оставался чистым. Почему?

Думаете, дом, который не убирался больше 20 лет был похож на свалку?

Популярная механика
Хватит говорить людям «я занят», потому что это обижает: 4 способа деликатно выйти из ситуации Хватит говорить людям «я занят», потому что это обижает: 4 способа деликатно выйти из ситуации

Говорить всем о своей «занятости» — нетактично

Playboy
Как полковник австро-венгерской армии шпионил в пользу Российской империи Как полковник австро-венгерской армии шпионил в пользу Российской империи

О шпионаже австро-венгерского полковника в пользу Российской империи

СНОБ
Белошвейка из Тура Белошвейка из Тура

Герцогиня де Шеврёз — виртуозная политическая интриганка эпохи двух кардиналов

Дилетант
Что говорит о нас наш дом Что говорит о нас наш дом

Организуя свой дом, мы воплощаем наши неосознанные влечения и инстинкты

Psychologies
Процесс Процесс

Чем Виктора Добронравова привлекла роль пожарного и что выводит его из себя

OK!
Перестаньте отвечать «я занят». Гарвардские ученые доказали, что это обижает собеседника Перестаньте отвечать «я занят». Гарвардские ученые доказали, что это обижает собеседника

Ученые советуют никогда не отвечать так ни друзьям, ни коллегам

Inc.
15 лучших российских фильмов 2020 года 15 лучших российских фильмов 2020 года

2020-й все равно оказался богат на (положительные) эмоции от отечественного кино

Esquire
Что подарить мужчине: 23 нетривиальных мужских подарка Что подарить мужчине: 23 нетривиальных мужских подарка

Чтобы ты не ломал голову над подарками под елочку, мы все выбрали за тебя

Playboy
«Технологии должны облегчать жизнь человека, но ко многим процессам мы настолько привыкли, что и не думаем, что их можно как-то упростить» «Технологии должны облегчать жизнь человека, но ко многим процессам мы настолько привыкли, что и не думаем, что их можно как-то упростить»

Как работает погодное приложение, которое показывает прогноз погоды без цифр

Inc.
Женщина и город: модные советы от Александра Васильева Женщина и город: модные советы от Александра Васильева

Какой видит современную горожанку историк моды Александр Васильев?

Cosmopolitan
О чем думает убийца: как криминалисты пытались заглянуть в головы преступников от Джека-потрошителя до Чарльза Мэнсона О чем думает убийца: как криминалисты пытались заглянуть в головы преступников от Джека-потрошителя до Чарльза Мэнсона

Отрывок из книги Саши Сулим «Безлюдное место»

Forbes
Дела дачные Дела дачные

Загородный дом в стиле старой петербургской дачи

SALON-Interior
2008 год 2008 год

Победа Дмитрия Медведева на выборах, триумф российского футбола и «Евровидение»

Esquire
Актриса Валентина Талызина — о работе над «Иронией судьбы» Актриса Валентина Талызина — о работе над «Иронией судьбы»

Валентина Талызина сыграла в главном новогоднем фильме сразу две роли

Esquire
Вопрос для Байдена: введут ли США новые санкции против компаний Олега Дерипаски Вопрос для Байдена: введут ли США новые санкции против компаний Олега Дерипаски

Почему не стоит ждать быстрой реакции санкционных властей США

Forbes
Нечистая порода Нечистая порода

Не вредит ли животным наша любовь к чистопородным и дизайнерским собакам?

Robb Report
5 ошибок Ильи Елпанова, основателя «Ешь деревенское» 5 ошибок Ильи Елпанова, основателя «Ешь деревенское»

Ошибки, которые дали основателю «Ешь деревенское» полезный опыт

Inc.
Эксклюзив Cosmo: интервью с Джеммой Чан — новой посланницей L’Oréal Paris Эксклюзив Cosmo: интервью с Джеммой Чан — новой посланницей L’Oréal Paris

Что вдохновляет Джемму Чан, что придает ей уверенности?

Cosmopolitan
Подземная изоляция Подземная изоляция

Кроты настолько асоциальны, насколько это возможно для млекопитающих

Вокруг света
Индия после Ганди Индия после Ганди

История крупнейшей демократии в мире

kiozk originals
Правила жизни Стивена Спилберга Правила жизни Стивена Спилберга

Правила жизни режиссера Стивена Спилберга

Esquire
Парадокс об актрисе Парадокс об актрисе

Ольга Федянина о «Дневниках» Алисы Коонен

Weekend
Вернуть себе амбициозность: как Тори Берч и Мина Харрис борются с неравенством в бизнесе Вернуть себе амбициозность: как Тори Берч и Мина Харрис борются с неравенством в бизнесе

Где предпринимательницам искать поддержку?

Forbes
Как понять, что ты трудоголик? 7 признаков, которые нельзя игнорировать Как понять, что ты трудоголик? 7 признаков, которые нельзя игнорировать

Себя тоже нужно жалеть и беречь от трудоголизма

Playboy
7 модных способов почувствовать себя стройной 7 модных способов почувствовать себя стройной

У каждой женщины есть свои способы почувствовать себя стройной

Cosmopolitan
Выбираем телевизор: искусственный интеллект и другие ультрасовременные ТВ-технологии Выбираем телевизор: искусственный интеллект и другие ультрасовременные ТВ-технологии

Что учитывать, выбирая телевизор?

Популярная механика
Дух рождества Дух рождества

В самом немецком из французских городов Рождество отмечают пышно и со вкусом

Лиза
Археологи нашли импортные товары в средневековых деревнях Африки Археологи нашли импортные товары в средневековых деревнях Африки

Даже в отдаленные поселения попадали предметы из Месопотамии и Средиземноморья

N+1
Минуту внимания! Минуту внимания!

Как заинтриговать и увлечь любую аудиторию

kiozk originals
Открыть в приложении