Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Женщина 20 лет не убирала в доме, но он оставался чистым. Почему? Женщина 20 лет не убирала в доме, но он оставался чистым. Почему?

Думаете, дом, который не убирался больше 20 лет был похож на свалку?

Популярная механика
Дмитрий Евграфов: « В торговых центрах будет играть плохая музыка от ИИ» Дмитрий Евграфов: « В торговых центрах будет играть плохая музыка от ИИ»

Как создают музыку с помощью нейросетей и почему здесь не обойтись без человека

РБК
Эрогенные зоны женщины: где искать и как стимулировать Эрогенные зоны женщины: где искать и как стимулировать

У женщин есть много эрогенных зон, и ты обязательно найдешь их все

Playboy
Как быстро прекратить истерику у девушки Как быстро прекратить истерику у девушки

Как справиться с истинной и манипулятивной истерикой своей партнерши?

Maxim
Виртуальный секс Виртуальный секс

«Популярная механика» протестировала первую в мире виртуальную любовницу

Популярная механика
«Аэрокобра» Покрышкина: американская хищница для советских асов «Аэрокобра» Покрышкина: американская хищница для советских асов

История настоящей Бэллочки-людоедки

Maxim
«Не обновляли со времен Горбачева». Иностранцы — о российских машинах «Не обновляли со времен Горбачева». Иностранцы — о российских машинах

Какие российские автомобили наделали много шума за рубежом

РБК

Какое влияние смартфоны оказывают на наш внешний вид

Cosmopolitan
7 образов Валентина Гафта в кино 7 образов Валентина Гафта в кино

Вспоминаем самых стильных героев Валентина Гафта

GQ
56 м² 56 м²

Неправильную геометрию квартиры дизайнер исправила с помощью систем хранения

AD
Липкая граната и другое нелепое оружие, за которое военным пришлось краснеть Липкая граната и другое нелепое оружие, за которое военным пришлось краснеть

Это оружие было создано для того, чтобы застать врага врасплох, пока он смеется

Maxim
85 м² 85 м²

Потолки высотой 4,5 метра позволили дизайнеру сделать в квартире второй этаж

AD
4 невероятные истории чудесного выживания в дикой природе 4 невероятные истории чудесного выживания в дикой природе

Истории людей, которые выжили в дикой природе

Maxim
Брак с конюхом: как сложилась личная жизнь единственной дочери Елизаветы II Брак с конюхом: как сложилась личная жизнь единственной дочери Елизаветы II

Разбираемся в том, что правда, а что вымысел в сериале «Корона»

Cosmopolitan
Пряное золото: как подделывают специи на Рождество и Новый Год Пряное золото: как подделывают специи на Рождество и Новый Год

Вы уверены, что мята, корица и шалфей в вашем супермаркете настоящие?

Популярная механика
5 способов избавиться от боли без лекарств 5 способов избавиться от боли без лекарств

Пять немедикаментозных техниках избавления от болевых ощущений

Psychologies
3 эффективных метода, которые помогут вернуть гармонию в жизнь 3 эффективных метода, которые помогут вернуть гармонию в жизнь

Как найти баланс между творческими увлечениями и рабочими задачами?

Psychologies
7 игр для быстрого знакомства на новогодних вечеринках 7 игр для быстрого знакомства на новогодних вечеринках

Лучшие игры для вечеринки, на которой еще не все знакомы

Maxim
«Хаос. Создание новой науки» «Хаос. Создание новой науки»

Отрывок из книги Джеймса Глика «Хаос. Создание новой науки»

N+1
Прилетит вдруг Всевышний… Что такое карго-культ Прилетит вдруг Всевышний… Что такое карго-культ

Как возникает и развивается религия, можно изучить на примере карго-культа

Maxim
Полярное сияние Полярное сияние

Какой хайлайтер выбрать и как им правильно пользоваться?

Лиза
Все начальники делают это Все начальники делают это

Пошаговое руководство по решению (почти) всех проблем менеджера

kiozk originals
Химики изготовили дешевый катализатор для производства углеводородов из углекислого газа Химики изготовили дешевый катализатор для производства углеводородов из углекислого газа

Основная особенность этого катализатора — баланс карбида и оксида железа

N+1
«Здесь нет шансов что-то доказать». ДТП, которое может произойти с каждым «Здесь нет шансов что-то доказать». ДТП, которое может произойти с каждым

Разбираем в последствиях ДТП: кто виноват и что делать

РБК
«Анастасия» — на «Титанике», а «Холоп» — на «Льду». Почему «Серебряные коньки» — самый симпатичный в этом году праздничный фильм «Анастасия» — на «Титанике», а «Холоп» — на «Льду». Почему «Серебряные коньки» — самый симпатичный в этом году праздничный фильм

«Серебряные коньки» — святочный рассказ, блокбастер и диснеевская сказка

Esquire
«На мне Fendi, смотри»: как TikTok меняет моду «На мне Fendi, смотри»: как TikTok меняет моду

Как TikTok меняет моду, шоппинг и общество

РБК
Барражирующие боеприпасы: что это такое Барражирующие боеприпасы: что это такое

Концепция оружия нового поколения – барражирующие боеприпасы

Популярная механика
Аренда мозга, бизнес в «облаке», дизайн детей: где скрываются ниши на триллион долларов Аренда мозга, бизнес в «облаке», дизайн детей: где скрываются ниши на триллион долларов

Сэм Альтман обсуждает, какие рынки в будущем смогут зарабатывать триллионы

VC.RU
Родительский контроль: стоит ли читать переписку ребенка? Родительский контроль: стоит ли читать переписку ребенка?

О чем говорит желание знать все о жизни своего ребенка?

Psychologies
5 известных дореволюционных ресторанов Петербурга 5 известных дореволюционных ресторанов Петербурга

Где в дореволюционном Петербурге можно было отведать изысканных блюд?

Культура.РФ
Открыть в приложении