Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Новогодняя прокрастинация: почему мы покупаем подарки в последнюю минуту Новогодняя прокрастинация: почему мы покупаем подарки в последнюю минуту

К какому типу прокрастинаторов вы относитесь?

Psychologies
Культурные коды экономики: можно ли доверять большинству людей в стране Культурные коды экономики: можно ли доверять большинству людей в стране

С чего начинается экономическое чудо?

Forbes
Китай назвали абсолютным лидером по площади засоленных почв Китай назвали абсолютным лидером по площади засоленных почв

При этом наиболее высокие темпы прироста таких земель обнаружены в Бразилии

N+1
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Наращивание или ламинирование: какая процедура подойдет твоим ресницам Наращивание или ламинирование: какая процедура подойдет твоим ресницам

Рассказываем о последних тенденциях в «ресничном деле»

Cosmopolitan
Прикоснуться к сердцу Прикоснуться к сердцу

Завтрак съешь сам — этого правила неизменно придерживаются на юге Китая

Вокруг света
8 гениальных изобретений своего времени, которые сейчас выглядят нелепо 8 гениальных изобретений своего времени, которые сейчас выглядят нелепо

Когда-то люди тыкали в них пальцами с восторгом и восхищением

Maxim
Холодное оружие Холодное оружие

Зимние прогулки могут обернуться переохлаждением или обморожением

Здоровье
Ку-клукс-клан: 10 фактов о мужиках в простынях Ку-клукс-клан: 10 фактов о мужиках в простынях

Как появился и развивался Ку-клукс-клан

Maxim
19 м² 19 м²

Двухуровневая квартира Александры Ермиловой из BüroBlanc в здании бывшей фабрики

AD
Психолог поискового отряда «Лиза Алерт»: «Мы должны понимать тех, кого ищем» Психолог поискового отряда «Лиза Алерт»: «Мы должны понимать тех, кого ищем»

Психолог из «Лиза Алерт» делится своей историей

Psychologies
9 книг, которые подарят праздничное настроение 9 книг, которые подарят праздничное настроение

Эти девять книг помогут обрести новогоднее настроение в любое время года

РБК
Новый алгоритм DeepMind самостоятельно освоил игры Atari Новый алгоритм DeepMind самостоятельно освоил игры Atari

Алгоритм научился играть в го, шахматы и сёги

N+1
Как одевается Вуди Аллен, чей самобытный стиль с годами не меняется — и остается актуальным Как одевается Вуди Аллен, чей самобытный стиль с годами не меняется — и остается актуальным

Вуди Аллен: широкие брюки, твидовые жакеты и другие элементы стиля

Esquire
2002 год 2002 год

Теракт на Дубровке, футбольный погром, запуск «Масяни» и «Идущие вместе»

Esquire
15 кухонных гаджетов, которые мы используем неправильно 15 кухонных гаджетов, которые мы используем неправильно

Этими вещами мы пользуемся неправильно, даже не подозревая об этом

Популярная механика
Новый прибор будет изучать марсианские изотопы Новый прибор будет изучать марсианские изотопы

C помощью этого лазера можно изучить состав атмосферы Красной планеты

Популярная механика
Пандемия и страсть: как новый мир создает новый секс Пандемия и страсть: как новый мир создает новый секс

Секс-блогер Мария Чеснокова рассуждает о том, как изменилась секс-индустрия

Cosmopolitan
Что такое мокьюментари: пять фильмов, которые познакомят с жанром Что такое мокьюментари: пять фильмов, которые познакомят с жанром

Мокьюментари — жанр кино, существующий на стыке реального и вымышленного

Seasons of life
Правила жизни Тайгера Вудса Правила жизни Тайгера Вудса

Правила жизни великого гольфиста Тайгера Вудса

Esquire
Выживают только параноики Выживают только параноики

Как использовать кризисные периоды, с которыми сталкивается любая компания

kiozk originals
Элизабет Дебики. Подарки судьбы Элизабет Дебики. Подарки судьбы

Ей было всего двадцать, когда один звонок изменил жизнь австралийской актрисы

Караван историй
«Свято место пусто не бывает: история советского атеизма» «Свято место пусто не бывает: история советского атеизма»

Как и почему советская власть не смогла создать атеистическое общество

N+1
Терем рукотворный Терем рукотворный

Терем в Асташове — пример того, что людям под силу повернуть историю

Seasons of life
Политика Политика

Политолог Глеб Павловский подмечает главные тренды в российской политике нулевых

Esquire
Они дали любви время: история отношений Пенелопы Крус и Хавьера Бардема Они дали любви время: история отношений Пенелопы Крус и Хавьера Бардема

Как развивались отношения самой страстной испанской пары

Cosmopolitan
Почему подход Waymo к автопилоту может оказаться надёжнее подхода Tesla Почему подход Waymo к автопилоту может оказаться надёжнее подхода Tesla

Чем примечателен подход Waymo к автономным такси?

VC.RU
Лекарственная зависимость Лекарственная зависимость

Никита Жуков объясняет, бывает ли зависимость от лекарств

Maxim
«Поначалу с мужчинами играть было трудно»: первая женщина-гроссмейстер Нона Гаприндашвили — о жизни шахматисток и сериале «Ход королевы» «Поначалу с мужчинами играть было трудно»: первая женщина-гроссмейстер Нона Гаприндашвили — о жизни шахматисток и сериале «Ход королевы»

Интервью с первой женщиной-гроссмейстером Ноной Гаприндашвили

Forbes
Открыть в приложении