Даже система, созданная для исполнения мечты, может превратить праздник в кошмар

Популярная механикаHi-Tech

Новогодний террор: что будет, если Деда Мороза заменит искусственный интеллект

Разработка систем ИИ идет полным ходом, и, хоть машины становятся умнее день ото дня, это не всегда хорошие новости. Рано или поздно даже система, созданная для исполнения мечты, может превратить праздник в настоящий кошмар.

Василий Макаров

Что произойдет, если вместо доброго духа Рождества и Нового Года праздничными подарками однажды займется ИИ? Что ж, для человечества этот день может стать последним...

По мнению некоторых экспертов, в ближайшие несколько десятилетий мы можем увидеть, как шаг за шагом развивается самый настоящий искусственный интеллект. Так называемый «общий искусственный интеллект» или ОИИ (англ. AGI) в итоге будет обладать интеллектуальными возможностями, намного превосходящими человеческие.

AGI может изменить человеческую жизнь к лучшему, но неконтролируемый AGI также может привести к катастрофам, вплоть до гибели самого человечества. Это может произойти без какого-либо злого умысла: просто стремясь достичь изначально заложенных в него целей, ОИИ могут создать угрозы здоровью и благополучию человека или даже решить нас уничтожить из самых благих побуждений.

Даже система AGI, разработанная для благотворительных целей, может в конечном итоге нанести большой вред.

В рамках программы исследований, изучающих, как мы можем управлять рисками, связанными с AGI, ученые попытались определить потенциальные риски замены Санта-Клауса системой AGI – рабочее название «SantaNet» - цель которой состоит в доставке подарков детям во всем мире всего за одну ночь.

Нет сомнений в том, что SantaNet может принести радость миру и достичь своей цели, создав армию эльфов, помощников ИИ и дронов. Но какой ценой? Исследователи определили ряд моделей поведения, которые, хотя и имели бы благие намерения, могли оказать неблагоприятное воздействие на здоровье и благополучие человека.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Пряное золото: как подделывают специи на Рождество и Новый Год Пряное золото: как подделывают специи на Рождество и Новый Год

Вы уверены, что мята, корица и шалфей в вашем супермаркете настоящие?

Популярная механика
Уловки водителей с номерами, и как за них наказывают Уловки водителей с номерами, и как за них наказывают

Какие махинации с номерами совершают водители, чтобы не платить штрафы?

РБК
7 нескучных фактов об автомобиле «Москвич» ко дню его рождения 7 нескучных фактов об автомобиле «Москвич» ко дню его рождения

Удивительные факты о «Москвиче» — от плагиата до постельной сцены

Maxim
P.S.: 2010 год P.S.: 2010 год

Нулевые, которые страна провела в офисах и клубах, закончились

Esquire
Стоп-сигнал Стоп-сигнал

Мы перестали ходить на каблуках, но стали ли от этого счастливее наши ноги?

Tatler
Гипотезу Дарвина о происхождении вторично бескрылых насекомых подтвердили 160 лет спустя Гипотезу Дарвина о происхождении вторично бескрылых насекомых подтвердили 160 лет спустя

Оказалось, что главным фактором их эволюции является сильный ветер

N+1
#ароматы #ароматы

Парфюм, который позволяет путешествовать не выходя из дома

Glamour
Этого не хватало Этого не хватало

Можно ли с помощью добавок, кремов и процедур поддержать синтез коллагена

Glamour
В мозге нашли «включатель» сознания В мозге нашли «включатель» сознания

Коллектив ученых связал сознание с таламусом, поясной корой, угловыми извилинами

N+1
5 идей, как улучшить отношения с самим собой 5 идей, как улучшить отношения с самим собой

Чем крепче наша дружба с собой, тем легче нам общаться с другими

Psychologies
Как объяснить ребенку, что такое экономика Как объяснить ребенку, что такое экономика

Как научить ребенка пользоваться деньгами

СНОБ
Лекарственная зависимость Лекарственная зависимость

Никита Жуков объясняет, бывает ли зависимость от лекарств

Maxim
73 м² 73 м²

Дизайнеры бюро To Taste сделали в глубине квартиры антресоль

AD
Кулебяка — украшение русского стола Кулебяка — украшение русского стола

Старинная русская кулебяка — традиционное новогоднее угощение

Наука и жизнь
Нарциссы: почему они всегда возвращаются Нарциссы: почему они всегда возвращаются

Нарциссы обаятельны, опасны и всегда возвращаются к жертвам: почему?

Psychologies
Сказка – ложь? Сказка – ложь?

Психолог рассказывает, как говорить с детьми о волшебстве и Деде Морозе

Лиза
Что такое йога: инструкция для начинающих Что такое йога: инструкция для начинающих

Развенчиваем мифы о йоге и рассказываем, с чего начать

РБК
42 м² 42 м²

Стилист Дарья Соболева оформила квартиру, сделав акцент на цвете и искусстве

AD
Астрономы объявили о загадочном исчезновении самой большой черной дыры во Вселенной Астрономы объявили о загадочном исчезновении самой большой черной дыры во Вселенной

Черные дыры не могут исчезать бесследно... Или могут?

Популярная механика

Красавчики из турецких сериалов

Cosmopolitan
Юрий Сапрыкин, Фонд «Сколково»: «Сегодня отношения сложные, завтра — не очень. Но бизнес есть бизнес» Юрий Сапрыкин, Фонд «Сколково»: «Сегодня отношения сложные, завтра — не очень. Но бизнес есть бизнес»

Юрий Сапрыкин из «Сколково» о том, в чем заинтересованы иностранные компании

Inc.
Перестаньте отвечать «я занят». Гарвардские ученые доказали, что это обижает собеседника Перестаньте отвечать «я занят». Гарвардские ученые доказали, что это обижает собеседника

Ученые советуют никогда не отвечать так ни друзьям, ни коллегам

Inc.
Как девелопер «Самолет» помогает миллиардерам и крупнейшим землевладельцам России зарабатывать деньги Как девелопер «Самолет» помогает миллиардерам и крупнейшим землевладельцам России зарабатывать деньги

Девелопер «Самолет» смог найти общий язык с главными российскими лендлордами

Forbes
Андрей Аствацатуров: Все мы друг другу пеликаны, то есть не похожи друг на друга Андрей Аствацатуров: Все мы друг другу пеликаны, то есть не похожи друг на друга

Интервью с писателем Андреем Аствацатуровым

СНОБ
Банкноты-путеводители: по курсу евро Банкноты-путеводители: по курсу евро

Увидеть необычные достопримечательности можно, не тратя евро, а рассматривая их

Вокруг света
Как просить подарки у Деда Мороза так, чтобы он тебе их точно подарил Как просить подарки у Деда Мороза так, чтобы он тебе их точно подарил

Полное пошаговое руководство по общению с Дедом Морозом для взрослых

Maxim
Самый быстрый «единорог» в истории: сервис онлайн-мероприятий Hopin за год вырос с нуля до оценки в $2,1 млрд Самый быстрый «единорог» в истории: сервис онлайн-мероприятий Hopin за год вырос с нуля до оценки в $2,1 млрд

Выручка стартапа за полгода выросла в 50 раз — с $450 тысяч до $25 млн

VC.RU
Идеальный шторм – почему командам нравится непогода Идеальный шторм – почему командам нравится непогода

Нужна ли команда вообще, а если нужна, то для чего?

Forbes
Груз потери: как влияет на семью смерть ребенка Груз потери: как влияет на семью смерть ребенка

Психологи объясняют, как справиться с потерей беременности и ребенка

Psychologies
Открыть в приложении