Развитие искусственного интеллекта сделает нас бессмертными либо убьет

РБКHi-Tech

Алексей Турчин: «В этом веке решится судьба человечества»

0:00 /
599.002

Следующее десятилетие будет испытанием для футурологов, так как скоро станет понятно, чьи прогнозы верны, а чьи остались только в фантазиях. Так считает Алексей Турчин, трансгуманист и соавтор книги «Футурология. XXI век: бессмертие или глобальная катастрофа?». Испытание ожидает и все человечество: дальнейшее развитие искусственного интеллекта сделает нас бессмертными либо убьет.

Алексей Турчин — трансгуманист, футуролог, вице-президент фонда «Наука за продление жизни». Основатель проекта Digital Immortality Now, предоставляющего услуги по фиксации важной информации о человеке, которую можно будет использовать в будущем для возможного восстановления личности с помощью сильного ИИ. Соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?».

Технологическая сингулярность (момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. — РБК) предсказывалась еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Тем не менее уже в следующем десятилетии мы увидим, выходит ли волна прогресса на экспоненциальный рост или захлебывается.

В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, размер нейронных сетей, а именно число их параметров, при росте в десять раз за год к концу 2019 года достигло 11 млрд. Точно так же и количество вычислений, нужных для их тренировки, по подсчетам исследовательской компании OpenAI, удваивается каждые три месяца.

Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК). При этом вопрос о сильном ИИ — основная задача XXI века, так как от него зависит дальнейшая судьба цивилизации.

Почему так важен вопрос о сильном ИИ?

Потому что универсальный ИИ нас или убьет, или сделает бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: либо эволюции в сторону радикального продления жизни, либо перехода к тем или иным вариантам глобальной катастрофы.

И здесь возникает коллизия: будет ли быстрый прогресс более управляемым, чем медленный? Если сингулярность наступит, как предсказывалось, в 2030 году, то кто успеет ее оседлать? Не окажемся ли мы, как пауки в банке, в мальтузианской ловушке (ситуация, свойственная доиндустриальным обществам, в результате которой рост населения обгонял рост производства продуктов. — РБК)?

Если прогресс останавливается и мы остаемся с имеющимся набором технологий, то все существующие ресурсы становятся конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс. Если прогресс не останавливается, то мы в конечном счете создаем «сверхтехнологии»: ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.

Чего ждать от следующего десятилетия?

Во-первых, нужно наблюдать за скоростью развития искусственного интеллекта. Она покажет, начнется ли новая «зима» или будет достигнут какой-то «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.

Во-вторых, важно проследить, не выдохнется ли революция в электротранспорте и возобновляемых источниках энергии.

Затем важно определить, сможет ли «взрыв» числа стартапов в области longevity (от англ. долголетие. — РБК) трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни и какова будет судьба общественных движений, выступающих за это. Например, сможет ли немецкая «Партия за медицинские исследования» (Partei für Gesundheitsforschung) существенно улучшить свои результаты?

Наконец, нужно смотреть, в какую сторону будет развиваться политическая ситуация в мире и не приведет ли она в первую очередь к некой масштабной войне.

Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.

Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.

При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.

Будущее становится бесконечно неопределенным

Но над этой пеленой проступают гигантские утесы — это закономерные итоги будущего, несколько вариантов, чем все закончится. И если мы смотрим на весь XXI век, то это или бессмертие для всех, или глобальная катастрофа.

Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по вводимому в них плану. — РБК), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди нее.

Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК), возникает в конце любого мыслимого прогресса.

Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (а там же и бессмертие), или небытие.

Фото: Юлия Спиридонова для РБК

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Дублер человека Дублер человека

Что такое ИИ-агенты, как они устроены и на что способны?

РБК
В чем опасность очеловечивания домашних питомцев В чем опасность очеловечивания домашних питомцев

Нам часто кажется, что домашние питомцы — это маленькие (или не очень) человечки

Psychologies
Новые времена Новые времена

Изменения, которые произошли в мире технологий за последние 25 лет

Правила жизни
Отпусти и забудь Отпусти и забудь

Не пора ли провести новогоднюю «генеральную уборку» – и избавиться от лишнего?

Лиза
За себя и за того хана За себя и за того хана

Иногда монголы помогали русским в их разборках с соседями...

Дилетант
Сила впечатлений: зачем ехать в Оман Сила впечатлений: зачем ехать в Оман

Чем горы похожи на специи и сколько нужно заплатить за звездное небо над головой

РБК
Каникулы с токсичными родственниками: выжить и получить удовольствие Каникулы с токсичными родственниками: выжить и получить удовольствие

Что придумать, чтобы семейство не испортило праздник?

Psychologies
Квартира со скрытыми объемами, 54 м² Квартира со скрытыми объемами, 54 м²

В этой квартире кухня и спальня спрятаны за деревянными панелями

AD
Практичная квартира для творческих людей, 42 м² Практичная квартира для творческих людей, 42 м²

Хозяева этой квартиры выбрали дизайнера по чувству юмора и не прогадали

AD
Как использовать тени для бровей: советы визажиста Как использовать тени для бровей: советы визажиста

Эффектные густые брови – обязательный элемент модного макияжа

Cosmopolitan
Самовыдвиженец Галкин. Смехотерапия как лучший способ преодолеть стресс в тяжелые времена Самовыдвиженец Галкин. Смехотерапия как лучший способ преодолеть стресс в тяжелые времена

Сравнительно недавно никто из юмористов не отваживался подкалывать Путина

СНОБ
Ученые доказали: морские улитки помогут вылечить болезнь Альцгеймера и достичь бессмертия Ученые доказали: морские улитки помогут вылечить болезнь Альцгеймера и достичь бессмертия

Когда память начнут пересаживать людям, и чего можно добиться такими операциями

Forbes
Благое начинание Благое начинание

Как легко принять участие в благотворительности – в материале Grazia

Grazia
Закончилась «Силиконовая долина» — остроумная и точная хроника уходящего десятилетия. Рассказываем, каким получился финал сериала Закончилась «Силиконовая долина» — остроумная и точная хроника уходящего десятилетия. Рассказываем, каким получился финал сериала

Как интернет-технологии превратились из главной надежды мира в его проклятие

Esquire
Обзор аудиоплеера FiiO X1II: начинай с начала Обзор аудиоплеера FiiO X1II: начинай с начала

К звучанию этого плеера не придерётся даже человек с музыкальным слухом

CHIP
Я/Мы — слово года: Юрий Сапрыкин о том, почему завтра мы будем жить лучше Я/Мы — слово года: Юрий Сапрыкин о том, почему завтра мы будем жить лучше

В жизни общества появляется новая волна — волна человечности

Forbes
Татьяна Навка: Татьяна Навка:

Она постоянно идет вперед — к новым победам. Видимо, это чемпионский характер

Добрые советы
Капитан «Паллады»: человек, который совершил 5 кругосветных путешествий Капитан «Паллады»: человек, который совершил 5 кругосветных путешествий

Михаил Кожухов множество раз пересек земной шар

Forbes
Самые громкие похищения звезд за всю историю: кто хотел убить Камбербэтча и Кроу Самые громкие похищения звезд за всю историю: кто хотел убить Камбербэтча и Кроу

Во всем мире известные люди всегда были в центре внимания, и иногда их похищали

Cosmopolitan
Шеф-повар Мошик Рот — о русских поварах, свекле и отсутствии правил Шеф-повар Мошик Рот — о русских поварах, свекле и отсутствии правил

Об управлении мишленовским рестораном и кулинарных секретах своей бабушки

РБК
Как спортивные упражнения снижают тревогу? Как спортивные упражнения снижают тревогу?

Тревога может быть хронической или связанной с предстоящими событиями

Psychologies
Спокойный ум важнее продвинутой асаны Спокойный ум важнее продвинутой асаны

Петри Ряйсенян: о любви к России, целительной силе музыки, практике Аштанга-йоги

Yoga Journal
С миру – по диете С миру – по диете

Изучи особенности национальных диет и выбери свою

Лиза
Кольская кладовая Кольская кладовая

Кольский полуостров богат сказочно, фантастически

Дилетант
Поколение T: как «Тинькофф» находит будущих сотрудников среди школьников Поколение T: как «Тинькофф» находит будущих сотрудников среди школьников

IT-специалистов высокого уровня российским компаниям не хватает

Forbes
Если заела заеда Если заела заеда

Неприятное раздражение в углу рта причиняет серьёзное неудобство

Здоровье
В копилку Греты: углекислота не только греет, но и отупляет В копилку Греты: углекислота не только греет, но и отупляет

Повышение уровня CO2 в земном воздухе беспокоит экологов уже давно

Популярная механика
Долгая счастливая жизнь Долгая счастливая жизнь

Ученые нашли ответ на вечный вопрос: как быть счастливым

Вокруг света
Марина Малашенко: Гибкое начало рабочего дня. Плюсы и минусы Марина Малашенко: Гибкое начало рабочего дня. Плюсы и минусы

Гибкий или даже свободный график — это тренд, с которым сложно не считаться

СНОБ
7 лайфхаков против зимней хандры 7 лайфхаков против зимней хандры

Рассказываем, что делать, чтобы избежать зимней меланхолии

Cosmopolitan
Открыть в приложении