Развитие искусственного интеллекта сделает нас бессмертными либо убьет

РБКHi-Tech

Алексей Турчин: «В этом веке решится судьба человечества»

0:00 /
599.002

Следующее десятилетие будет испытанием для футурологов, так как скоро станет понятно, чьи прогнозы верны, а чьи остались только в фантазиях. Так считает Алексей Турчин, трансгуманист и соавтор книги «Футурология. XXI век: бессмертие или глобальная катастрофа?». Испытание ожидает и все человечество: дальнейшее развитие искусственного интеллекта сделает нас бессмертными либо убьет.

Алексей Турчин — трансгуманист, футуролог, вице-президент фонда «Наука за продление жизни». Основатель проекта Digital Immortality Now, предоставляющего услуги по фиксации важной информации о человеке, которую можно будет использовать в будущем для возможного восстановления личности с помощью сильного ИИ. Соавтор книги «Футурология: XXI век: бессмертие или глобальная катастрофа?».

Технологическая сингулярность (момент, когда технический прогресс станет настолько сложным, что будет недоступным пониманию. — РБК) предсказывалась еще в 1993 году американским писателем и профессором математики Вернором Винджем. Позже эту идею развил футуролог Рэй Курцвейл, который сдвинул наступление сингулярности с 2030 года на 2049-й. Тем не менее уже в следующем десятилетии мы увидим, выходит ли волна прогресса на экспоненциальный рост или захлебывается.

В области искусственного интеллекта (ИИ) сейчас происходит небывалый рост определенных количественных показателей — настолько быстрый, что дальше так продолжаться не может. Например, размер нейронных сетей, а именно число их параметров, при росте в десять раз за год к концу 2019 года достигло 11 млрд. Точно так же и количество вычислений, нужных для их тренировки, по подсчетам исследовательской компании OpenAI, удваивается каждые три месяца.

Эту информацию можно интерпретировать двояко: либо это он — давно ожидавшийся сверхэкспоненциальный рост, либо это попытки проехать еще немного на мертвой лошади, ведь показательный рост размеров систем ИИ отнюдь не сопровождается таким же ростом качества в смысле их близости к универсальному искусственному разуму (AGI, или Artificial General Intelligence. — РБК). При этом вопрос о сильном ИИ — основная задача XXI века, так как от него зависит дальнейшая судьба цивилизации.

Почему так важен вопрос о сильном ИИ?

Потому что универсальный ИИ нас или убьет, или сделает бессмертными. Поэтому он и называется сильным, так как способен решать задачи невероятного масштаба. Однако даже без ИИ сценарий будущего будет основываться на одном из этих двух путей: либо эволюции в сторону радикального продления жизни, либо перехода к тем или иным вариантам глобальной катастрофы.

И здесь возникает коллизия: будет ли быстрый прогресс более управляемым, чем медленный? Если сингулярность наступит, как предсказывалось, в 2030 году, то кто успеет ее оседлать? Не окажемся ли мы, как пауки в банке, в мальтузианской ловушке (ситуация, свойственная доиндустриальным обществам, в результате которой рост населения обгонял рост производства продуктов. — РБК)?

Если прогресс останавливается и мы остаемся с имеющимся набором технологий, то все существующие ресурсы становятся конечными, так как для разработки принципиально новых ресурсов нужны новые технологии. Экспоненциальное развитие экономики в мире с конечным количеством ресурсов приводит к их исчерпанию примерно за 100 лет, при этом загрязняется все, что можно, и затем наступает коллапс. Если прогресс не останавливается, то мы в конечном счете создаем «сверхтехнологии»: ИИ, нанотехнологии и биотехнологии, которые позволяют нам делать все, что угодно, с информацией, веществом и живой материей соответственно. Это означает очень большие возможности и очень большие риски, при которых возможен не просто коллапс, но и глобальная катастрофа и вымирание людей. В конечном счете масштаб разворачивающихся событий будет зависеть от скорости развития технологий.

Чего ждать от следующего десятилетия?

Во-первых, нужно наблюдать за скоростью развития искусственного интеллекта. Она покажет, начнется ли новая «зима» или будет достигнут какой-то «инфрачеловеческий» уровень. На инфрачеловеческом уровне, например, можно будет создать робота, способного приготовить и принести кофе, не разнеся при этом половины дома, не налив в чашку чистящее средство и не упав на кота. Такой ИИ — это не сверхинтеллект и даже не искусственный ученый-мыслитель, но это важное плато, на котором возможна коммерциализация и консолидация для следующего рывка.

Во-вторых, важно проследить, не выдохнется ли революция в электротранспорте и возобновляемых источниках энергии.

Затем важно определить, сможет ли «взрыв» числа стартапов в области longevity (от англ. долголетие. — РБК) трансформироваться в реальное увеличение средней ожидаемой продолжительности жизни и какова будет судьба общественных движений, выступающих за это. Например, сможет ли немецкая «Партия за медицинские исследования» (Partei für Gesundheitsforschung) существенно улучшить свои результаты?

Наконец, нужно смотреть, в какую сторону будет развиваться политическая ситуация в мире и не приведет ли она в первую очередь к некой масштабной войне.

Собственно, основной вопрос будущего — будем ли мы жить или умрем, и он скрывается за всеми остальными вопросами о том, насколько быстро будет происходить глобальное потепление, возможна ли ядерная война и каковы успехи у проектов по редактированию человеческого генома.

Но футурология — это не про однозначное предсказание будущего, а про осознание альтернатив, основных путей развития; понимание, где между ними находится развилка и какими своими действиями прямо сейчас мы выбираем эту альтернативу.

При этом, однако, будущее скрыто от нас туманами разной степени непрозрачности. Один из них — это иллюзия предсказуемости, уверенность в том, что все останется так же, как есть сейчас. Оно, возможно, и останется в каких-то сферах еще год, в каких-то — пять, но не в том виде, в котором мы ожидаем. Затем возникает некий ореол неоднозначности: к примеру, мы пока не знаем, кто будет следующим президентом, но можем обозначить несколько вероятных фигур. Однако дальше туман сгущается: какие-то части будущего видны, а какие-то совершенно непредсказуемы. После чего начинается сплошная пелена.

Будущее становится бесконечно неопределенным

Но над этой пеленой проступают гигантские утесы — это закономерные итоги будущего, несколько вариантов, чем все закончится. И если мы смотрим на весь XXI век, то это или бессмертие для всех, или глобальная катастрофа.

Почему так? Равновесие между силами прогресса и силами разрушения очень трудно поддерживать. Всякое «устойчивое развитие» внутренне нестабильно: оно или уходит в бесконечное ускорение сингулярного прогресса, или разваливается под тяжестью накапливающихся проблем. Даже те проблемы, которые мы создаем на нынешнем уровне, невозможно на нем же и решить. Взять ситуацию с мусором: чтобы с ней разобраться, нужны роботы-сортировщики, биологические катализаторы разложения и, может быть, даже молекулярные наноассемблеры (устройства наноразмеров, способные собирать из отдельных атомов или молекул любые сложные конструкции по вводимому в них плану. — РБК), то есть продукты более высокого технологического уклада. Однако новые технологии породят и новые проблемы, которые нам трудно представить: например, некий «высокотехнологический мусор», который будет состоять из сопротивляющихся своему разрушению наномеханизмов. В результате получается ситуация, в которой, чтобы убежать от лавины изменений, нужно бежать впереди нее.

Бесконечное ускорение прогресса может гипотетически привести и к новому стабильному состоянию, которое мы условно называем «сверхинтеллект» (как в книге «Сверхинтеллект» философа Ника Бострома). Возможно ли это — неизвестно, но он, как точка Омега французского теолога Тейяра де Шардена (состояние наиболее организованной сложности и одновременно наивысшего сознания. — РБК), возникает в конце любого мыслимого прогресса.

Разрушение, в свою очередь, также не может быть бесконечным, оно может достичь дна, снизу которого уже никто не постучит. Это, пожалуй, уровень самоподдерживающейся средневековой деревни или полное вымирание. В конце концов, мы имеем только два стабильных итога, ожидающихся в отдаленном будущем: или «сверхинтеллект» (а там же и бессмертие), или небытие.

Фото: Юлия Спиридонова для РБК

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сила воли: что мешает нам добиваться цели Сила воли: что мешает нам добиваться цели

Проблема отсутствия силы воли – в образе жизни, который ее ослабляет

Psychologies
Игра на повышение: 10 лучших фильмов и сериалов о бизнесе и деньгах Игра на повышение: 10 лучших фильмов и сериалов о бизнесе и деньгах

2019 стал годом фильмов о миллиардерах и ремейков сериалов о богачах

Forbes
Неон-киллер Неон-киллер

Евгения Крегжде поразила нас в самое сердце

Maxim
Как живут там, где почти никто не живет: темная сторона биосферы Как живут там, где почти никто не живет: темная сторона биосферы

Жизнь существует даже в горячих и лишенных кислорода недрах Земли

Популярная механика
Авария в метро Авария в метро

Немецкий ретейлер Metro Сash & Carry сдает позиции и меняет форматы

Forbes
«Не ожидала, что Гай Ричи возьмет меня на роль» «Не ожидала, что Гай Ричи возьмет меня на роль»

Евгения Кузьмина – о том, как ей работалось с Гаем Ричи

OK!
Пожиратели бюджетов Пожиратели бюджетов

Почему иногда строить дороги не нужно

Forbes
Однажды 20 лет спустя Однажды 20 лет спустя

Мария Тараненко о переменах в beauty-индустрии, произошедших за два десятка лет

Elle
20 вещей, которые могут тебе пригодиться в постели 20 вещей, которые могут тебе пригодиться в постели

Объекты и явления, при помощи которых твой секс будет еще великолепнее

Maxim
Почему мы клонируем наших бывших? Почему мы клонируем наших бывших?

Мы склонны завязывать отношения с мужчинами и женщинами одного и того же типа

Psychologies
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Чек-лист: что делать с лицом, телом и волосами сразу после спорта Чек-лист: что делать с лицом, телом и волосами сразу после спорта

После тренировки кожа и волосы нуждаются в специальном уходе

Esquire
Цифровые джинны: как поменяют жизнь людей виртуальные ассистенты Цифровые джинны: как поменяют жизнь людей виртуальные ассистенты

Цифровые помощники способны помочь в решении почти любой проблемы

РБК
Ошибки помогают нам быстрее усваивать знания Ошибки помогают нам быстрее усваивать знания

Учеба не должна быть слишком простой или слишком сложной

Psychologies
В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством В Эдем возьмут не всех: почему многие предсказания светлого будущего грешат социальным неравенством

Размышления о будущем не всегда были свойственны людям

РБК
Мастурбация – это действительно вредно? Мастурбация – это действительно вредно?

О вреде самоудовлетворения говорили еще до нашей эры

GQ
6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
«Пошлю его на...»: звезды, которые остроумно отвечают хейтерам в соцсетях «Пошлю его на...»: звезды, которые остроумно отвечают хейтерам в соцсетях

Селебрити по-разному реагируют на троллинг и хейт в социальных сетях

Cosmopolitan
Тапочки пополам Тапочки пополам

Гвинет Пэлтроу объясняет нам свою концепцию «осознанного расставания»

Tatler
Детское питание: домашнее или из магазина? Детское питание: домашнее или из магазина?

На темы детского питания существует массы мифов

9 месяцев
Штраф за щедрость Штраф за щедрость

Кто самый богатый бизнесмен в мире с учетом трат на благотворительность

Forbes
Оформляют бамперы, попадают под КамАЗы: что делать после ДТП на трассе Оформляют бамперы, попадают под КамАЗы: что делать после ДТП на трассе

Почему после аварии на трассе не стоит ждать инспекторов на месте столкновения

РБК
Как начать инвестировать в облигации Как начать инвестировать в облигации

Рекомендации для тех, кто делает первые шаги на фондовом рынке

РБК
Брендам здесь не место Брендам здесь не место

Почему после введения антисанкций в России не появляются новые сильные марки

Forbes
Номады, #MeToo, новая чувственность и другие определяющие понятия 2010-х Номады, #MeToo, новая чувственность и другие определяющие понятия 2010-х

Последние 10 лет сказались на нашем поведении и привычках

РБК
Playboy подводит итоги 2019 года: 15 самых главных событий Playboy подводит итоги 2019 года: 15 самых главных событий

От главного разочарования до самой крутой хитрости 2019 года!

Playboy
Синдром отличной мамы Синдром отличной мамы

Все успевающая мама со счастливым младенцем на руках – иллюзия

Домашний Очаг
Квартира в высотке на Красных Воротах, 60 м² Квартира в высотке на Красных Воротах, 60 м²

Современный интерьер, сохранивший черты сталинского ампира

AD
Мама двоих Мама двоих

Светлана Иванова о том, каково работалось с грудным ребенком на руках

OK!
«Внимание — лучшая форма защиты». Эксперты о приговорах по «московскому делу» «Внимание — лучшая форма защиты». Эксперты о приговорах по «московскому делу»

Что суд над фигурантами «московского дела» означает для власти и общества

СНОБ
Открыть в приложении