Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Как перестать волноваться о чем бы то ни было: 9 способов Как перестать волноваться о чем бы то ни было: 9 способов

Научно доказанные способы, которые помогут перестать беспокоиться

Psychologies
Жизнь в плену имени Жизнь в плену имени

Марк Юний Брут: история и жизнь того, кто лишил жизни Гая Юлия Цезаря

Дилетант
В лучах улыбки В лучах улыбки

Как исправить прикус незаметно для окружающих

Лиза
Найти Эльдорадо Найти Эльдорадо

Колумбия — одна из модных точек, притягивающих гастротуристов со всего мира

Вокруг света
Крупнейших приматов в истории погубило изменение климата Крупнейших приматов в истории погубило изменение климата

Гигантопитеки не смогли приспособиться к более сухому и сезонному климату

N+1
Гитлер. Поход во власть Гитлер. Поход во власть

Человек, создавший Третий рейх, был, несомненно, злым гением

Дилетант
Индексы скорости и нагрузки шин: что они означают? Расшифровка Индексы скорости и нагрузки шин: что они означают? Расшифровка

Индекс скорости и нагрузки шин — что это за параметры, почему их нужно учитывать

РБК
Ум как следствие любви Ум как следствие любви

Эволюция выбирает сильнейших и умнейших – чтобы делать их еще сильнее и умнее

Вокруг света
Тональная система Джона Нистрома Тональная система Джона Нистрома

Проект новой системы арифметики, веса, меры и монет Джона Нистрома

Наука и жизнь
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Низкие дозы кальция предотвратили преэклампсию не хуже высоких Низкие дозы кальция предотвратили преэклампсию не хуже высоких

Прием 500 миллиграмм кальция тоже профилактирует преэклампсию у беременных

N+1
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
3 признака того, что в ваших отношениях есть проблемы с доверием 3 признака того, что в ваших отношениях есть проблемы с доверием

Почему в ваших отношениях не складывается доверительной атмосферы?

Psychologies
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Питайтесь, как философы! Вот каким был рацион питания Аристотеля: интересные факты Питайтесь, как философы! Вот каким был рацион питания Аристотеля: интересные факты

Западный эксперт попробовал создать точное «меню Аристотеля»

ТехИнсайдер
Нечаянный император Нечаянный император

Николай I — царящий надо всеми жандарм, исполняющий свой государственный долг

Дилетант
Про рыбов и котиков: можно ли кормить кошек рыбой? Про рыбов и котиков: можно ли кормить кошек рыбой?

Откуда у котиков пристрастие к рыбе, если их предки никогда её не ели?

ТехИнсайдер
Тёплая осень 1964-го Тёплая осень 1964-го

«Не прошу милости — вопрос решён» — так Никита Хрущёв завершил своё выступление

Дилетант
«Гарри Поттер» на повторе и подводка для глаз в виде пера: как зумеры романтизируют учебу «Гарри Поттер» на повторе и подводка для глаз в виде пера: как зумеры романтизируют учебу

Как появился тренд «темная академия», который полюбили за рубежом и в России

Правила жизни
Мнимый безумец Мнимый безумец

Томмазо Кампанелла — монах, философ, мятежник, король мира, поэт и маг

Дилетант
Археологи изготовили каменные топоры и порубили ими деревья Археологи изготовили каменные топоры и порубили ими деревья

Эксперименты помогут разобраться с функциями древних артефактов

N+1
Маршрут перестроен Маршрут перестроен

Самые красивые и необычные места России

Grazia
Краткая история транспорта: почему во многих странах правостороннее движение, а в некоторых левостороннее? Краткая история транспорта: почему во многих странах правостороннее движение, а в некоторых левостороннее?

С чем связаны различия в движении автомобилей на дороге в разных странах?

ТехИнсайдер
Такая чувствительная Такая чувствительная

С чем приходится сталкиваться обладательницам чувствительной кожи?

Лиза
8 скрытых возможностей AirPods и AirPods Pro, о которых вы, скорее всего, не знали 8 скрытых возможностей AirPods и AirPods Pro, о которых вы, скорее всего, не знали

Гид с любопытными лайфхаками по использованию AirPods и AirPods Pro

Maxim
Оранжевое небо: почему Россия почти 20 лет крупнейший импортер мандаринов в мире Оранжевое небо: почему Россия почти 20 лет крупнейший импортер мандаринов в мире

О любви россиян к мандаринам рассказывает Forbes

Forbes
Не верьте в легкий путь к счастью: правда об инфоцыганах и «каше в головах» Не верьте в легкий путь к счастью: правда об инфоцыганах и «каше в головах»

Спрос рождает предложение: почему инфоцыган так много?

Psychologies
Как укротить аппетит Как укротить аппетит

Что нас побуждает есть и почему иногда мы не замечаем чувства сытости?

Лиза
Сказать и не обидеть: 4 важные темы для разговора с партнером о сексе Сказать и не обидеть: 4 важные темы для разговора с партнером о сексе

Если не знаете, как начать разговор о сексе с партнером, используйте эти 4 темы

Psychologies
Открыть в приложении