Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ослепительная четверка Ослепительная четверка

Эти женщины вершили китайскую историю, губили и спасали царств

Вокруг света
5 стрижек, которые нужно избегать после 50 лет: они привлекают внимание к редеющим волосам и залысинам 5 стрижек, которые нужно избегать после 50 лет: они привлекают внимание к редеющим волосам и залысинам

Эксперты составили список стрижек, которые не подходят зрелым дамам

VOICE
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
В каком возрасте появляется «запах старушки» и как это предотвратить В каком возрасте появляется «запах старушки» и как это предотвратить

Почему же возникает запах старости и действительно ли это связано с возрастом?

VOICE
Великая пустота Великая пустота

Монголия – наименее населенная страна мира

Вокруг света
Авианосцы постройки Великобритании и Франции. Часть 1. Великобритания Авианосцы постройки Великобритании и Франции. Часть 1. Великобритания

Королева Элизабет и её свита

Наука и техника
Параллельные люди Параллельные люди

С какими альтернативными человечествами мы могли бы делить Землю?

Вокруг света
Рыжие волосы как у Ханде Эрчел: как добиться такого же роскошного медного оттенка, ставшего более модным, чем блонд Рыжие волосы как у Ханде Эрчел: как добиться такого же роскошного медного оттенка, ставшего более модным, чем блонд

Рыжие волосы теперь в тренде, и ты тоже сможешь примерить такой бьюти-образ

VOICE
Тень Карафуто Тень Карафуто

Южная половина острова Сахалин исторически была тесно связана с японцами

Вокруг света
9 шагов, которые помогут справиться с одиночеством после разрыва отношений 9 шагов, которые помогут справиться с одиночеством после разрыва отношений

Какие действия помогают обрести психологическую стабильность после расставания

Psychologies
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
10 лучших фильмов Дэвида Линча 10 лучших фильмов Дэвида Линча

Линч: от скандальной экранизации до одного из лучших фильмов в истории кино

Правила жизни
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
Леонид Роберман: Спектакль — это всегда встреча, взаимоотношения и взаимовлияние Леонид Роберман: Спектакль — это всегда встреча, взаимоотношения и взаимовлияние

Продюсер Леонид Роберман — о вызовах современной театральной индустрии

СНОБ
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Психология предубеждения: как почитатели Моцарта и Гете создали Холокост? Психология предубеждения: как почитатели Моцарта и Гете создали Холокост?

Как в Германии произошел поворот от культурного процветания к Холокосту?

Psychologies
Аравийская быль Аравийская быль

Как выжить в Саудовской Аравии, если вы родились женщиной

Вокруг света
В Венгрии нашли пять пострадавших от туберкулеза сарматов В Венгрии нашли пять пострадавших от туберкулеза сарматов

Палеопатологи исследовали останки людей из сарматских памятников,

N+1
Кто придумал Гамлета? Кто придумал Гамлета?

Гамлет, принц датский, впервые увидел свет задолго до Шекспира

Дилетант
Реки текли на Марсе сотни миллионов лет, но и тогда климат был как в пустыне Атакама Реки текли на Марсе сотни миллионов лет, но и тогда климат был как в пустыне Атакама

Поток рек на Марсе был непостоянный: они то пересыхали, то текли снова

ТехИнсайдер
«Братский поцелуй» «Братский поцелуй»

Одна из самых известный фотографий сделана в ГДР, 7 октября 1979 года

Дилетант
Принц и нищий: почему скандальный «Солтберн» — хороший фильм? Принц и нищий: почему скандальный «Солтберн» — хороший фильм?

Почему злая сословная драма «Солтберн» стал таким популярным?

Правила жизни
Есть свет для бедных и свет для богатых Есть свет для бедных и свет для богатых

Правда ли, что человечество слепнет, и можно ли вернуть зрение слепому человеку?

Наука
Тестостерон оказался ответственен за чувствительность к общей анестезии Тестостерон оказался ответственен за чувствительность к общей анестезии

Чувствительность к общей анестезии модулируется тестостероном

N+1
«Танцуй, селедка!»: как комедия с Сашей Бортич исследует травму брошенной дочери «Танцуй, селедка!»: как комедия с Сашей Бортич исследует травму брошенной дочери

«Танцуй, селедка!»: по-хорошему странное, но терапевтическое кино

Forbes
12 кинофильмов, которые должен посмотреть каждый 12 кинофильмов, которые должен посмотреть каждый

Фильмы, которые должны случиться с вами хотя бы раз

Maxim
Совсем другая игра: как женщины совершили революцию на рынке кроссовок Совсем другая игра: как женщины совершили революцию на рынке кроссовок

В мире производства спортивной обуви наступает новая, женская, эра

Forbes
Вопрос психологу: почему люди коллекционируют? Вопрос психологу: почему люди коллекционируют?

Всегда ли страсть к коллекционированию может считаться нормой?

Правила жизни
Японский модуль SLIM совершил самую точную посадку на Луну за всю историю. Но перевернулся Японский модуль SLIM совершил самую точную посадку на Луну за всю историю. Но перевернулся

Япония — пятая страна, совершившая мягкую посадку космического корабля на Луну

ТехИнсайдер
Как тепло циркулирует в подледном океане Европы Как тепло циркулирует в подледном океане Европы

Ученые построили модель разогрева океана спутника Юпитера Европы

ТехИнсайдер
Открыть в приложении