Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Научный халифат Научный халифат

Что ислам подарил христианскому Западу

Вокруг света
А у вас так же? Узнайте признаки низкой самооценки у интеллигентных людей! А у вас так же? Узнайте признаки низкой самооценки у интеллигентных людей!

Даже самые умные и мудрые люди страдают от низкой самооценки

ТехИнсайдер
Клин с клином Клин с клином

Клинопись – древнейшая известная человечеству система письма

Вокруг света
10 фактов об Эдгаре Алане По 10 фактов об Эдгаре Алане По

Самые необычные факты из жизни мистика Эдгара Алана По

Maxim
Держаться корней Держаться корней

Людей восхищают деревья-долгожители, растущие на Земле сотни и тысячи лет

Вокруг света
Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта Что делать, если в машине запотевают окна, а печка не помогает: советы от автоэксперта

Почему в автомобиле происходит запотевание стекол и что делать в этой ситуации

ТехИнсайдер
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Как я пережила отопительный коллапс в Климовске: личная история и советы эксперта Как я пережила отопительный коллапс в Климовске: личная история и советы эксперта

Как себя вести, если события в жизни заставляют чувствовать себя жертвой?

Psychologies
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Так говорит Ким Кардашьян: почему хриплые женские голоса стали популярными Так говорит Ким Кардашьян: почему хриплые женские голоса стали популярными

Почему vocal fry (или штробас) стал трендовым

Psychologies
Зонд Неймана Зонд Неймана

Серая слизь: сценарий апокалипсиса

Вокруг света
Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием Импульсивность макаков-крабоедов связали одновременно с агрессивностью и дружелюбием

Как связаны импульсивность и поведение у приматов и людей?

N+1
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
«Отберу у тебя ребенка»: что такое семейный киднеппинг и как ему противостоять «Отберу у тебя ребенка»: что такое семейный киднеппинг и как ему противостоять

Почему после разводов увеличивается число семейных киднеппингов?

Forbes
Великая степь Великая степь

Великая степь была всегда, сколько себя помнит человечество

Вокруг света
Чем полезна гвоздика: 5 свойств, ценность для организма Чем полезна гвоздика: 5 свойств, ценность для организма

Гвоздику добавляют в разные блюда для аромата и вкуса, но есть ли от неё польза?

РБК
Писаная красота Писаная красота

Византийское «наследство» в виде письменности

Дилетант
6 главных китайских автомобильных марок: история и особенности 6 главных китайских автомобильных марок: история и особенности

Самые популярные китайские автомобильные бренды в России и их история

РБК
Месть пиратки Жанны Месть пиратки Жанны

За что и кому мстила предводительница пиратов?

Вокруг света
Давай познакомимся Давай познакомимся

Как стать интересным собеседником?

Лиза
Не забывать о смерти Не забывать о смерти

В нескольких строках Дмитрий Мамин-Сибиряк выразил целую жизненную философию

Дилетант
Секреты успешной защиты патентных прав Секреты успешной защиты патентных прав

Какие бывают объекты патентования и в чем отличия между ними

Наука и техника
Тёмное зазеркалье Тёмное зазеркалье

Рядом с нами может существовать параллельный зеркальный мир, названный теневым

Наука и жизнь
Как быстро высушить всё белье из стиральной машины: 8 простых способов Как быстро высушить всё белье из стиральной машины: 8 простых способов

Ты постирала много вещей, и теперь у тебя проблема: не в чем выйти из дома?

VOICE
Кто такие пиндосы? Сейчас так называют американцев, но так было не всегда! Кто такие пиндосы? Сейчас так называют американцев, но так было не всегда!

Откуда произошло слово "пиндос" и что оно означает?

ТехИнсайдер
Как убрать «фартук» на животе: эти 3 привычки для стройности соблюдает только 1 женщина из 10 Как убрать «фартук» на животе: эти 3 привычки для стройности соблюдает только 1 женщина из 10

Как мягко и бережно скорректировать нижнюю часть живота?

VOICE
«Юг Руси» слил масло «Юг Руси» слил масло

Одна из крупнейших сделок последних лет в АПК — продажа бизнеса «Юга Руси»

Агроинвестор
Зоя Федорова говорила: «Я всю жизнь любила только одного человека» Зоя Федорова говорила: «Я всю жизнь любила только одного человека»

Актриса Зоя Федорова прожила две жизни: взлет и когда Федорова вышла на свободу

Коллекция. Караван историй
Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России Неприкосновенный запас: зачем Путин запретил арестовывать счета иностранцев в России

Запрет на взыскание со счетов нерезидентов типа «С» и «И». К чему такая спешка?

Forbes
Все по-взрослому: как прошел тест-драйв китайских Jetour в снегах Карелии Все по-взрослому: как прошел тест-драйв китайских Jetour в снегах Карелии

Как ведут себя китайские кроссоверы Jetour в реальной жизни?

Forbes
Открыть в приложении