Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Во глубину сибирских руд Во глубину сибирских руд

По следам декабристов на каторгу в Сибирь

Вокруг света
Как накопить деньги: таблицы, округление баланса, схема 50-20-30 и еще 7 проверенных советов Как накопить деньги: таблицы, округление баланса, схема 50-20-30 и еще 7 проверенных советов

Как правильно экономить и при этом практически ни в чем себе не отказывать

ТехИнсайдер
Колосс Херсонский Колосс Херсонский

Среди достижений Григория Потёмкина не только военные и любовные победы

Дилетант
Что такое бергамот и насколько он полезен Что такое бергамот и насколько он полезен

Чем полезен бергамот и может ли он навредить здоровью?

РБК
Ум как следствие любви Ум как следствие любви

Эволюция выбирает сильнейших и умнейших – чтобы делать их еще сильнее и умнее

Вокруг света
Как поднять настроение: 11 способов, советы психолога Как поднять настроение: 11 способов, советы психолога

Как быстро и надолго поднять себе настроение, а какие способы нерабочие?

РБК
Красота по-японски Красота по-японски

В чем суть ключевых понятий японской эстетики?

Вокруг света
Крупнейших приматов в истории погубило изменение климата Крупнейших приматов в истории погубило изменение климата

Гигантопитеки не смогли приспособиться к более сухому и сезонному климату

N+1
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории

Интервью с Денисом Тагинцевым: как успешно совмещать задачи продюсера и артиста

СНОБ
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
«Он был послан с небес»: история женщины, избавившей сына от задержки психоречевого развития «Он был послан с небес»: история женщины, избавившей сына от задержки психоречевого развития

У слова «задержка» много определений и много личных историй

Psychologies
Дочь Ра Дочь Ра

Клеопатре суждено было стать последней царицей относительно независимого Египта

Дилетант
В чем феномен Елены Блиновской: большой разбор с психологом В чем феномен Елены Блиновской: большой разбор с психологом

Почему личность Елены Блиновской так сильно привлекает наше внимание?

Psychologies
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Город-хоровод Город-хоровод

Улан-Удэ в едином танце закружил мистику, духовные традиции и буузы

Лиза
5 лучших адресов 5 лучших адресов

Отличаются ли приложения для знакомств?

Playboy
«Я в домике» «Я в домике»

Что такое дефлексия и в чем особенности этого защитного механизма

Лиза
Портрет в портрете Портрет в портрете

Иногда атрибуции сплетаются в исторические цепочки

Дилетант
Советские знаменитости, которые родились в звездных семьях Советские знаменитости, которые родились в звездных семьях

Непо-бейбис СССР: вспоминаем таланты, которые родились у знаменитых родителей

Maxim
Миротворцы Миротворцы

Гражданская война, расколовшая Соединённые Штаты, продолжалась четыре года

Дилетант
То самое чувство моря То самое чувство моря

Элегантная яхта с корпусом из стали и надстройкой из легкого сплава

Y Magazine
Человек и салат: 9 мифов о Юлии Цезаре Человек и салат: 9 мифов о Юлии Цезаре

Правда и мифы о Юлии Цезаре

Вокруг света
Посторонние звуки на кухне: почему холодильник гудит и как это исправить Посторонние звуки на кухне: почему холодильник гудит и как это исправить

Как устранить посторонний шум из холодильника?

ТехИнсайдер
Кто такие «гаражные виноделы» и за кем из них стоит следить Кто такие «гаражные виноделы» и за кем из них стоит следить

Кто такие российские гаражные виноделы? Откуда появилось это понятие?

СНОБ
Японский беспилотный вертолет поднял 200 килограмм груза на тросе Японский беспилотный вертолет поднял 200 килограмм груза на тросе

Японская компания провела испытания беспилотного вертолета K-Racer-X2

N+1
Жертва цензуры: как диктатора Антониу Салазара сгубило его любимое детище Жертва цензуры: как диктатора Антониу Салазара сгубило его любимое детище

Глава из книги «Диктатор, который умер дважды» об Антониу Салазаре

Forbes
Тайная жизнь манекенов Тайная жизнь манекенов

Манекены в интерьерных и дизайнерских решениях — бизнес семьи Густавсон

Монокль
Что добавить в воду, чтобы простыни стали белоснежными: стираем без отбеливателя Что добавить в воду, чтобы простыни стали белоснежными: стираем без отбеливателя

Натуральные отбеливатели для простыней и другой одежды

VOICE
Директор-основатель Cosmoscow Маргарита Пушкина: Мы должны верить в силу таланта современных российских художников Директор-основатель Cosmoscow Маргарита Пушкина: Мы должны верить в силу таланта современных российских художников

В чем секрет популярности современного африканского искусства?

СНОБ
Открыть в приложении