Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Время ацтеков Время ацтеков

Что зашифровали ацтеки

Вокруг света
Найти точки соприкосновения, усомниться, сделать часть работы заранее: как писать холодные письма, чтобы их читали Найти точки соприкосновения, усомниться, сделать часть работы заранее: как писать холодные письма, чтобы их читали

Отрывок из книги «Пиши, сокращай 2025» Максима Ильяхова и Людмилы Сарычевой

VC.RU
Великая степь Великая степь

Великая степь была всегда, сколько себя помнит человечество

Вокруг света
«Напрасно впадать в уныние»: памяти Льва Рубинштейна «Напрасно впадать в уныние»: памяти Льва Рубинштейна

Каким был основоположник московского концептуализма Лев Рубинштейн?

Правила жизни
Лес у реки Лес у реки

«Зеленые легкие планеты, первобытная среда обитания»

Вокруг света
Путин и Песков протестировали вездеходы на Чукотке. Что это за машины Путин и Песков протестировали вездеходы на Чукотке. Что это за машины

Подробности о вездеходах, которые использовал Путин при поездке по Чукотке

РБК
Клин с клином Клин с клином

Клинопись – древнейшая известная человечеству система письма

Вокруг света
Японцы создали биогибридный двуногий шагоход на основе клеток крысиных мышц Японцы создали биогибридный двуногий шагоход на основе клеток крысиных мышц

Японские биоинженеры разработали миниатюрного двуногого шагающего робота

N+1
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории Хореограф Денис Тагинцев: Танец дарит радость и заряд эйфории

Интервью с Денисом Тагинцевым: как успешно совмещать задачи продюсера и артиста

СНОБ
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Ум как следствие любви Ум как следствие любви

Эволюция выбирает сильнейших и умнейших – чтобы делать их еще сильнее и умнее

Вокруг света
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Chevrolet Silverado. Четыре поколения легендарного пикапа Chevrolet Silverado. Четыре поколения легендарного пикапа

Что сделало дерзкий пикап Chevrolet Silverado таким популярным?

4x4 Club
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Комплексный подход: как правильно ухаживать за волосами Комплексный подход: как правильно ухаживать за волосами

Как улучшить состояние волос? Рассказывает эксперт-трихолог

Forbes
Серая орешковая соня Серая орешковая соня

Кем умилялись читатели в 1861 году

Вокруг света
Сравнительный анализ характеристик комитета по устойчивому развитию и качества ESG-отчетности в Нигерии и Южной Африке Сравнительный анализ характеристик комитета по устойчивому развитию и качества ESG-отчетности в Нигерии и Южной Африке

Как оценивают качество устойчивого развития в Нигерии и Южной Африке?

Позитивные изменения
Наскальные мультфильмы Наскальные мультфильмы

Рисункам из пещеры Шове больше 30 тысяч лет

Вокруг света
Работа и развлечения в телефоне по ночам могут вызвать депрессию! Вот как обезопасить себя Работа и развлечения в телефоне по ночам могут вызвать депрессию! Вот как обезопасить себя

Как свет от экрана влияет на нашу психику?

ТехИнсайдер
Норманны vs славяне. 300-летняя война Норманны vs славяне. 300-летняя война

Кого призвали старейшины: братьев-славян или братьев-варягов?

Дилетант
Упражнения на грудь: девять вариантов для дома и зала Упражнения на грудь: девять вариантов для дома и зала

Упражнения, которые помогут вам эффективно и безопасно накачать грудные мышцы

РБК
Девять технологий, которые не оправдали надежд Девять технологий, которые не оправдали надежд

Могли ли эти технологии перевернуть мир или на них возложили напрасные ожидания?

Монокль
Шикарная шевелюра за пару месяцев: как быстро отрастить волосы Шикарная шевелюра за пару месяцев: как быстро отрастить волосы

Как ускорить рост волос в домашних условиях?

ТехИнсайдер
ИИ против эксклюзива: как нейросети отбирают самое главное у порноактеров ИИ против эксклюзива: как нейросети отбирают самое главное у порноактеров

Как искусственный интеллект может навредить людям в интимной сфере

Forbes
Лёня Немодный: Велосипед для мертвеца Лёня Немодный: Велосипед для мертвеца

Есть такое химическое соединение — угарный газ

4x4 Club
В поисках равновесной посадки В поисках равновесной посадки

Приборы, отвечающий за живучесть аварийного корабля

Наука и техника
Гравитация – это притяжение или отталкивание? Гравитация – это притяжение или отталкивание?

Казалось бы, науке уже известно, что гравитация – это притяжение...

Зеркало Мира
«Месье Спейд»: стильный сериал с Клайвом Оуэном в роли культового детектива «Месье Спейд»: стильный сериал с Клайвом Оуэном в роли культового детектива

«Месье Спейд»: по-хорошему старомодное кино в формате сериала

Forbes
Мозг обрабатывает необычные ситуации с помощью специальных нейронов Мозг обрабатывает необычные ситуации с помощью специальных нейронов

Как клетки-канделябры в мозгу «обращают» наше внимание на перемены

ТехИнсайдер
Открыть в приложении