Вышедший из-под контроля сверхчеловеческий интеллект – наше обозримое будущее?

Вокруг светаHi-Tech

Бог из машины

Первый роман о захвативших мир разумных машинах был написан еще в XIX веке. Все следующее столетие фантасты пугали нас восстанием роботов. Но что, если вышедший из-под контроля сверхчеловеческий интеллект – уже обозримое будущее. Каким оно может быть?

Текст: Анатолий Глянцев

В 1993 году математик и писатель Вернор Виндж опубликовал статью «Грядущая технологическая сингулярность: как выжить в постчеловеческую эпоху». В ней он заявил: «Мы на грани перемен, сравнимых с появлением на Земле человека. Точная причина этих перемен заключается в том, что развитие техники неизбежно ведет к созданию сущностей с интеллектом, превышающим человеческий».

Виндж видел несколько путей к сверхразуму. Возможно, искусственный интеллект превзойдет человеческий. Или биологи научатся улучшать мозг и сращивать его с компьютером. Тогда сверхразумными станут сами люди – если, конечно, их все еще можно будет назвать людьми. А может быть, компьютерные сети и человеческое общество сольются в единый сверхразумный организм, где каждый отдельный мозг будет винтиком огромной системы.

Любой из этих сценариев изменит жизнь на Земле до неузнаваемости. «Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока», – пишет Виндж. Весь опыт прошлого окажется бесполезен, перемены станут молниеносными, непредсказуемыми и неуправляемыми.

Подобное состояние общества Виндж назвал сингулярностью, позаимствовав термин у физиков. В физике сингулярность – это состояние пространства и времени, в котором будущее теряет связь с прошлым и становится принципиально непредсказуемым.

Вернор Виндж (род. 1944 г.) – математик, писатель-фантаст и футуролог. Один из авторов идеи технологической сингулярности

Позже красивое слово подхватил Рэймонд Курцвейл и другие трансгуманисты. Для них сингулярность – это радикальное улучшение человеческой природы, обретение вечной молодости и сверхчеловеческих способностей. Эти киборги с чипами в мозге, улучшенной ДНК и ремонтными наноботами в артериях, безусловно, будут умнее нас. Но в целом они останутся людьми, только куда более могущественными и счастливыми. Сингулярность Курцвейла – это технологический Эдем, счастливый исход прогресса.

Виндж не разделяет подобного оптимизма. Он предупреждает: сверхразум будет кем угодно, только не человеком. «Натуральные» люди окажутся ему не нужны и не интересны. Вполне возможно, что наши личности растворятся и разрушатся в сверхразумных человеко-компьютерных сетях. Или «бог из машины» уничтожит нас – чтобы не путались под ногами или даже случайно, без злого умысла.

Алан Тьюринг, один из основоположников информатики, в 1950 г. высказал идею машины, которая становится умнее по мере обучения

Когда же появится сверхчеловеческий разум, несущий с собой грозную эпоху сингулярности? «Я удивлюсь, если это случится до 2005 года или после 2030 года» – пишет Виндж в 1993 г., и спустя десять лет не меняет своего мнения.

Теперь еще несколько дат. 2020 год. Ученые обучают нейронную сеть обманывать человека. Компьютер играет с пользователем в простенькую экономическую игру. Задача искусственного интеллекта – подтолкнуть игрока к бесполезному решению, создав иллюзию выгоды. Система преуспевает в этом в 70% случаев. Это обычная, не очень мощная нейросеть, очень далекая от полноценного разума. Одни программы пишут картины, другие переводят тексты, почему бы третьим не манипулировать людьми? Эксперимент показал, что ИИ способен этому обучиться. Умение не сложнее любого другого.

2023 год. Исследовательская группа OpenAI презентует нейронную сеть GPT-4. Перед запуском проверяют, не склонен ли ИИ размножаться, как компьютерный вирус. Удостоверяются, что нейросеть не нанимает людей через интернет и ничего им не поручает. Разумеется, систему никто не учил подобным вещам. Но что, если… она додумается до них сама? Ведь к «человеческим» экзаменам на профессиональные знания ее тоже никто специально не готовил. Однако нейросеть на равных конкурировала с людьми и даже превосходила их. «Мне кажется, что руководство OpenAI понимает, что AGI (искусственный интеллект, равный человеческому – прим. ред.) уже не за горизонтом, а на расстоянии одного условного «Манхэттенского проекта» или чуть больше. По мере движения к AGI деталей о таких проектах мы будем знать все меньше и меньше. Возможно, о релизе GPT 5 вы и вовсе не узнаете», – пишет в Telegram известный специалист по искусственному интеллекту Сергей Марков после релиза GPT-4.

Манхэттенский проект, как известно, продолжался шесть лет и закончился созданием атомной бомбы.

Тропа самосовершенствования

По мнению многих экспертов, самый опасный путь развития искусственного интеллекта – дать ему совершенствовать самого себя. Умная система будет становиться еще умнее, и так без конца. Процесс ускоряет сам себя, как снежная лавина или цепная реакция.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Сложные связи Сложные связи

Какими удивительными чертами могут обладать человеческие языки

Вокруг света
Что будет, если надолго отказаться от душа: 7 отвратительных последствий Что будет, если надолго отказаться от душа: 7 отвратительных последствий

Как изменится ваш организм, если долго не принимать душ?

ТехИнсайдер
Клин с клином Клин с клином

Клинопись – древнейшая известная человечеству система письма

Вокруг света
Как убрать «фартук» на животе: эти 3 привычки для стройности соблюдает только 1 женщина из 10 Как убрать «фартук» на животе: эти 3 привычки для стройности соблюдает только 1 женщина из 10

Как мягко и бережно скорректировать нижнюю часть живота?

VOICE
Тихие американцы Тихие американцы

Что ждет коренных американцев в будущем?

Вокруг света
Как сделать расклад на будущее на игральных картах: рассказывает таролог Как сделать расклад на будущее на игральных картах: рассказывает таролог

Простой расклад на будущее можно сделать и с помощью игральных карт

VOICE
Гитлер. Поход во власть Гитлер. Поход во власть

Человек, создавший Третий рейх, был, несомненно, злым гением

Дилетант
Плачь по мне: 10 лучших песен Джастина Тимберлейка Плачь по мне: 10 лучших песен Джастина Тимберлейка

Вспоминаем знаковые треки в карьере Джастина Тимберлейка

Правила жизни
Слон Жюля Верна Слон Жюля Верна

Креативное продолжение фантазий Жюля Верна в путешествии по его родному городу

Вокруг света
Павловская реформа: как в январе 1991 года в СССР отменили банкноты номиналом 50 и 100 рублей Павловская реформа: как в январе 1991 года в СССР отменили банкноты номиналом 50 и 100 рублей

Какой была самая скандальная финансовая реформа в СССР?

ТехИнсайдер
Сначала было слово Сначала было слово

Художник, который сделал автографы на стенах чем-то большим

Вокруг света
Зачем на самом деле кошки трутся о человека и как они проявляют любовь: 50 самых удивительных фактов об этих созданиях Зачем на самом деле кошки трутся о человека и как они проявляют любовь: 50 самых удивительных фактов об этих созданиях

Задавались ли вы вопросом, насколько хорошо вы знаете своих пушистых домочадцев?

ТехИнсайдер
Человек улучшенный Человек улучшенный

Самые знаменитые предсказания и проекты усовершенствования человечества

Вокруг света
Лучшие естественные способы сделать губы  полнее, если с возрастом они стали тонкими Лучшие естественные способы сделать губы  полнее, если с возрастом они стали тонкими

Как сохранить свои губы молодыми и пухлыми, не прибегая к инъекциям?

VOICE
Установка соединения Установка соединения

Зачем сращивать мозг с компьютером?

Вокруг света
Ольга Науменко: «Рязанов постоянно делал мне замечание: «Оля, вот здесь побольше любви!» Ольга Науменко: «Рязанов постоянно делал мне замечание: «Оля, вот здесь побольше любви!»

О своей жизни, киноролях и любимом Театре Гоголя рассказала Ольга Науменко

Коллекция. Караван историй
Модных дел мастер Модных дел мастер

История начинающего писателя

Вокруг света
Ученые выпустили миллиарды зараженных комаров, чтобы победить болезнь денге Ученые выпустили миллиарды зараженных комаров, чтобы победить болезнь денге

Всемирный проект по борьбе с комарами стремится искоренить лихорадку денге

ТехИнсайдер
Портрет в портрете Портрет в портрете

Иногда атрибуции сплетаются в исторические цепочки

Дилетант
Денис Джонсон: «Дымовое древо». Отрывок из романа Денис Джонсон: «Дымовое древо». Отрывок из романа

Отрывок из мощной, маскулинной прозе об ужасах войны во Вьетнаме

СНОБ
21 год сражений 21 год сражений

Северная война полностью изменила географию Балтийского региона

Дилетант
Научный способ решения любых проблем Научный способ решения любых проблем

Статья, которая упрощает любое дело в жизни

Maxim
Киса и Ося здесь были Киса и Ося здесь были

Места славы Остапа Бендера и Ипполита Матвеевича из романа «12 стульев»

Вокруг света
Как перестать волноваться о чем бы то ни было: 9 способов Как перестать волноваться о чем бы то ни было: 9 способов

Научно доказанные способы, которые помогут перестать беспокоиться

Psychologies
Для заготовок на зиму: 5 способов правильно стерилизовать банки Для заготовок на зиму: 5 способов правильно стерилизовать банки

Как быстро и качественно стерилизовать банки для заготовок на зиму?

ТехИнсайдер
«Он был послан с небес»: история женщины, избавившей сына от задержки психоречевого развития «Он был послан с небес»: история женщины, избавившей сына от задержки психоречевого развития

У слова «задержка» много определений и много личных историй

Psychologies
Для достижения высот нет никаких барьеров: история слепого альпиниста, покорившего Эверест Для достижения высот нет никаких барьеров: история слепого альпиниста, покорившего Эверест

Эрик Вейенмайер — живой пример того, что для человека нет ничего невозможного

ТехИнсайдер
Главные любители «рыбов» и больших мисок с кормом: невероятные факты о котиках, которые помогут узнать их еще лучше Главные любители «рыбов» и больших мисок с кормом: невероятные факты о котиках, которые помогут узнать их еще лучше

Насколько хорошо мы знаем своих усато-полосатых питомцев?

ТехИнсайдер
История инвалида Джипси Роуз Бланшар, которая оказалась здоровой и организовала убийство своей матери История инвалида Джипси Роуз Бланшар, которая оказалась здоровой и организовала убийство своей матери

В конце декабря из тюрьмы досрочно вышла американка Джипси Роуз Бланшар

СНОБ
Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи Детский суицид: как мировой рынок психического здоровья реагирует на рост числа самоубийств среди молодежи

Почему количество самоубийств среди молодежи растет по всему миру?

Inc.
Открыть в приложении