Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Катастрофа Superjet: испытатель за год предупреждал об аварии Катастрофа Superjet: испытатель за год предупреждал об аварии

«РР» нашел эксклюзивные документы

Русский репортер
При чем тут родители: как мы становимся такими, какие мы есть При чем тут родители: как мы становимся такими, какие мы есть

Наши привычки, характер, мировоззрение «вырастают» под родительским влиянием

Psychologies
Надежный кроссовер до миллиона. 40 вариантов покупки Надежный кроссовер до миллиона. 40 вариантов покупки

Подбираем кроссовер до миллиона на вторичке

РБК
«В каком-то смысле каждый предприниматель должен лгать своим сотрудникам». Навал Равикант — о богатстве, свободе и ответственности «В каком-то смысле каждый предприниматель должен лгать своим сотрудникам». Навал Равикант — о богатстве, свободе и ответственности

Навал Равикант — о богатстве, свободе и ответственности

Inc.
9 мифов об Альберте Эйнштейне 9 мифов об Альберте Эйнштейне

Правда и мифы о создателе теории относительности

Вокруг света
Таланты и поклонники Таланты и поклонники

Как выявить творческие способности у ребенка и развить их

Лиза
Едят жир и худеют: звезды, которые выбрали кетодиету Едят жир и худеют: звезды, которые выбрали кетодиету

Эти знаменитости, сидящие на «кето», добились прекрасных результатов

Cosmopolitan
Перепелиные яйца: польза для мужчин и рекомендации по употреблению Перепелиные яйца: польза для мужчин и рекомендации по употреблению

Маленькие и вкусные

Playboy
7 советов по стилю от Стиви Уандера 7 советов по стилю от Стиви Уандера

Готовьтесь познать безумные и свободные 1970-е

GQ
17 самых сексуальных песен Принса 17 самых сексуальных песен Принса

Самые непристойные треки Принса, которые так и зовут нас на танцпол

GQ
Подслушано у звезд: 12 фитнес-приемов от тренеров самых спортивных актрис Подслушано у звезд: 12 фитнес-приемов от тренеров самых спортивных актрис

Главные секреты тренировок и самые эффективные упражнения от инструкторов

Cosmopolitan
Личные данные: что о вас знают Google и Facebook Личные данные: что о вас знают Google и Facebook

Что о вас знают интернет-гиганты и как используют полученную информацию

РБК
Маленькие хитрости: 5 вещей, которые облегчат уход за одеждой Маленькие хитрости: 5 вещей, которые облегчат уход за одеждой

В том, как правильно ухаживать за одеждой, нет ничего сложного

Esquire
Синтез транзисторов на основе нанотрубок ускорили в тысячу раз Синтез транзисторов на основе нанотрубок ускорили в тысячу раз

Исследователи предложили методы быстрого синтеза энергоэффективных транзисторов

N+1
Что посмотреть в выходные: фильмы Кирилла Серебренникова Что посмотреть в выходные: фильмы Кирилла Серебренникова

Фильмы Кирилла Серебренникова, не раз отправлявшиеся на международные фестивали

РБК
Жизнь в горах заставила тибетских антилоп отказаться от «взрослого» гемоглобина Жизнь в горах заставила тибетских антилоп отказаться от «взрослого» гемоглобина

Тибетские антилопы приспособились к жизни в условиях гипоксии неожиданным путем

N+1
Как продавать свой продукт в федеральных сетях Как продавать свой продукт в федеральных сетях

Как региональному производителю попасть в крупные супермаркеты?

Inc.
Подальше от всех: 10 идей отдыха на природе всей семьей Подальше от всех: 10 идей отдыха на природе всей семьей

Туристические маршруты по удивительным местам России

Лиза
Кресло на миллион Кресло на миллион

Каждый год появляются новые галереи, специализирующиеся на коллекционном дизайне

Robb Report
Великий комбинатор Великий комбинатор

Знаменитый аферист времен великой депрессии Виктор Люстиг

Вокруг света
Правила жизни Рона Джереми Правила жизни Рона Джереми

Правила жизни порноактера и режиссера Рона Джереми

Esquire
Помолчите хоть немного. Как шум вокруг нас мешает творить, работать и просто жить Помолчите хоть немного. Как шум вокруг нас мешает творить, работать и просто жить

Отрывок из книги Райана Холидея «Сила спокойствия»

Forbes
«Не надо бояться, что вам начнут дышать в спину». Карьерные советы главы Unilever «Не надо бояться, что вам начнут дышать в спину». Карьерные советы главы Unilever

Глава Unilever Регина Кузьмина дает полезные карьерные советы

Forbes
Переизобретатели алфавита Переизобретатели алфавита

Как люди создавали телекоммуникации и что запатентовал Морзе 180 лет назад

N+1
Как в Приморье арестовали актера, исполнившего роль вымышленного депутата Как в Приморье арестовали актера, исполнившего роль вымышленного депутата

Создатель проекта BARAKuda рассказал, что думает об аресте актера из шоу

СНОБ

Отрывок из книги "Ты не виновата. Почему домашнее насилие — это не про любовь"

Cosmopolitan
«Я за свою ошибку заплатил сполна»: главред «Медузы» Иван Колпаков впервые рассказал свою версию инцидента с харассментом «Я за свою ошибку заплатил сполна»: главред «Медузы» Иван Колпаков впервые рассказал свою версию инцидента с харассментом

Иван Колпаков прокомментировал обвинения в харрассменте

Esquire
Как убедиться в том, что вы не расист, и начать бороться с дискриминацией Как убедиться в том, что вы не расист, и начать бороться с дискриминацией

Пришло время понять, а точно ли вы не расист, и активно бороться с неравенствами

GQ
Скорость «убегания» Титана от Сатурна оказалась в 100 раз выше ожидаемой Скорость «убегания» Титана от Сатурна оказалась в 100 раз выше ожидаемой

Титан удаляется от Сатурна со скоростью 11 сантиметров в год

N+1
Азоту придали кристаллическую структуру черного фосфора Азоту придали кристаллическую структуру черного фосфора

Ученые впервые смогли получить полимерную модификацию азота

N+1
Открыть в приложении