Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
7 самых ненужных побед в истории 7 самых ненужных побед в истории

Иногда победа дается такой ценой, что ее смело можно считать поражением

Maxim
Евгений Гришковец: Водка как нечто большее Евгений Гришковец: Водка как нечто большее

Новая книга режиссера и писателя Евгения Гришковца «Водка как нечто большее»

СНОБ
Лицом к лицу с дезинформацией: откуда взялись антипрививочники Лицом к лицу с дезинформацией: откуда взялись антипрививочники

Стоит ли доверять движению против прививок?

Популярная механика
Горе без ума Горе без ума

Ученые вплотную приблизились к ответу на вопрос, существуют ли гены гениальности

Вокруг света
9 послетитровых сцен в известных фильмах, которые были вырезаны 9 послетитровых сцен в известных фильмах, которые были вырезаны

Хорошо смеется тот герой фильма, кто смеется после титров!

Maxim
«Скелеты в шкафу» разобщают семьи? «Скелеты в шкафу» разобщают семьи?

Какие «скелеты в шкафу» особенно токсичны, а какие невинны?

Psychologies
Изнасилования и скандалы в семье: личная жизнь популярных порноактрис из России Изнасилования и скандалы в семье: личная жизнь популярных порноактрис из России

Как живут героини фильмов для взрослых

Cosmopolitan
У западного побережья Гренландии обнаружили коралловые сады У западного побережья Гренландии обнаружили коралловые сады

У западного побережья Греландии обнаружили богатые жизнью экосистемы

N+1
Резонансное дело об изнасиловании дознавательницы Резонансное дело об изнасиловании дознавательницы

Рассказываем, что известно о деле дозновательницы из Уфы

СНОБ
«Яндекс» показал новое поколение беспилотников на базе Hyundai Sonata «Яндекс» показал новое поколение беспилотников на базе Hyundai Sonata

Российская компания впервые разработала беспилотник

VC.RU
14 вещей, которые навсегда ушли из нашей жизни 14 вещей, которые навсегда ушли из нашей жизни

Приглашаем тебя на поминки по промокашке

Maxim
«Волшебная кнопка»: точка, которая включает голову «Волшебная кнопка»: точка, которая включает голову

Китайские медики считают, что на теле есть точка, отвечающая за ясность мышления

Psychologies
Как группа Intelligency из Белоруссии записала трек «Август», ставший одним из главных хитов TikTok Как группа Intelligency из Белоруссии записала трек «Август», ставший одним из главных хитов TikTok

Фронтмен Intelligency рассуждает о том, можно ли запланировать успех

Esquire
Как перестать себя оценивать и начать ценить Как перестать себя оценивать и начать ценить

Привычки мышления усваиваются в детстве и сопровождают нас всю жизнь

Psychologies
Странности гениев Странности гениев

Увлечения, фобии и причуды — раскрываем русских гениев с новой стороны

Культура.РФ
Тонкая работа Тонкая работа

Старинный художественный промысел родом из Ростова Великого

Лиза
Программа восстановления лесов в Чили привела к вырубке некоторых лесов под плантации Программа восстановления лесов в Чили привела к вырубке некоторых лесов под плантации

Без вмешательства человека леса запасли бы больше углерода

N+1
5 простых способов борьбы с ленью и прокрастинацией 5 простых способов борьбы с ленью и прокрастинацией

Несколько простых способов, которые помогут снизить риск нервного срыва

Популярная механика
Переизобретатели алфавита Переизобретатели алфавита

Как люди создавали телекоммуникации и что запатентовал Морзе 180 лет назад

N+1
Пародонтит усугубил колит у мышей Пародонтит усугубил колит у мышей

Пародонтит может привести к тяжелому воспалению кишечника

N+1
Елена Болюбах Елена Болюбах

Психолог Елена Болюбах руководит кризисным центром для женщин

Собака.ru
Как установить зрительный контакт с незнакомкой и не показаться криповым: умный гид Как установить зрительный контакт с незнакомкой и не показаться криповым: умный гид

Главная наша задача — не создавать дискомфортных ситуаций

Playboy
Вот это вещь! Вот это вещь!

Вспомним, чем мы пользовались в 1995-м – дома, на кухне и на работе

Лиза
Теплое отношение к людям оказалось почти наполовину наследуемым признаком Теплое отношение к людям оказалось почти наполовину наследуемым признаком

Вклад наследственности в проявление доброжелательности составляет около половины

N+1
Шесть уровней привязанности по Ньюфелду Шесть уровней привязанности по Ньюфелду

Стремление к близости и способность к отношениям развиваются по мере взросления

Psychologies
Ролевые игры для двоих взрослых: интересные сценарии и советы для новичков Ролевые игры для двоих взрослых: интересные сценарии и советы для новичков

Приготовьтесь, это будет горячо!

Playboy
Магнитная губка поможет бороться с разливами нефти Магнитная губка поможет бороться с разливами нефти

Такие губки благодаря своему покрытию эффективно впитывают нефть

N+1
Как безумный англичанин Фуллер строил пирамиды Как безумный англичанин Фуллер строил пирамиды

Джек Фуллер построил в Великобритании настоящую египетскую пирамиду

Популярная механика
Не жужжи! Не жужжи!

Как избавиться от назойливых насекомых дома и на даче

Лиза
Открыть в приложении