Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

С места наверх С места наверх

Настоящая история человека, который первым на Земле просто взял и полетел

Популярная механика
16 лучших мультфильмов всех времен (для любой возрастной категории) 16 лучших мультфильмов всех времен (для любой возрастной категории)

Анимационные фильмы снимают не только для детей

Esquire
В ожидании космического отпуска В ожидании космического отпуска

Самые реальные варианты космического туризма

Популярная механика
Клятва Гиппократа. 9 мифов об отце медицины Клятва Гиппократа. 9 мифов об отце медицины

Поджигатель, правитель, автор основополагающего труда в истории медицины…

Вокруг света
Пистолет Лебедева Пистолет Лебедева

Новинка концерна «Калашников» – пистолет Лебедева ПЛ-15

Популярная механика
Высокое и низкое давление: что важно знать о здоровье каждому Высокое и низкое давление: что важно знать о здоровье каждому

Проблемы с артериальным давлением редко беспокоят в возрасте до 40 лет

Популярная механика
Тревога, панические атаки и перфекционизм: есть связь Тревога, панические атаки и перфекционизм: есть связь

Стремление к идеалу может заставить нас переживать невыносимую тревогу

Psychologies
Талантливый балаган с медведями: как сериал «Великая» рассказывает историю сильной женщины в мужском мире Талантливый балаган с медведями: как сериал «Великая» рассказывает историю сильной женщины в мужском мире

Почему «Великую» надо смотреть через иную оптику

Forbes
Отсутствие морского льда повысило успех размножения у пингвинов Адели в Восточной Антарктиде Отсутствие морского льда повысило успех размножения у пингвинов Адели в Восточной Антарктиде

Исчезновение морского льда увеличило эффективность размножения колонии пингвинов

N+1
Кризис мотивирует нас развиваться Кризис мотивирует нас развиваться

Как пережить период, когда ясно, что так, как прежде, уже не будет

Psychologies
«Эпидемия безбрачия среди русских крестьянок» «Эпидемия безбрачия среди русских крестьянок»

Отрывок из книги историка Джона Бушнелла о спасовках

N+1
Зря мы мечтали быть Кэрри Брэдшоу! 10 киногероинь, которые жестоко нас обманули Зря мы мечтали быть Кэрри Брэдшоу! 10 киногероинь, которые жестоко нас обманули

В этих 10 фильмах тебе навешают лапши на уши

Cosmopolitan
Опасная классика: как не ошибиться с выбором красной помады Опасная классика: как не ошибиться с выбором красной помады

Боишься носить красную помаду, потому что считаешь, что она тебе не идет?

VOICE
Мясник или гений: эксперименты «отца современной гинекологии» Мясник или гений: эксперименты «отца современной гинекологии»

Джеймс Марион Симс считается одной из самых противоречивых фигур в медицине

Популярная механика
По местам По местам

Дома должно быть легко и спокойно

Добрые советы
Выбросила тысячи велосипедов и отдала проект конкуренту: Uber купила стартап Jump, но не справилась с его развитием Выбросила тысячи велосипедов и отдала проект конкуренту: Uber купила стартап Jump, но не справилась с его развитием

Почему Uber отказалась от велошеринга Jump

VC.RU
Екатерина Дабижа: «У меня есть захватывающая история, которую я просто не могу не рассказать» Екатерина Дабижа: «У меня есть захватывающая история, которую я просто не могу не рассказать»

Все люди разные, поэтому важно подать им не просто сахар на тарелке

Bones
Топологическая квантовая коррекция ошибок избавилась от дистилляции Топологическая квантовая коррекция ошибок избавилась от дистилляции

Квантовая коррекция ошибок поможет выполнять устойчивые квантовые операции

N+1
В чем ждать перемен. Как одеваться в стиле Виктора Цоя В чем ждать перемен. Как одеваться в стиле Виктора Цоя

Сейчас мы научим тебя быть Виктором Цоем.

Maxim
Седьмой шейный позвонок: где живет воля? Седьмой шейный позвонок: где живет воля?

Точка Да Чуэй позволяет воздействовать на волю и энергию

Psychologies
Как правильно бриться электробритвой: пошаговая инструкция для чистого результата Как правильно бриться электробритвой: пошаговая инструкция для чистого результата

Если станки тебя не впечатляют, попробуй использовать электробритву

Playboy
Точка отсчета: узнать себя, чтобы измениться Точка отсчета: узнать себя, чтобы измениться

Мы часто слышим два призыва, которые кажутся на первый взгляд взаимоисключающими

Psychologies
Илья Соболев Илья Соболев

Комик Илья Соболев стал главным по социальной сатире на русском YouTube

Собака.ru
Идеальный «Шторм»: кто и почему стал триумфатором премии Ассоциации продюсеров кино и телевидения Идеальный «Шторм»: кто и почему стал триумфатором премии Ассоциации продюсеров кино и телевидения

Главные награды премии АПКиТ забрали сериалы, созданные для онлайн-платформ

Forbes
Qiwi решила продать карты рассрочки «Совесть» Совкомбанку Qiwi решила продать карты рассрочки «Совесть» Совкомбанку

Группа Qiwi Plc продает свой проект карт рассрочки «Совесть» Совкомбанку

Forbes
Не жужжи! Не жужжи!

Как избавиться от назойливых насекомых дома и на даче

Лиза
Осторожно: мигрень! Осторожно: мигрень!

Это заболевание преследует человечество уже тысячи лет, как с ним справиться?

Лиза
Оксфорд на дому: как онлайн-сервисы перевернут рынок образования Оксфорд на дому: как онлайн-сервисы перевернут рынок образования

Станет ли онлайн-образование по-настоящему массовым?

Forbes
7 вопросов диетологу 7 вопросов диетологу

Что делать с лишними килограммами, набранными в непростой весенний период

Худеем правильно
Режиссер Дэвид Кроненберг — о теориях заговора, рептилоидах и всемогущей русской мафии Режиссер Дэвид Кроненберг — о теориях заговора, рептилоидах и всемогущей русской мафии

Почему люди хотят верить в рептилоидов, козни иллюминатов и самолет с мертвецами

Esquire
Открыть в приложении