Почему сверхразум может уничтожить людей всего за одну секунду

EsquireОбщество

Чем опасен искусственный интеллект и почему сверхразум может уничтожить людей всего за одну секунду

Стивен Хокинг, Илон Маск и другие ученые и изобретатели считают искусственный интеллект угрозой жизни на Земле. Директор Института будущего человечества в Оксфорде и автор бестселлера Superintelligence: Paths, Dangers, Strategies Ник Бостром рассказал Esquire, почему сверхразум может уничтожить людей всего за одну секунду.

В узких областях возможности искусственного интеллекта уже намного превышают человеческие: Гарри Каспаров, чемпион мира по шахматам, проиграл программе Deep Blue в далеком 1997 году. Поисковые запросы, распознавание речи, логистика — в этом специализированные системы лучше нас. Но на самом деле они пока не обладают мышлением как таковым, и никто сейчас не знает, когда будет изобретен настоящий искусственный интеллект.

Большинство ученых сходятся во мнении, что вероятность его появления до середины XXI века — 50%. Прогноз очень абстрактный, и очевидно, что произойти это может как намного раньше, так и гораздо позже. В 1940-х годах, когда были созданы первые компьютеры, ученые предсказывали появление машин, превосходящих интеллект человека, к 1960-м. Прогноз не сбылся, но уже тогда математик Ирвинг Джон Гуд, работавший во время Второй Мировой войны над взломом немецких шифров в команде Алана Тьюринга, предупреждал: «Сверхумная машина — последнее изобретение, которое предстоит сделать человечеству, при условии, конечно, что эта машина будет нас слушаться и укажет, как ее контролировать». Другими словами, первый же искусственный интеллект, созданный людьми, с большой вероятностью будет стремиться к неограниченному овладению ресурсами, а его цели никак не будут связаны с благом человечества. Если учесть, что люди состоят из полезных ресурсов — таких, например, как организованные в определенном порядке молекулы — и сами зависят от множества земных ресурсов, одним из наиболее вероятных последствий появления искусственного интеллекта станет полное исчезновение человечества. Представьте, что перед носителем сверхразума зачем-то встала задача максимально увеличить производство скрепок для бумаги. В этой связи у него будут как минимум две причины уничтожить человечество: чтобы мы не смогли ему каким-то образом помешать и чтобы использовать наши

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Катастрофа Superjet: испытатель за год предупреждал об аварии Катастрофа Superjet: испытатель за год предупреждал об аварии

«РР» нашел эксклюзивные документы

Русский репортер
Детская игра — детские правила? Детская игра — детские правила?

Подход к играм, который доставит радость ребенку и родителям

Psychologies
Range Rover Sport MHEV. Переходная модель эволюции Range Rover Sport MHEV. Переходная модель эволюции

Знакомство с Range Rover Sport MHEV, созданным в угоду экологам

4x4 Club
Можно ли любить все человечество? Можно ли любить все человечество?

Есть ли те, кому достаточно просто считать себя человеком

Psychologies
Берут – беги Берут – беги

Теневая экономика России настолько велика, что называть ее теневой даже неловко

Esquire
Как прокачать soft skills в компании в условиях затяжного стресса Как прокачать soft skills в компании в условиях затяжного стресса

Как в любой ситуации поддержать сотрудников и сохранить их эффективность

Inc.
«Панч» — мотоцикл нового поколения, созданный в России и Белоруссии «Панч» — мотоцикл нового поколения, созданный в России и Белоруссии

Лечитесь электричеством!

Maxim
Вакцинированные люди не захотели делиться с невакцинированными в онлайн-игре Вакцинированные люди не захотели делиться с невакцинированными в онлайн-игре

Люди могут воспринимать прививки как общественный договор

N+1
Финская и русская любовь Вилле Хаапасало Финская и русская любовь Вилле Хаапасало

Кому может не понравится брутальный, но в то же время милый финский парень?

Cosmopolitan
Как французский врач жил и лечил людей в Африке: отрывок из книги Жана-Мари Леклезио «Африканец» Как французский врач жил и лечил людей в Африке: отрывок из книги Жана-Мари Леклезио «Африканец»

Фрагмент из третьей главы – «Африканец», где автор рассказывает о своем отце

Esquire
Стимуляция запястья на треть снизила тики при синдроме Туретта Стимуляция запястья на треть снизила тики при синдроме Туретта

Ритмичная стимуляция в мю-диапазоне помогла купировать тики при синдроме Туретта

N+1
Панцири морских черепах оказались домом для тысяч микроскопических животных Панцири морских черепах оказались домом для тысяч микроскопических животных

Черепаший панцирь помогает живым существам расселяться по океанам

N+1
Отсутствие морского льда повысило успех размножения у пингвинов Адели в Восточной Антарктиде Отсутствие морского льда повысило успех размножения у пингвинов Адели в Восточной Антарктиде

Исчезновение морского льда увеличило эффективность размножения колонии пингвинов

N+1
26 секунд, которые потрясли мир: история самого большого самолета-амфибии 26 секунд, которые потрясли мир: история самого большого самолета-амфибии

Первый и последний подвиг «Геркулеса»

Maxim
Кража с обломом. 20 cамых смешные ограбления двухтысячных Кража с обломом. 20 cамых смешные ограбления двухтысячных

Идиотами оказываются то грабители, то пострадавшие

Maxim
Талантливый балаган с медведями: как сериал «Великая» рассказывает историю сильной женщины в мужском мире Талантливый балаган с медведями: как сериал «Великая» рассказывает историю сильной женщины в мужском мире

Почему «Великую» надо смотреть через иную оптику

Forbes
Ножки-сухарики. История одного воспоминания Ножки-сухарики. История одного воспоминания

Порой достаточно свести двух умирающих людей, чтобы тем самым продлить их жизнь

СНОБ
Джеймс Роллинс: Последняя одиссея Джеймс Роллинс: Последняя одиссея

Герои книги Джеймса Роллинса «Последняя одиссея» исследуют ледники Гренландии

СНОБ
Почему ссоры с родными ранят особенно больно? Почему ссоры с родными ранят особенно больно?

Иногда именно близкие люди причиняют больше всего боли. Почему так происходит?

Psychologies
Как относились друг к другу Тютчев и Фет? Как относились друг к другу Тютчев и Фет?

Тютчев и Фет не только были знакомы, но и относились друг к другу с теплом

Культура.РФ
Олимпийский автопарк. На чем ездили по Москве летом 1980-го Олимпийский автопарк. На чем ездили по Москве летом 1980-го

Яркие автомобили Олимпиады-80

РБК
Иностранные ремейки советских фильмов Иностранные ремейки советских фильмов

На основе этих советских фильмов свои картины снимали зарубежные режиссеры

Культура.РФ
Были ли знакомы Ахматова и Цветаева? Были ли знакомы Ахматова и Цветаева?

Между Цветаевой и Ахматовой были и соперничество, и сплетни, и обиды

Культура.РФ
Има Има

Стрит-артист Максим Има курирует пабликарт-проекты в коллаборации с ЦВЗ «Манеж»

Собака.ru
Совсем не смешно Совсем не смешно

Как не превращать юмор в оружие буллинга?

Лиза
Семейный уклад в Ясной Поляне Семейный уклад в Ясной Поляне

Традиции и увлечения семьи Толстых

Культура.РФ
«Государство пытается поставить нас в положение магазина бытовой техники в селе без электроэнергии». Адвокат Александр Железников об адвокатуре в России «Государство пытается поставить нас в положение магазина бытовой техники в селе без электроэнергии». Адвокат Александр Железников об адвокатуре в России

Адвокат о состоянии российской адвокатуры и зачем нужно проводить акции протеста

СНОБ
Не мыльная Россия Не мыльная Россия

Василий Степанов о «Чиках» как русских «Бесстыжих»

Weekend
«Наша цель — дарить людям время». История питерского стартапа «Самокат», который захватывает рынок онлайн-доставки продуктов «Наша цель — дарить людям время». История питерского стартапа «Самокат», который захватывает рынок онлайн-доставки продуктов

Как родилась идея стартапа «Самокат», и почему время — самый ценный ресурс

Inc.
Счастливо выйти замуж после 40 через сайт знакомств: почему это считают невозможным? Счастливо выйти замуж после 40 через сайт знакомств: почему это считают невозможным?

Наша героиня разрушает миф, что с возрастом сложнее встретить свою половинку

Psychologies
Открыть в приложении