«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Популярные средства похудения ведут к большой потери мышечной массы Популярные средства похудения ведут к большой потери мышечной массы

Как препараты для похудения, Ozempic или Wegovy, влияют на организм?

ТехИнсайдер
Как быстро убрать живот и привести себя в форму Как быстро убрать живот и привести себя в форму

Что делать, если покрасоваться подтянутой фигурой хочется уже сейчас?

ТехИнсайдер
Аристократы и юмор: как Джилли Купер создала бестселлеры о высшем обществе Британии Аристократы и юмор: как Джилли Купер создала бестселлеры о высшем обществе Британии

Как Джилли Купер изменила отношение британцев к любовным романам

Forbes
«Транспорт в городах, удобных для жизни» «Транспорт в городах, удобных для жизни»

Как транспортная система влияет на город

N+1
Читалка для компьютера: выбираем лучшую из бесплатных Читалка для компьютера: выбираем лучшую из бесплатных

Лучшие читалки для компьютера из бесплатных программ

CHIP
Эти продукты помогут вам укрепить иммунитет! Включите их в свой рацион уже сейчас Эти продукты помогут вам укрепить иммунитет! Включите их в свой рацион уже сейчас

Продукты, которые обеспечат организм ключевыми питательными веществами

ТехИнсайдер
Из боинга 737 сделали люкс-виллу. Стоимость аренды не бюджетная! Из боинга 737 сделали люкс-виллу. Стоимость аренды не бюджетная!

Вилла, которая позволит наслаждаться видом из иллюминатора

ТехИнсайдер
После стольких лет: 10 фильмов с Аланом Рикманом, которые стоит посмотреть После стольких лет: 10 фильмов с Аланом Рикманом, которые стоит посмотреть

Мы собрали десять фильмов с Аланом Рикманом без мальчика, который выжил

Правила жизни
Открытие Милы Открытие Милы

Мила Ершова поделилась, почему она любит «социальные» роли

Grazia
Полуостров вулканов Полуостров вулканов

Камчатка — самая вулканически активная зона планеты

Вокруг света
Едим по-русски Едим по-русски

История любимых блюд и продуктов – киселя, квашеной капусты, гречки и щей

Лиза
«Королева драмы»: как распознать невротика — 9 признаков «Королева драмы»: как распознать невротика — 9 признаков

Признаки невротизма, которые помешают построить долгие и крепкие отношения

Psychologies
Эти бандиты терроризировали Англию в начале 20 века. История “Острых козырьков” Эти бандиты терроризировали Англию в начале 20 века. История “Острых козырьков”

В любое время находится группа людей, которые считают, что они выше закона

ТехИнсайдер
Зачем советские люди вешали ковры на стену? Не для красоты, как вы могли подумать! Зачем советские люди вешали ковры на стену? Не для красоты, как вы могли подумать!

Его рассматривали, на него откладывали деньги, им хвалились перед гостями

ТехИнсайдер
Тайная страсть: почему нас возбуждают секретные отношения — 3 причины Тайная страсть: почему нас возбуждают секретные отношения — 3 причины

Почему мужчинам и женщинам так нравятся романы, которые нельзя афишировать?

Psychologies
Мари Кондо — все: почему японка, покорившая мир системой уборки, перестала убирать Мари Кондо — все: почему японка, покорившая мир системой уборки, перестала убирать

Почему Мари Кондо вдруг отказалась от своей же системы уборки?

VOICE
«Будьте хозяином ваших мыслей»: как освободиться от страха и тревоги — 4 полезные практики «Будьте хозяином ваших мыслей»: как освободиться от страха и тревоги — 4 полезные практики

Как вернуть самообладание и избавиться от сковывающей тревоги?

Psychologies
Тестируем электромобиль Skywell ET5: почем бесплатное электричество? Тестируем электромобиль Skywell ET5: почем бесплатное электричество?

Тестируем электромобиль Skywell ET5 зимой и за городом

Maxim
7 классных идей, как повторно использовать пустые пластиковые бутылки 7 классных идей, как повторно использовать пустые пластиковые бутылки

Старые бутылки разного объема можно применить в хозяйстве

ТехИнсайдер
Я люблю людей: почему в альтруизме важен сухой расчет и к чему может привести благотворительность, основанная на эмоциях Я люблю людей: почему в альтруизме важен сухой расчет и к чему может привести благотворительность, основанная на эмоциях

Уильям Макаскилл рассказывает, как устроен эффективный альтруизм

Правила жизни
Как правильно разморозить холодильник и не сломать его: пошаговая инструкция Как правильно разморозить холодильник и не сломать его: пошаговая инструкция

Как грамотно разморозить холодильник и при этом ничего не испортить

ТехИнсайдер
Почему листья на комнатных растенях желтеют и как решить эту проблему? Почему листья на комнатных растенях желтеют и как решить эту проблему?

8 распространенных причин появления желтизны на листьях и способы из устранения

ТехИнсайдер
«Мы не снимали кино про дружбу народов» «Мы не снимали кино про дружбу народов»

Сардана Саввина о фильме «Не хороните меня без Ивана» и феномене якутского кино

Weekend
Терапия объятиями: как прикосновения и ласка влияют на наше здоровье Терапия объятиями: как прикосновения и ласка влияют на наше здоровье

Ученые доказали, что излечение прикосновениями действительно работает!

VOICE
Ученые из Университета Джорджии: умеренный стресс улучшает рабочую память Ученые из Университета Джорджии: умеренный стресс улучшает рабочую память

Низкий или умеренный уровень стресса может положительно влиять на работу мозга

Inc.
«Ненавижу Рождество»: почему женщины в кино до сих пор ждут мужчину в подарок «Ненавижу Рождество»: почему женщины в кино до сих пор ждут мужчину в подарок

«Ненавижу Рождество» — сериал о внутренних метаниях современных женщин

Forbes
Когда инициатива не наказуема | When Good Deeds Do Go Unpunished Когда инициатива не наказуема | When Good Deeds Do Go Unpunished

Как быть причастным к распределению местного бюджета

Позитивные изменения
Здесь детям страх неведом: 20 фактов о Тиме Бертоне Здесь детям страх неведом: 20 фактов о Тиме Бертоне

Интересные факты из биографии Тима Бертона

Правила жизни
5 вопросов, которые помогут избавиться от чувства вины 5 вопросов, которые помогут избавиться от чувства вины

О чем нужно помнить, сталкиваясь с чувством вины?

Psychologies
«Самый глупый маньяк»: история таксиста и серийного убийцы Дмитрия Лебедя «Самый глупый маньяк»: история таксиста и серийного убийцы Дмитрия Лебедя

На трех листах Лебедь написал список с 80 именами, и заявил, что убивал с 15 лет

VOICE
Открыть в приложении