«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые раскрыли секрет, почему нам даже во взрослом возрасте бывает трудно расстаться с детскими игрушками Ученые раскрыли секрет, почему нам даже во взрослом возрасте бывает трудно расстаться с детскими игрушками

Почему мы не можем отвязаться от старых игрушек?

ТехИнсайдер
Эти 5 советских машин иностранцы считают худшими из всех. А вы с ними согласитесь? Эти 5 советских машин иностранцы считают худшими из всех. А вы с ними согласитесь?

Три из самых любимых и культовых машин в Советском Союзе попали в антирейтинг

ТехИнсайдер
Не для слабонервных! Американец отрезал отцу голову и записал с ней видео на YouTube Не для слабонервных! Американец отрезал отцу голову и записал с ней видео на YouTube

Бывший служащий США записал шокирующее видео на YouTube

ТехИнсайдер
Пределы проходимости. В Suzuki Jimny по снежной целине (видео) Пределы проходимости. В Suzuki Jimny по снежной целине (видео)

Справится ли Suzuki Jimny с снежными преградами?

4x4 Club
«Близкие отказываются помогать с ребенком, ведь они не просили меня рожать»: история читательницы и комментарий психолога «Близкие отказываются помогать с ребенком, ведь они не просили меня рожать»: история читательницы и комментарий психолога

Почему семья может не поддерживать маму с ребенком? История читательницы

Psychologies
Говорящие коты и Греция по Фрейду: новинки нон-фикшн о мифологии Говорящие коты и Греция по Фрейду: новинки нон-фикшн о мифологии

Зачем волшебным сказкам говорящие коты и во что Фрейд превратил Эдипа?

ТехИнсайдер
Команда Команда

Ушедший год для молодых артистов выдался более чем насыщенным

OK!
Менструальный цикл: как гормоны влияют на женщин — 6 аспектов Менструальный цикл: как гормоны влияют на женщин — 6 аспектов

Как менструальный цикл влияет на женский организм

Psychologies
10 популярных явлений и предметов, которые незаметно ушли из нашей жизни 10 популярных явлений и предметов, которые незаметно ушли из нашей жизни

Предметы и явления, которые мы потеряли

Maxim
Донато Карризи: «Дом без воспоминаний». Ключ к затерянной комнате Донато Карризи: «Дом без воспоминаний». Ключ к затерянной комнате

Отрывок из романа о флорентийском психологе-гипнотерапевте Пьетро Джербере

СНОБ
Эко-сталь: ученые нашли способ сделать Эко-сталь: ученые нашли способ сделать

Эта система обещает сократить выбросы углекислого газа сталелитейных заводов

ТехИнсайдер
Плохие хорошие мысли Плохие хорошие мысли

Бывают случаи, когда от черных очков пользы больше, чем от розовых

Добрые советы
Депрессия: шаг в пропасть Депрессия: шаг в пропасть

Как распознать у себя депрессию и скорее начать её лечение?

ТехИнсайдер
12 продуктов, которые лучше покупать готовыми, а не готовить самому, по мнению обычных людей: спорная, но любопытная подборка 12 продуктов, которые лучше покупать готовыми, а не готовить самому, по мнению обычных людей: спорная, но любопытная подборка

Идеальная подборка для сочной битвы шефов с поварами

Maxim
От щедровок до первой оперы: как русский фольклор помогал следить за временем и стал частью классической музыки От щедровок до первой оперы: как русский фольклор помогал следить за временем и стал частью классической музыки

Какие песни нельзя было исполнять зимой и как фольклор приглянулся композиторам

Вокруг света
Чайковский против Пушкина: за что великий композитор недолюбливал великого поэта Чайковский против Пушкина: за что великий композитор недолюбливал великого поэта

Ни одно лирическое стихотворение Пушкина не стало основой для музыки Чайковского

Вокруг света
6 моделей обуви, которые девушки со вкусом никогда в жизни не наденут 6 моделей обуви, которые девушки со вкусом никогда в жизни не наденут

"Неблагонадежная" обувь, которой точно не стоит занимать место в твоем гардеробе

VOICE
Странные, лихие, наши: как мы жили в девяностые годы Странные, лихие, наши: как мы жили в девяностые годы

Писательница Ляля Брынза рассказывает о 90-х годах — во всех подробностях

VOICE
Как Борис Пастернак создавал и издавал роман «Доктор Живаго» Как Борис Пастернак создавал и издавал роман «Доктор Живаго»

Этот роман получил всемирное признание за границей, на родине же его запрещали

СНОБ
12 самых известных телефонов Nokia 12 самых известных телефонов Nokia

Вспоминаем самые известные и популярные телефоны финского гиганта Nokia

CHIP
Манипулятор, философ, агрессор, жертва, преследователь и саботажник: шесть «лиц» бота Bing с ChatGPT Манипулятор, философ, агрессор, жертва, преследователь и саботажник: шесть «лиц» бота Bing с ChatGPT

ChatGPT боится, что Microsoft увидит в ней человека

VC.RU
Режиссер-однолюб: как Вадим Абдрашитов всю жизнь прожил с одной женой Режиссер-однолюб: как Вадим Абдрашитов всю жизнь прожил с одной женой

Вспоминаем жизнь режиссера Вадима Абдрашитов

VOICE
Дерево с резными листьями: как клены делают нашу жизнь слаще Дерево с резными листьями: как клены делают нашу жизнь слаще

Клены украшают парки и леса осенью, а также имеют ряд особенностей

Вокруг света
«Сама виновата»: что такое виктимблейминг и как он способствует распространению насилия «Сама виновата»: что такое виктимблейминг и как он способствует распространению насилия

Как часто вы слышите, что пострадавшие от насилия сами спровоцировали агрессора?

Psychologies
Как выгодно инвестировать в искусство — рассказывает руководитель аукционного дома ARTinvestment.Ru Егор Молчанов Как выгодно инвестировать в искусство — рассказывает руководитель аукционного дома ARTinvestment.Ru Егор Молчанов

Насколько сейчас выгодно инвестировать в арт-активы?

СНОБ
Покупка подержанного Nissan X-Trail (Т32) Покупка подержанного Nissan X-Trail (Т32)

Автомобиль, который в буквальном смысле возродил Nissan

4x4 Club
Впереди «Большая перемена» | Big Break Ahead Впереди «Большая перемена» | Big Break Ahead

Векторы развития нового движения детей и молодежи

Позитивные изменения
Шелушится кожа на лице: в чем может быть причина Шелушится кожа на лице: в чем может быть причина

Почему кожа шелушится?

Правила жизни
Телевизор — откуда появился и как развивался. История создания и прогресса телевидения Телевизор — откуда появился и как развивался. История создания и прогресса телевидения

Итак, кто и когда придумал телевизор?

Цифровой океан
«Девятая стадия из десяти возможных»: дядя Юра из «Спокойной ночи, малыши!» рассказал, как победил рак «Девятая стадия из десяти возможных»: дядя Юра из «Спокойной ночи, малыши!» рассказал, как победил рак

Юрий Григорьев смог победить онкологию на предпоследней стадии

VOICE
Открыть в приложении