«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему собаки тоже страдают от январской хандры Почему собаки тоже страдают от январской хандры

Собаки тоже могут чувствовать себя подавленными, ощущая январскую хандру

ТехИнсайдер
Пять cамых громких терактов, за которые никто не взял ответственность Пять cамых громких терактов, за которые никто не взял ответственность

Последние четверть века теракты все чаще совершают анонимные группы

Maxim
Неудачник, который победил: как Вертинский преодолел поэзию, эпоху и свою судьбу Неудачник, который победил: как Вертинский преодолел поэзию, эпоху и свою судьбу

Как Вертинский прожил несколько жизней и предвосхитил куртуазных маньеристов

СНОБ
10 книг, которые надо исключить из школьной программы 10 книг, которые надо исключить из школьной программы

Назрела большая литературная чистка

Maxim
Больше президенток и законов о насилии: 10 важных достижений феминисток в XXI веке Больше президенток и законов о насилии: 10 важных достижений феминисток в XXI веке

Главные достижения феминисток за последние 25 лет

Forbes
Весенний загар во Вьетнаме Весенний загар во Вьетнаме

Что нужно успеть увидеть и попробовать в этой экзотической стране за неделю

Лиза
Важен процесс Важен процесс

Чего достиг и чего не смог достичь Нюрнбергский процесс

Weekend
Собака заболела, но денег на лечение нет: что делать? Стоит ли усыплять? Мнение Собака заболела, но денег на лечение нет: что делать? Стоит ли усыплять? Мнение

Нужно ли бороться за жизнь животного, если люди не могут обеспечить даже свою?

ТехИнсайдер
Гриб на добрую память: «дедова борода» оказалась супероружием против Альцгеймера Гриб на добрую память: «дедова борода» оказалась супероружием против Альцгеймера

Лапша, борода и даже львиная грива — как только не называют этот диковинный гриб

Вокруг света
Крутое пике: как развивались отношения Шакиры и Жерара Пике? Таймлайн Крутое пике: как развивались отношения Шакиры и Жерара Пике? Таймлайн

История отношений Шакиры и Жерара Пике: от чудесной сказки к разрыву

Правила жизни
Топ-10 свадебных ромкомов: красивые, безбашенные и трогательные Топ-10 свадебных ромкомов: красивые, безбашенные и трогательные

Лучшие свадебные ромкомы: от классических комедий девяностых до свежих новинок

VOICE
Почему у кенгуру есть сумка, а у других животных ее нет Почему у кенгуру есть сумка, а у других животных ее нет

Почему кенгуру стали сумчатыми?

ТехИнсайдер
Разобраться в механизме: как лечение редких заболеваний помогает развитию медицины Разобраться в механизме: как лечение редких заболеваний помогает развитию медицины

Почему от качества лечения редких заболеваний зависит будущее медицины

Forbes
Как изменится жизнь, если бросить пить? Объяснение и советы Как изменится жизнь, если бросить пить? Объяснение и советы

Сэкономить денег и улучшить настроение: что подарит отказ от алкоголя?

ТехИнсайдер
«Секс по расписанию изменил нашу жизнь»: личная история — попробуйте с партнером «Секс по расписанию изменил нашу жизнь»: личная история — попробуйте с партнером

История, как секс по расписанию может изменить отношения с партнером

Psychologies
Медом намазано. 10 сортов с лучшими свойствами Медом намазано. 10 сортов с лучшими свойствами

Как выбрать лучший мед среди множества разновидностей?

Лиза
«Дочка» «Росатома» пообещала российским электромобилям уникальные батареи «Дочка» «Росатома» пообещала российским электромобилям уникальные батареи

Компания «Рэнера» обещает освоить производство батарей для электромобилей

РБК
Какой источник энергии питал первые живые организмы на Земле? Какой источник энергии питал первые живые организмы на Земле?

Какая сила помогала первым живым существам расти и размножаться?

ТехИнсайдер
Дом — полная чаша: как образ домохозяйки менялся в кино и в итоге пришел в TikTok Дом — полная чаша: как образ домохозяйки менялся в кино и в итоге пришел в TikTok

Как образ домохозяйки менялся на экране и почему не выдержал проверку временем

Forbes
Кто такой «маленький человек» в литературе? Кто такой «маленький человек» в литературе?

«Маленький человек» — литературный герой без амбиций

Культура.РФ
Это нужно знать всем родителям, чьи дети сидят в соцсетях! Советы по безопасности Это нужно знать всем родителям, чьи дети сидят в соцсетях! Советы по безопасности

Родителям стоит кое-что знать о том, как обезопасить ребенка в соцсетях

ТехИнсайдер
При каких болезнях помогает коньяк? При каких болезнях помогает коньяк?

Коньяк невероятно полезен, нет никаких сомнений

Maxim
На изящном: что восхищало современников Леонардо да Винчи в «Тайной вечере» На изящном: что восхищало современников Леонардо да Винчи в «Тайной вечере»

Поговорим о вечном — о "Тайной вечере" да Винчи

Правила жизни
Сколько можно съесть бананов за день, чтобы не испортить фигуру? Стоит узнать! Сколько можно съесть бананов за день, чтобы не испортить фигуру? Стоит узнать!

Почему нельзя есть одни бананы?

ТехИнсайдер
Здоровый интерес: как традиционная китайская медицина сохраняет свою популярность Здоровый интерес: как традиционная китайская медицина сохраняет свою популярность

Жители Китая привыкли лечить то, что еще не болит

Вокруг света
7 привычек, по которым в Турции безошибочно узнают туриста из России 7 привычек, по которым в Турции безошибочно узнают туриста из России

Чем русские туристы кардинально отличаются от местных жителей Турции?

Вокруг света
Как узнать, где находится ваш ребенок: простой способ от Google Как узнать, где находится ваш ребенок: простой способ от Google

Собственные средства родительского контроля есть и у самой Google

CHIP
Мгла рассеется: как снимался бэкстейдж сериала «Фишер» Мгла рассеется: как снимался бэкстейдж сериала «Фишер»

Посмотрите фотоисторию о вселенной сериала «Фишер»

Правила жизни
Посмотрите на фотографии “Книги мертвых”, которой 2000 лет Посмотрите на фотографии “Книги мертвых”, которой 2000 лет

Египет показал древние иллюстрации богов и сцен из загробной жизни

ТехИнсайдер
9 факторов риска заболеваний сердца: проверьте себя 9 факторов риска заболеваний сердца: проверьте себя

Болезни сердца являются ведущей причиной смерти по всему миру

ТехИнсайдер
Открыть в приложении