«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нашу ближайшую соседку галактику Малое Магелланово Облако рвет на части Нашу ближайшую соседку галактику Малое Магелланово Облако рвет на части

Притяжение Большого Магелланова Облака может разрывать Малое Облако на части

ТехИнсайдер
Сколько можно съесть бананов за день, чтобы не испортить фигуру? Стоит узнать! Сколько можно съесть бананов за день, чтобы не испортить фигуру? Стоит узнать!

Почему нельзя есть одни бананы?

ТехИнсайдер
Как Октавия Хилл в XIX веке управляла недвижимостью и помогала бедным людям Как Октавия Хилл в XIX веке управляла недвижимостью и помогала бедным людям

Как Октавия Хилл в XIX веке приводила в порядок лондонские трущобы?

Forbes
Не Канны или Венеция: почему победители Берлинале не добиваются международного успеха Не Канны или Венеция: почему победители Берлинале не добиваются международного успеха

Что значат решения жюри на Берлинале?

Forbes
Борьба со старением: новые подходы и тренды Борьба со старением: новые подходы и тренды

Что сегодня предлагает от старения превентивная медицина?

РБК
От Карского моря до Камчатки: где находятся 7 самых больших заповедников России От Карского моря до Камчатки: где находятся 7 самых больших заповедников России

Семерка самых больших заповедников России

Вокруг света
5 новых ярких имен научной фантастики, о которых ты, скорее всего, не слышал 5 новых ярких имен научной фантастики, о которых ты, скорее всего, не слышал

В любом направлении литературы регулярно появляются новые примечательные авторы.

Maxim
Школа Будущего Школа Будущего

Есть ли в Школе Будущего место для развития soft skills?

Позитивные изменения
Сладкий доход Сладкий доход

Сахарная свекла вернула статус одной из самых рентабельных агрокультур

Агроинвестор
Что такое галлюцинации, при чем тут шизофрения и всегда ли опасны голоса в голове: объясняет психиатр Что такое галлюцинации, при чем тут шизофрения и всегда ли опасны голоса в голове: объясняет психиатр

Как рождаются галлюцинации и чем отличаются от иллюзий?

Psychologies
Как быстро убрать живот и привести себя в форму Как быстро убрать живот и привести себя в форму

Что делать, если покрасоваться подтянутой фигурой хочется уже сейчас?

ТехИнсайдер
Защищайся! Защищайся!

Если столкнулась с домашним насилием: руководство к действию

Лиза
Дублер начинает действовать Дублер начинает действовать

Авторынок выбирает параллельный импорт

Деньги
Как прожить 100 лет? Долгожители поделились с The Guardian своими секретами Как прожить 100 лет? Долгожители поделились с The Guardian своими секретами

100-летние дедушки и бабушки особенно советуют не застревать в прошлом

Правила жизни
Вулканы, которых не было Вулканы, которых не было

Самые знаменитые выдуманные вулканы

Вокруг света
Как помочь подростку пережить развод родителей Как помочь подростку пережить развод родителей

Как создать ребенку комфортную среду в период развода и после него?

Psychologies
Гадания на Масленицу: как узнать все о любви, деньгах и будущем Гадания на Масленицу: как узнать все о любви, деньгах и будущем

Масленичная неделя – идеальное время для ритуалов и гаданий

VOICE
Эта специя сделает из вас гения (или, как минимум, убережет от слабоумия) Эта специя сделает из вас гения (или, как минимум, убережет от слабоумия)

Исследование подтвердило полезные свойства популярной добавки к пище

Вокруг света
Какие наши годы Какие наши годы

Вычисляем свой морфотип и принимаем меры по удержанию «ускользающей красоты»

Добрые советы
Как критика может разрушить жизнь человека: показательные итоги эксперимента Уэнделла Джонсона Как критика может разрушить жизнь человека: показательные итоги эксперимента Уэнделла Джонсона

«Чудовищный эксперимент» — опыт, проведенный психологом Уэнделлом Джонсоном

VOICE
Как жить, когда спокойно не сидится: жизнь с СДВГ Как жить, когда спокойно не сидится: жизнь с СДВГ

Как облегчить жизнь, если вы обнаружили у себя синдром дефицита внимания?

ТехИнсайдер
Сериал «Одни из нас»: зомби-апокалипсис, который понравится не только фанатам игры Сериал «Одни из нас»: зомби-апокалипсис, который понравится не только фанатам игры

Благодаря отношениям между героями «Одни из нас» понравятся любому зрителю

Forbes
Обновлённый BMW X5 против обновлённого Mercedes-Benz GLE Обновлённый BMW X5 против обновлённого Mercedes-Benz GLE

Два извечных соперника обновлены для 2024 модельного года

4x4 Club
Грабли-бумс Грабли-бумс

Что заставляет нас идти проторенными тропами в отношениях?

Лиза
Спирс, Джоли, Кен, рысь: на кого хотели быть похожи жертвы пластики Спирс, Джоли, Кен, рысь: на кого хотели быть похожи жертвы пластики

Эти люди спустили целые состояния на пластику

VOICE
Свобода в отношениях: каковы ее границы Свобода в отношениях: каковы ее границы

Только ли в одиночестве можно быть по-настоящему свободным?

Psychologies
Звезды, которые обручились или вышли замуж в День святого Валентина — приносит ли красивая дата счастье? Звезды, которые обручились или вышли замуж в День святого Валентина — приносит ли красивая дата счастье?

Работает ли магия красивой даты? Разбираем на примере звезд

VOICE
Отдых в горах: 8 слагаемых успеха Отдых в горах: 8 слагаемых успеха

Важные составляющие качественного отдыха на горнолыжном курорте

СНОБ
Город будущего как объект исследования | The City of the Future as an Object of Research Город будущего как объект исследования | The City of the Future as an Object of Research

10 современных книг о городах будущего

Позитивные изменения
Испытываете сожаление? Вот что поможет извлечь из него пользу Испытываете сожаление? Вот что поможет извлечь из него пользу

Сожалея о своих ошибках, очень важно суметь извлечь из них уроки

Psychologies
Открыть в приложении