«Василиск Роко» продолжает жить и угрожать всем, кто знает о нем

ТехИнсайдерРепортаж

Самый опасный мысленный эксперимент в истории: рождение «Василиска Роко»

12 лет назад на одном онлайн-форуме прозвучала идея, выводы из которой показались участникам слишком пугающими. Они попытались уничтожить все следы своих дискуссий, но интернет помнит все, и сегодня «Василиск Роко» продолжает жить и угрожать всем, кто знает о нем.

Роман Фишман

2e480543cc74705bb5476bb79245cc00_ce_1807x1203x0x173.jpg
Aberdeen University Library Online Collections

В этой истории много «если». Если искусственный интеллект когда-нибудь получит неограниченную власть над человечеством. Если он задастся целью судить людей, оставив лишь «правильных» и жестоко наказав всех «неправильных», ненужных для общего блага. Если вы верите, что такое будущее вполне вероятно, — тогда читать дальше не стоит.

Это первое предупреждение: когда вы доберетесь до конца текста, пути обратно уже не будет.

Кот и демоны

Мысленные эксперименты — древний и уважаемый способ познания. Они позволяют обдумать ситуации, которые сложно или или невозможно воплотить на практике, обсудить приложения законов природы в самых неожиданных обстоятельствах. Можно вспомнить кота Шредингера, одновременные жизнь и смерть которого помогают разобрать некоторые парадоксальные аспекты квантовой механики. Или — термодинамических демонов Максвелла, способных отбирать быстро движущиеся частицы, блокируя движение медленных. Впрочем, термодинамические демоны страшны лишь названием и вполне безобидны. Чего нельзя сказать о «василиске», родившемся в 2010 г.

490cf08378624211c3c4a440d001a924.jpg

Все случилось на онлайн-форуме LessWrong, организованном известным философом и экспертом по искусственному интеллекту Элиезером Юдковским. Его участники обсуждали вопросы современного рационализма, выступая в поддержку максимально точной картины мира, рациональной оценки рисков будущего, выбора общих целей и средств к их достижению. В частности, они развивали концепцию «дружественного ИИ», использование которого должно нести благо всему человечеству.

Приход такого всемогущего существа можно назвать технологической сингулярностью с позитивным исходом. И здесь прозвучит еще одно, последнее предупреждение. История недаром отсылает к василиску, мифическому животному, при взгляде в глаза которого человек окаменевает. Само знание об этом мысленном эксперименте — взгляде в будущее человечества и искусственного интеллекта — может когда-нибудь обернуться для вас неисчислимыми страданиями.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Все неправда!» Тайная причина, почему ни один мотоцикл не ездит быстрее 300 км/ч «Все неправда!» Тайная причина, почему ни один мотоцикл не ездит быстрее 300 км/ч

Почему у мотоциклов есть ограничения по скорости?

ТехИнсайдер
Флегматик — кто он на самом деле: миролюбивый аналитик или бесячий лентяй? Флегматик — кто он на самом деле: миролюбивый аналитик или бесячий лентяй?

Какие же флегматики на самом деле и почему именно такие?

ТехИнсайдер
Я — сноб: пианист и композитор Риад Маммадов Я — сноб: пианист и композитор Риад Маммадов

Пианист и композитор Риад Маммадов — о синтезе Востока и Запада в музыке

СНОБ

Самые невероятные конспирологические теории о знаменитостях

VOICE
Человечество Человечество

Обнадеживающая история

kiozk originals
Интервью с дагестанским художником Апанди Магомедовым Интервью с дагестанским художником Апанди Магомедовым

Апанди Магомедов — о том, как сохранить национальную индивидуальность

СНОБ
На месте крушения флагманского корабля «Грипсхунден» нашли импортные пряности На месте крушения флагманского корабля «Грипсхунден» нашли импортные пряности

Ботаники провели исследование остатков, собранных на корабле «Грипсхунден»

N+1
Consumer Reports утверждает, что BMW делает лучшие автомобили, а Land Rover – худшие Consumer Reports утверждает, что BMW делает лучшие автомобили, а Land Rover – худшие

Оценки дорожных испытаний и надёжности автомобилей лучших брендов

4x4 Club
Людмила Иванова об Олеге Дале: «Его нужно было только понимать, принимать и прощать ему все, просто все. И больше ничего» Людмила Иванова об Олеге Дале: «Его нужно было только понимать, принимать и прощать ему все, просто все. И больше ничего»

При жизни Людмила Ивановна рассказала мне об Олеге Дале. Делюсь с вами

Коллекция. Караван историй
3 ипостаси брака: как быть одновременно и любовниками, и партнерами, и друзьями 3 ипостаси брака: как быть одновременно и любовниками, и партнерами, и друзьями

Обручальное кольцо на пальце — это не точка в истории развития отношений

Psychologies
5 новых ярких имен научной фантастики, о которых ты, скорее всего, не слышал 5 новых ярких имен научной фантастики, о которых ты, скорее всего, не слышал

В любом направлении литературы регулярно появляются новые примечательные авторы.

Maxim
ИИ: человечество не сможет удержать потепление в безопасных границах ИИ: человечество не сможет удержать потепление в безопасных границах

Ученые разработали систему ИИ для прогноза глобального потепления

ТехИнсайдер
«Испанцы, Франко умер»: как закончилась одна европейская диктатура «Испанцы, Франко умер»: как закончилась одна европейская диктатура

Отрывок из книги Александра Баунова «Конец режима» — о смерти Франсиско Франко

Forbes
При каких болезнях помогает коньяк? При каких болезнях помогает коньяк?

Коньяк невероятно полезен, нет никаких сомнений

Maxim
Вся наша жизнь — шоу Вся наша жизнь — шоу

Худрук и главный режиссер «Ленинград Центра» Феликс Михайлов

Men Today
«Жёсткий откат на десять лет назад» или «пятилетка за два года»: три истории от айтишников, уехавших работать в Берлин «Жёсткий откат на десять лет назад» или «пятилетка за два года»: три истории от айтишников, уехавших работать в Берлин

О легализации и бюрократии, а также поиске жилья, быте и ИТ-сфере в Германии

VC.RU
Тушь-плевательница и бритва вместо скальпеля: как в СССР возникла индустрия красоты Тушь-плевательница и бритва вместо скальпеля: как в СССР возникла индустрия красоты

Существует стереотип, что советским женщинам не было дела до красоты. Это не так

Вокруг света
Как правильно вмешаться в ссору близких и нужно ли вообще это делать? Как правильно вмешаться в ссору близких и нужно ли вообще это делать?

Если два близких тебе человека поссорились, лучше всего как можно быстрее бежать

VOICE
Больше, чем отмороженный пенис: о чем на самом деле биография принца Гарри Больше, чем отмороженный пенис: о чем на самом деле биография принца Гарри

Что ценного есть в биографии принца Гарри?

Psychologies
Уйти нельзя остаться. Почему «Говорят женщины» — главный феминистический фильм года? Уйти нельзя остаться. Почему «Говорят женщины» — главный феминистический фильм года?

Фильм «Говорят женщины» — разбираемся в сюжете и особенностях съемки

Правила жизни
Сколько вещей нужно купить за год, чтобы спасти планету от глобального потепления Сколько вещей нужно купить за год, чтобы спасти планету от глобального потепления

Как ни странно, шоппинг ради спасения планеты — не глупость. Как оно работает?

VOICE
Символ небогатой жизни: почему страны, где растет кокос, считаются бедными Символ небогатой жизни: почему страны, где растет кокос, считаются бедными

Есть ли связь между кокосами и бедностью?

ТехИнсайдер
Стали известны новые пугающие подробности того, как токсичные соединения PFAS влияют на иммунную систему человека Стали известны новые пугающие подробности того, как токсичные соединения PFAS влияют на иммунную систему человека

Некоторые типы PFAS могут нарушать жизненно важные функции иммунных клеток

ТехИнсайдер
Грани прекрасного Грани прекрасного

Как обновить квартиру с помощью креативной отделки стен

Добрые советы
«Одной левой»: как мужчина с церебральным параличом стал успешным писателем, художником и настоящим сердцеедом «Одной левой»: как мужчина с церебральным параличом стал успешным писателем, художником и настоящим сердцеедом

Своим примером Кристи Браун доказал, что у таланта нет границ!

ТехИнсайдер
Почему у однояйцевых близнецов разные отпечатки пальцев. Ученые дали ответ Почему у однояйцевых близнецов разные отпечатки пальцев. Ученые дали ответ

Почему даже у однояйцевых близнецов не бывает одинаковых отпечатков пальцев

ТехИнсайдер
Мумии возвращаются: кто и как зарабатывает на сокровищах Древнего Египта Мумии возвращаются: кто и как зарабатывает на сокровищах Древнего Египта

Почему мир без устали исследует тайны Египта, а он никак не перестает удивлять

Forbes
7 забытых ученых, совершивших переворот в науке. Их открытия приписали другим. А вам знакомы эти имена? 7 забытых ученых, совершивших переворот в науке. Их открытия приписали другим. А вам знакомы эти имена?

Многие гении, кардинально изменившие мир, порой остаются в тени

Вокруг света
Дом — полная чаша: как образ домохозяйки менялся в кино и в итоге пришел в TikTok Дом — полная чаша: как образ домохозяйки менялся в кино и в итоге пришел в TikTok

Как образ домохозяйки менялся на экране и почему не выдержал проверку временем

Forbes
Великая языческая армия прибыла в Англию вместе с животными Великая языческая армия прибыла в Англию вместе с животными

Не только викинги пересекали в IX веке Северное море, но и их животные

N+1
Открыть в приложении