Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Праздник со вкусом апельсина — что Берджесс, Кубрик и Фуко думали о насилии Праздник со вкусом апельсина — что Берджесс, Кубрик и Фуко думали о насилии

О том, как в «Заводном апельсине» рассматривается тема насилия

СНОБ
Lada XRay: свое, родное Lada XRay: свое, родное

Lada XRay поселилась в редакционном парке на излете зимы

АвтоМир
Цифровой сценарист: как ИИ создает иллюзию свободы выбора Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Как научиться распознавать технологические манипуляции

Forbes
Кинетические скульптуры Чарли-Анн Кобдак Кинетические скульптуры Чарли-Анн Кобдак

У машин Чарли-Анн есть сюжет – как он бывает в фильмах и книгах.

Популярная механика
Сохраняйте спокойствие Сохраняйте спокойствие

Спокойствие — мощный способ достижения успеха в жизни

kiozk originals
Молодая кровь: зачем российский бренд сшил одежду с логотипами KFC Молодая кровь: зачем российский бренд сшил одежду с логотипами KFC

Фастфуд KFC выпустил лимитированную коллекцию одежды

Forbes

Высказывания рэпера в твиттере уже успели привести к скандалу

Esquire
Кто такая доула: зачем нужна помощница в родах и что она делает Кто такая доула: зачем нужна помощница в родах и что она делает

Давай будем честными: рожать - страшно

Cosmopolitan
Черная кошка, розовая пантера Черная кошка, розовая пантера

В истории «Розовых пантер» интересно и необычно все

Maxim
Чем заняться в Москве в честь Дня благотворителя Чем заняться в Москве в честь Дня благотворителя

13 апреля в России отмечается День мецената и благотворителя

Cosmopolitan
Все чудеса Светы Все чудеса Светы

Звезда отечественных хит-парадов Светлана Лобода раскрывает свои секреты

Cosmopolitan
«Сосисочная королева» и еще 11 удивительных фотографий с конкурсов красоты «Сосисочная королева» и еще 11 удивительных фотографий с конкурсов красоты

Фотоотчеты с конкурсов красоты 20-50-х годов прошлого века

Cosmopolitan
Покусился за святое. Трамп пообещал остановить «искусственное завышение» цен на нефть Покусился за святое. Трамп пообещал остановить «искусственное завышение» цен на нефть

Нефтяные котировки на заявлениях главы Белого дома пошли вниз

Forbes
Сироп агавы вместо сахара и другие секреты для тех, кто на диете Сироп агавы вместо сахара и другие секреты для тех, кто на диете

Cидеть на диете – это ужасно скучно

Cosmopolitan
Крутое пике. Акции компаний Олега Дерипаски пострадали из-за санкций больше всех Крутое пике. Акции компаний Олега Дерипаски пострадали из-за санкций больше всех

Бумаги «Русала» и En+ Group Олега Дерипаски упали на 12% и 20% соответственно

Forbes
10 малоизвестных автомобильных брендов из Южной Кореи 10 малоизвестных автомобильных брендов из Южной Кореи

В Южной Корее хватает брендов, о которых вы вряд ли слышали

Популярная механика
Без царя в голове Без царя в голове

Звезда «Ма­тиль­ды» поль­ская ак­три­са Ми­ха­ли­на Оль­шан­ская

Vogue
Все по полочкам Все по полочкам

Мебельные стенки немного видоизменились

Лиза
Они узорят наш район! Они узорят наш район!

Предметы, оказавшись рядом, создают красоту и узоры

Maxim
Родительский дом Родительский дом

Хозяйка этого дома на Французской Ривьере хорошо его знает

AD
Что носили мужчины на этой неделе Что носили мужчины на этой неделе

На этой неделе мужчины одевались так, как хочется им, а не стилистам

GQ
Андрей Пронин: Михаил Угаров. Жизнь Андрей Пронин: Михаил Угаров. Жизнь

Театральный критик — о том, каким был знаменитый режиссер

СНОБ
Страна муравейников. Почему ипотека в России не решает квартирный вопрос Страна муравейников. Почему ипотека в России не решает квартирный вопрос

Россиянам пора пересмотреть отношение к аренде квартир

Forbes
«Русал» Дерипаски опасается дефолта из-за санкций США «Русал» Дерипаски опасается дефолта из-за санкций США

Акции компании «Русал» на Гонконгской бирже упали в цене на 50%

Forbes
Саргсян хотел поиграть в армянского Путина Саргсян хотел поиграть в армянского Путина

Как теперь будут развиваться российско-армянские отношения

СНОБ
Путь к красоте: как работает клиника эстетической медицины Путь к красоте: как работает клиника эстетической медицины

Как проходит рабочий день руководителя клиник эстетической медицины «Клазко»

Forbes
Что носили мужчины на этой неделе Что носили мужчины на этой неделе

Наконец-то баланс стритстайла и классики

GQ
Покажи своему цинику: фильмы, которые заставят поверить в вечную любовь Покажи своему цинику: фильмы, которые заставят поверить в вечную любовь

Можно сколько угодно спорить о том, что такое любовь

Cosmopolitan
Протанцевать семейный кризис Протанцевать семейный кризис

Понять друг друга можно не только с помощью слов. Есть и парный танец

Psychologies
Жуткие карикатуры Первой мировой, от которых всё в жилах стынет Жуткие карикатуры Первой мировой, от которых всё в жилах стынет

Графика стиля «Пляска смерти»

Maxim
Открыть в приложении