Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Руфь Гринько «Комната утешения». Сказка как терапия Руфь Гринько «Комната утешения». Сказка как терапия

Отрывок из повести-сказки, которая поможет пережить страшные времена

СНОБ
«Расслабьтесь и начните работать над собой» «Расслабьтесь и начните работать над собой»

Как вернуть себе целостность?

Psychologies
Электростимуляция заставила жука-киборга лезть на стену Электростимуляция заставила жука-киборга лезть на стену

Как электрическая стимуляция заставляет двигаться жука-киборга

N+1
Яркие перспективы: Федор Конюхов облетит вокруг света на энергии солнца Яркие перспективы: Федор Конюхов облетит вокруг света на энергии солнца

Первый в истории кругосветный полет на солнечной энергии

Forbes
Плохой «ритм» сна связан с 83 болезнями Плохой «ритм» сна связан с 83 болезнями

Люди плохо представляют, сколько они на самом деле спят

ТехИнсайдер
Спортивный интерес Спортивный интерес

Данила Козловский о новом фильме и любимой девушке

Cosmopolitan
Новые купе и кабриолет C-Класса Новые купе и кабриолет C-Класса

Секрет успеха C-Класса связан с широким рядом моделей

Cosmopolitan
Цена надежности. Жилье подорожает после реформы строительного рынка Цена надежности. Жилье подорожает после реформы строительного рынка

На смену долевому участию придет механизм проектного финансирования

Forbes
Cosmo-эксперимент: Как жить по максимуму на минимум? Cosmo-эксперимент: Как жить по максимуму на минимум?

Наш автор живет по максимуму на 5000 рублей

Cosmopolitan
В Питере — ждут. Гергиев и Мацуев в программе ПМЭФ-2018 В Питере — ждут. Гергиев и Мацуев в программе ПМЭФ-2018

Культурная программа Петербургского международного экономического форума

Forbes
9 историй звезд, чей путь к материнству был тяжелым и трагическим 9 историй звезд, чей путь к материнству был тяжелым и трагическим

Наши героини прошли тяжелые испытания, прежде чем впервые стать мамами

Cosmopolitan
Страна жевунов Страна жевунов

Медленное жевание помогает похудеть и избавляет от множества недугов

Добрые советы
Стресс-тест для экономики: рубль ищет новую точку опоры Стресс-тест для экономики: рубль ищет новую точку опоры

Рост геополитической напряженности заставил экономику и рубль сдать позиции

Forbes
Уверенный рост. Квартплата в России увеличится на 4% Уверенный рост. Квартплата в России увеличится на 4%

Министр строительства России Михаил Мень анонсировал рост тарифов на ЖКУ

Forbes
Расправьте плечи, чтобы изменить жизнь Расправьте плечи, чтобы изменить жизнь

Язык вашего тела формирует вашу личность

Psychologies
Google — крупнейший блокировщик рекламы Google — крупнейший блокировщик рекламы

Google Chrome блокирует рекламу. Но для индустрии рекламы это не оскорбление

CHIP
Некуда бежать. Смогут ли вкладчики найти замену депозитам Некуда бежать. Смогут ли вкладчики найти замену депозитам

Ставки по депозитам опустились до исторического минимума — 6,9% годовых

Forbes
Танки против крепостей Танки против крепостей

Миф об уничтоженных танковых армиях на улицах Берлина

Популярная механика
Безопасный город. Почему жители надежнее видеокамер во дворах Безопасный город. Почему жители надежнее видеокамер во дворах

Влюбить человека в место обходится дешевле, чем убирать мусор

Forbes
Как изменилась личная жизнь резидентов Comedy Club за 13 лет шоу Как изменилась личная жизнь резидентов Comedy Club за 13 лет шоу

Что изменилось в личной жизни артистов за годы существования Comedy Club?

Cosmopolitan
SHIBA – новый японский ресторан Аркадия Новикова на Патриарших прудах SHIBA – новый японский ресторан Аркадия Новикова на Патриарших прудах

В Большом Палашёвском переулке открылся ресторан Аркадия Новикова SHIBA

Cosmopolitan
Время перемен. Почему армянским революционерам придется договариваться с Россией Время перемен. Почему армянским революционерам придется договариваться с Россией

Армении придется решать накопившиеся вопросы в отношениях с соседями

Forbes
12 из Женевы 12 из Женевы

Главные тренды Женевского автосалона

GQ
10 фактов о лоботомии 10 фактов о лоботомии

В середине XX века вас могли принудить к лоботомии за своенравный характер

Популярная механика
Закрытие полигона. Почему Северная Корея отказалась от ядерных испытаний Закрытие полигона. Почему Северная Корея отказалась от ядерных испытаний

Готова ли Северная Корея в отдаленном будущем отказаться от ядерного оружия

Esquire
Паритет в отношениях Паритет в отношениях

Загородный дом в Подмосковье Павел Бурмакин оформил в классическом стиле

SALON-Interior
Точка невозврата. Как химическое оружие навсегда изменило характер сирийского конфликта Точка невозврата. Как химическое оружие навсегда изменило характер сирийского конфликта

Возможное использование химического оружия делает эскалацию ключевым эпизодом

Forbes
Гормон мне друг? Гормон мне друг?

Как гормоны влияют на наше настроение, вес и качество кожи​​​​​​​

Cosmopolitan
11 вдохновляющих цитат для сильных женщин 11 вдохновляющих цитат для сильных женщин

Меткие жизненные высказывания

Psychologies
Mercedes-Benz S-Класса: гуляем на полную Mercedes-Benz S-Класса: гуляем на полную

Mercedes-Benz W221. Как обезопасить себя от покупки роскошной обузы?

АвтоМир
Открыть в приложении