Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Похвалы необходимы поэту, как памперсы младенцам и лампасы генералам» — интервью с Дмитрием Бобышевым, соперником Бродского «Похвалы необходимы поэту, как памперсы младенцам и лампасы генералам» — интервью с Дмитрием Бобышевым, соперником Бродского

Готов ли Дмитрий Бобышев был платить за поэзию судьбой

СНОБ
Игра в команде. Чему могут научить сотрудников стресс и виртуальная реальность Игра в команде. Чему могут научить сотрудников стресс и виртуальная реальность

Новые методы обучения персонала могут сделать любой бизнес эффективнее

Forbes
IT-разработка «внутри» или готовое решение: что выбрать IT-разработка «внутри» или готовое решение: что выбрать

Стоит ли IT-компании разрабатывать ПО с нуля или лучше купить готовое решение?

Inc.
Что носили мужчины на этой неделе Что носили мужчины на этой неделе

Много классно одетых мужчин и Роберт-Дауни-младший

GQ
Почему не стоит оставлять открытыми алюминиевые банки в холодильнике Почему не стоит оставлять открытыми алюминиевые банки в холодильнике

Безопасно ли есть из железных банок, которые были оставлены открытыми?

ТехИнсайдер
Олег Табаков. Вспоминая маэстро Олег Табаков. Вспоминая маэстро

Олег Павлович Табаков – народный артист во всех смыслах

Лиза
Мир в опасности: кто сможет защитить данные пользователей интернета Мир в опасности: кто сможет защитить данные пользователей интернета

Мы продолжаем спокойно жить в мире, где все взламывают всех

Forbes
Как бывший чиновник придумал «умное» кольцо и заполучил в клиенты метро и банки Как бывший чиновник придумал «умное» кольцо и заполучил в клиенты метро и банки

PayRing. Производство колец для бесконтактных платежей

РБК
Перепутали в роддоме: 4 истории подмены Перепутали в роддоме: 4 истории подмены

Наверное, у каждой матери в глубине души сидит страх, что ее младенца подменят

Cosmopolitan
Игра на выбывание: кто покинул список Forbes в 2018 году Игра на выбывание: кто покинул список Forbes в 2018 году

Из списка богатейших бизнесменов России выбыли 15 человек

Forbes
Самое страшное в жителях КНДР — их бесстрашие Самое страшное в жителях КНДР — их бесстрашие

О том, как устроено мышление жителя тоталитарного общества

СНОБ
В единстве сила В единстве сила

Архитекторы Александра Таранова и Юлия Шмидт оформили загородный дом

AD
Конфликт поколений: чем блокировка Telegram напоминает крестовый поход детей Конфликт поколений: чем блокировка Telegram напоминает крестовый поход детей

История с ограничением доступа напоминает непонимание поколениями друг друга

Forbes
Следуй за мной: можно ли предотвратить ущерб от инсайдерской торговли Следуй за мной: можно ли предотвратить ущерб от инсайдерской торговли

Банк России уличил в инсайдерской торговле трейдера

Forbes
Поверить в сказку Поверить в сказку

На канале «Россия 1» стартовал сезон конкурса юных талантов «Синяя птица»

OK!
Май в Таиланде Май в Таиланде

Таиланд прекрасен в любое время года

Домашний Очаг
10 ошибок в воспитании: чего не надо делать 10 ошибок в воспитании: чего не надо делать

То, как мы ведем себя с детьми, напрямую влияет на их эмоциональное развитие

Psychologies
Под стеклянным колпаком: что даст рынку механизм оздоровления страховщиков Под стеклянным колпаком: что даст рынку механизм оздоровления страховщиков

В апреле Госдума приняла закон о санации страховщиков

Forbes
Зона турбулентности: как изменятся цены на недвижимость после валютных скачков Зона турбулентности: как изменятся цены на недвижимость после валютных скачков

Жилая недвижимость сумела успешно адаптироваться после девальвации

Forbes
Как устроена машинка бессмертия Как устроена машинка бессмертия

За 4 миллиарда лет ни одна из клеток, от которых вы произошли, не умерла

СНОБ
Владимир Овчаренко Владимир Овчаренко

Основатель аукциона Vladey Владимир Овчаренко — об ужине с Джеффом Кунсом

GQ
Самые скандальные случаи, когда фирмы отзывали свою продукцию Самые скандальные случаи, когда фирмы отзывали свою продукцию

В погоне за выручкой корпорации теряют миллионы долларов, а покупатели — жизнь!

Maxim
Мастер-манипулятор Мастер-манипулятор

Что делать, если парикмахер или косметолог навязывает дополнительные услуги?

Лиза
Космический поиск: NASA запустила в космос охотника за экзопланетами Космический поиск: NASA запустила в космос охотника за экзопланетами

Новый телескоп позволит обнаружить больше планет за пределами Солнечной системы

Forbes
Исландия: медитация на Луне Исландия: медитация на Луне

Фантастические пейзажи Исландии пленяют с первого взгляда

Psychologies
Жертва во спасение. Олег Дерипаска поднял курс рубля Жертва во спасение. Олег Дерипаска поднял курс рубля

Решение Олега Дерипаски позитивно сказалось на курсе рубля

Forbes
Наноалмаз превратили в управляемый источник света Наноалмаз превратили в управляемый источник света

Команда физиков разработала управляемый источник света на основе наноалмаза

Популярная механика
Сюнга: история японской порнографической живописи Сюнга: история японской порнографической живописи

Сюнга — это своеобразный средневековый Playboy на японский манер

Cosmopolitan
Витамины: полное собрание заблуждений Витамины: полное собрание заблуждений

Мифы о витаминах, которые многие принимают за медицинские факты

Популярная механика
Свой среди чужих: как победить страхи и стать успешной Свой среди чужих: как победить страхи и стать успешной

Пять советов, которые помогут вам стать востребованным профессионалом

Forbes
Открыть в приложении