Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

СНОБHi-Tech

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

Некоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Рассеянный склероз: какое лечение доступно в России Рассеянный склероз: какое лечение доступно в России

Почему возникает рассеянный склероз и как современная терапия помогает людям?

СНОБ
10 самых невероятных школьных учителей 10 самых невероятных школьных учителей

Если бы у вас были такие учителя, тогда мы вы и прогуливали меньше

Cosmopolitan
Зарядки, SIM-карты и кнопки: какие технологии в гаджетах могут исчезнуть уже через пару лет Зарядки, SIM-карты и кнопки: какие технологии в гаджетах могут исчезнуть уже через пару лет

О том, какие технологии в гаджетах имеют тенденцию к полному исчезновению

ТехИнсайдер
Озарение миллиардера: Илон Маск поверил в людей и начал борьбу с «пьяными ленивцами» Озарение миллиардера: Илон Маск поверил в людей и начал борьбу с «пьяными ленивцами»

Илон Маск заявил, что разочарован в автоматизации производства

Forbes
Что такое «сухой запой» и что не так с решением жить в трезвости Что такое «сухой запой» и что не так с решением жить в трезвости

Что такое «сухой запой», почему так происходит и как спастись

Maxim
Как шутить с ним на свидании: чувство юмора знаков зодиака Как шутить с ним на свидании: чувство юмора знаков зодиака

Какое чувство юмора у мужчин разных знаков зодиака

Cosmopolitan
Лера Кудрявцева: «Мы, девочки, должны видеть наших защитников на льду, в сражени Лера Кудрявцева: «Мы, девочки, должны видеть наших защитников на льду, в сражени

Интервью с Лерой Кудрявцевой

Cosmopolitan
Нас не догонят. Смогут ли США наверстать отставание в разработке гиперзвукового оружия Нас не догонят. Смогут ли США наверстать отставание в разработке гиперзвукового оружия

После презентации гиперзвуковой ракеты «Кинжал» США бросились догонять Россию

Forbes
Стыдно, когда не видно Стыдно, когда не видно

Бороться за лайки теперь принято, не жалея округлившегося живота своего

Tatler
Школа без родителей Школа без родителей

Как дети представляют себе школу будущего и какого предмета им не хватает

СНОБ
Каждому свое: как подобрать правильные аксессуары для твоего типа фигуры Каждому свое: как подобрать правильные аксессуары для твоего типа фигуры

Как выбрать аксессуары, с которыми ты всегда будешь выглядеть «на пятерку»

Cosmopolitan
Как изменилась личная жизнь резидентов Comedy Club за 13 лет шоу Как изменилась личная жизнь резидентов Comedy Club за 13 лет шоу

Что изменилось в личной жизни артистов за годы существования Comedy Club?

Cosmopolitan
Следуй за мной: можно ли предотвратить ущерб от инсайдерской торговли Следуй за мной: можно ли предотвратить ущерб от инсайдерской торговли

Банк России уличил в инсайдерской торговле трейдера

Forbes
Брат небесный, брат земной Брат небесный, брат земной

NASA исследует близнецов: астронавта и его брата, оставшегося на Земле

Популярная механика
Три мифа об изменах Три мифа об изменах

Измены приносят боль, унижение, разочарование и потерю доверия

Psychologies
Фальшивая весна Фальшивая весна

Почему апрель на календаре тебя не радует?

Лиза
Доброта спасет мир? Доброта спасет мир?

Как отзывчивость и желание помогать другим могут загнать в ловушку?

Лиза
Гормон мне друг? Гормон мне друг?

Как гормоны влияют на наше настроение, вес и качество кожи​​​​​​​

Cosmopolitan
«У нее мерзкий характер»: Настасья Самбурская ответила на критику Елены Летучей «У нее мерзкий характер»: Настасья Самбурская ответила на критику Елены Летучей

Настасья Самбурская ответила на критику Елены Летучей

Cosmopolitan
Ядерная ракетка Ядерная ракетка

Немецкий теннисист Cаша Зверев

GQ
Замуж за Чикатило: жены маньяков, которые ни о чем не подозревали Замуж за Чикатило: жены маньяков, которые ни о чем не подозревали

Все эти женщины уверяли, что не имели понятия о том, с кем на самом деле живут

Cosmopolitan
Что читать в апреле: выбор Psychologies Что читать в апреле: выбор Psychologies

Четыре новинки, которые наверняка понравятся любителям провести вечер с книгой

Psychologies
Догнать спрос: выдержит ли Россия конкуренцию на рынке СПГ Догнать спрос: выдержит ли Россия конкуренцию на рынке СПГ

Прямо сейчас Россия может застолбить за собой несколько важных направлений

Forbes
Народ против: как жители Армении не испугались властей и довели протест до победы Народ против: как жители Армении не испугались властей и довели протест до победы

Президент Армении Серж Саргсян уступил протестующим и подал в отставку

Forbes
Елизавета II и ее корги: история в фотографиях Елизавета II и ее корги: история в фотографиях

Королева Елизавета II разводила вельш-корги на протяжении 70 лет

Esquire
Ниагарский водопад, США Ниагарский водопад, США

Лютые холода превратили водопадный каскад в набор сосулек

Maxim
Мы говорим им «До свидания!» Мы говорим им «До свидания!»

В этом месяце в Нью-Йорке пройдет аукцион века

Tatler
Желаю любви и радости! Желаю любви и радости!

Что может сделать каждый, кто хочет улучшить свое состояние?

Psychologies
Прозрачный бизнес: как Lalique зарабатывает на вазах, молодежи и черепах Прозрачный бизнес: как Lalique зарабатывает на вазах, молодежи и черепах

За 130 лет семейная мануфактура Lalique выросла в многопрофильную корпорацию

Forbes
Юрий Мильнер Юрий Мильнер

«Есть ли места в Солнечной системе, где может существовать жизнь? Их несколько»

РБК
Открыть в приложении