Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как устроен патрульный катер «Мангуст» с ракетной установкой Как устроен патрульный катер «Мангуст» с ракетной установкой

Эта легкомысленного вида посудина — первая в своем роде

Maxim
Телесная осознанность: зачем она нужна и как может изменить жизнь к лучшему Телесная осознанность: зачем она нужна и как может изменить жизнь к лучшему

Мысли и желания способны оказывать влияние на здоровье и состояние нашего тела

Cosmopolitan
Серфинг для всех: как женщины отвоевывали свое право покорять волны наравне с мужчинами Серфинг для всех: как женщины отвоевывали свое право покорять волны наравне с мужчинами

«Серфинг не для девчонок» — история многолетней гендерной дискриминации

Forbes
«Россияне играют роль Скарлетт О’Хара»: можно ли заработать на сервисах микроинвестирования «Россияне играют роль Скарлетт О’Хара»: можно ли заработать на сервисах микроинвестирования

Станет ли микроинвестирование массовым и можно ли на нем заработать?

Forbes
Картина маслом Картина маслом

Пентхаус с авторской живописью в Екатеринбурге

SALON-Interior
Семейские ценности Семейские ценности

Потомки старообрядцев, оказавшихся в Забайкалье в XVIII веке, сохранили веру

Вокруг света
Он ни в чем не виноват: как понять, что у твоего мужчины депрессия Он ни в чем не виноват: как понять, что у твоего мужчины депрессия

Если ты замечаешь, что отношения изменились в худшую сторону, причем по его вине

Cosmopolitan
Доброта спасет мир: 5 фильмов, которые вернут тебе веру в человечество Доброта спасет мир: 5 фильмов, которые вернут тебе веру в человечество

Лучшие фильмы, герои которых думали, что хуже жизни и быть не может

Cosmopolitan
«Мы зачем-то поверили, что мы футбольная страна»: почему российская сборная проиграла на Евро-2020 «Мы зачем-то поверили, что мы футбольная страна»: почему российская сборная проиграла на Евро-2020

Чемпионат Европы 2020 просто не мог сложиться для России по-другому

Forbes
Увеличение губ: личный опыт редактора Cosmo Увеличение губ: личный опыт редактора Cosmo

Увеличение губ - одна из самых популярных и противоречивых процедур

Cosmopolitan
Выключение света по ночам назвали эффективным способом сократить гибель перелетных птиц Выключение света по ночам назвали эффективным способом сократить гибель перелетных птиц

Чтобы уменьшить смертность птиц — достаточно гасить на ночь половину окон центра

N+1
7 лайфхаков, чтобы заставить ребенка тебя слушать 7 лайфхаков, чтобы заставить ребенка тебя слушать

Если у тебя не получается достучаться до ребенка, попробуй хитростью!

Maxim
10 сериалов, которые нужно посмотреть вдвоем 10 сериалов, которые нужно посмотреть вдвоем

Подборка сериалов, которые можно посмотреть вдвоем с возлюбленным

Cosmopolitan
Осознанные занятия спортом помогают бороться с тревогой Осознанные занятия спортом помогают бороться с тревогой

Как справиться с тревогой с помощью физических нагрузок?

Psychologies
Елизавета Туктамышева Елизавета Туктамышева

Елизавета Туктамышева готовится к главному событию — зимним Олимпийским играм

Собака.ru
Русский из регионов: как в разных концах России появляются регионализмы Русский из регионов: как в разных концах России появляются регионализмы

Почему люди используют регионализмы и зачем нужно их изучать

РБК
Детская матрица. Зачем власти нужен «белый интернет» для школьников Детская матрица. Зачем власти нужен «белый интернет» для школьников

Попытки создания социальных матриц пока что не увенчались успехом

СНОБ
«Ёбидоёби» и «Страшный сон вегана». Как живется адептам хулиганского нейминга «Ёбидоёби» и «Страшный сон вегана». Как живется адептам хулиганского нейминга

Почему компании выбирают нестандартный нейминг и как реагируют клиенты?

Inc.
Измены и разводы: как живут Савельева, Казанова и другие звезды группы «Фабрика» Измены и разводы: как живут Савельева, Казанова и другие звезды группы «Фабрика»

Как сложилась личная жизнь певиц из «Фабрики»

Cosmopolitan
7 вещей, которые мы бы хотели изменить в девушках 7 вещей, которые мы бы хотели изменить в девушках

В девушках все же есть черты, которые мы не против усовершенствовать

Maxim
7 типичных ошибок в фильмах про войну 7 типичных ошибок в фильмах про войну

Ляпы в военных фильмах: из 6-зарядного пистолета можно выстрелить 138 раз

Maxim
«Зеленый» фильтр из синтетической древесины очищает воду так же, как тропические растения «Зеленый» фильтр из синтетической древесины очищает воду так же, как тропические растения

Прибор очищает воду с помощью транспирации — так же, как это делают растения

Популярная механика
Путеводитель по русским, которых не было Путеводитель по русским, которых не было

6 настоящих историй о ненастоящих людях

Weekend
В своей тарелке В своей тарелке

Как посетить ресторан без риска для талии

Худеем правильно
«Нет смысла соревноваться с диктаторами в красноречии» «Нет смысла соревноваться с диктаторами в красноречии»

Мел Брукс о том, почему нужно смеяться

Weekend
Бирюзовая компания: что такое холакратия Бирюзовая компания: что такое холакратия

Что такое бирюзовые компании и как организована работа в них?

Популярная механика
Цель есть, а сил — нет: почему мы не можем начать действовать? Цель есть, а сил — нет: почему мы не можем начать действовать?

Почему как только мы приступаем к реализации цели, наши силы куда-то исчезают?

Psychologies
Роксана Шатуновская Роксана Шатуновская

Роксана Шатуновская, генеральный директор, идеолог и сердце Новой Голландии

Собака.ru
Оборотная сторона солнца Оборотная сторона солнца

Активное Солнце может спровоцировать нарушения пигментации

Здоровье
Audi e-tron Sportback: история о том, как немцы в фару проектор запихнули Audi e-tron Sportback: история о том, как немцы в фару проектор запихнули

В Россию приехал второй электрический автомобиль от Audi — e-tron Sportback

Популярная механика
Открыть в приложении