Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Нудный объект желания. Почему девушки так боятся зануд Нудный объект желания. Почему девушки так боятся зануд

В жизни девушек есть две беды: целлюлит и мужчины-зануды

Maxim
Саббатикал — это маленькая жизнь: как уйти в отпуск на целый год за счет работодателя Саббатикал — это маленькая жизнь: как уйти в отпуск на целый год за счет работодателя

Как появился феномен «долгосрочного творческого отпуска»

Forbes
Как падение биткоина обрушило доходность криптоферм и чего ждать дальше Как падение биткоина обрушило доходность криптоферм и чего ждать дальше

К чему приведет падение стоимости криптовалют

Forbes
13 лучших песен о Сатане 13 лучших песен о Сатане

Люди почему-то думают, что о Дьяволе поют только металлисты

Maxim
Из глубины сердца Из глубины сердца

Откуда мы знаем, что ЭТО точно любовь?

Psychologies
Скромница разделась в ванной и покорила Европу: удивительные факты об Алсу Скромница разделась в ванной и покорила Европу: удивительные факты об Алсу

Алсу стала звездой "Евровидения", нашла свою любовь и родила троих детей

Cosmopolitan

Беременность далеко не всегда становится временем, полным радостного ожидания

VOICE
Любовь на экспорт: знаменитые россиянки, вышедшие замуж за иностранцев Любовь на экспорт: знаменитые россиянки, вышедшие замуж за иностранцев

Российские звезды, которые выбрали в мужья заграничных парней

Cosmopolitan
«Хвалите мужа и не извиняйтесь!»: секреты счастливого брака Мерил Стрип «Хвалите мужа и не извиняйтесь!»: секреты счастливого брака Мерил Стрип

Правила Мерил Стрип, которые помогли ей сохранить отношения с мужем

Cosmopolitan
Лекарство от всех болезней: что такое джаму-сок и чем он полезен Лекарство от всех болезней: что такое джаму-сок и чем он полезен

Модный тренд – индонезийский напиток джаму

Cosmopolitan
Главные плюсы езды на велосипеде (для похудения и не только) Главные плюсы езды на велосипеде (для похудения и не только)

Советы об использовании велосипедных прогулок для снижения веса и удовольствия

Playboy
Вопрос стоматологу: из чего состоит всё, чем лечат и пломбируют ваши зубы Вопрос стоматологу: из чего состоит всё, чем лечат и пломбируют ваши зубы

Какие материалы используют при лечении зубов, в чём их плюсы и минусы?

Популярная механика
Она лучше? Какие женщины заставляли музыкантов забывать о законных женах Она лучше? Какие женщины заставляли музыкантов забывать о законных женах

На кого променяли официальных жен известные мужчины

Cosmopolitan
Маленький Будда: как поездка в Бурятию научила меня любить Маленький Будда: как поездка в Бурятию научила меня любить

Ренат Давлетгильдеев о главной поездке в своей жизни

СНОБ
Тогда и сейчас: как изменились самые яркие участницы проекта «Голос» Тогда и сейчас: как изменились самые яркие участницы проекта «Голос»

Шоу «Голос» - один из самых успешных проектов на отечественном телевидении

Cosmopolitan
Любимые женщины и мужчины звезд сериала «Доктор Хаус»: Лори, Уайлд и других Любимые женщины и мужчины звезд сериала «Доктор Хаус»: Лори, Уайлд и других

Как сложилась личная жизнь актеров сериала «Доктор Хаус»

Cosmopolitan
Я опустошила свою кредитку, сидя в декрете: честный рассказ шопоголика Я опустошила свою кредитку, сидя в декрете: честный рассказ шопоголика

Наша читательница превратила свой шопоголизм в профессию

Cosmopolitan
Все о массаже гуаша: техники, эффективность и противопоказания Все о массаже гуаша: техники, эффективность и противопоказания

Почему массаж роллерами и скребками из кристаллов становится все популярнее

РБК
О чем я перестала беспокоиться, когда мне исполнилось 40 лет О чем я перестала беспокоиться, когда мне исполнилось 40 лет

О чем наши читательницы меньше переживают на пятом десятке

Psychologies
Самые убедительные оправдания, чтобы не пойти на работу! Самые убедительные оправдания, чтобы не пойти на работу!

Ну признайся: хотя бы раз в жизни ты прогуливала работу

Cosmopolitan
Нет времени объяснять: как запустить продукт просто и быстро Нет времени объяснять: как запустить продукт просто и быстро

Как запустить свой продукт тем, кто хочет сделать это просто и быстро

Inc.
Изучать непознанное: инопланетяне, йети, Атлантида, лох-несское чудовище Изучать непознанное: инопланетяне, йети, Атлантида, лох-несское чудовище

Йети, Атлантиду и инопланетян ищут не только чудаки в шапочках из фольги

Maxim
7 комедийных киноактеров и комиков, которые исполняли драматические роли 7 комедийных киноактеров и комиков, которые исполняли драматические роли

Комедийные актеры, которые блистательно справились с драматическими персонажами

Maxim
Правила знакомства в супермаркете — месте, где всегда много голодных женщин Правила знакомства в супермаркете — месте, где всегда много голодных женщин

Магазин — отличное место для знакомства

Maxim
Детский сад: 10 невозможно милых детенышей Детский сад: 10 невозможно милых детенышей

Все младенцы милые и забавные. Только некоторые растут очень быстро

Вокруг света
60 важных вопросов, которые помогут лучше узнать себя, друзей и близких 60 важных вопросов, которые помогут лучше узнать себя, друзей и близких

Как лучше понять себя и своих близких?

Psychologies
«Диана плакала, смущая королеву»: как Елизавета II относилась к принцессе «Диана плакала, смущая королеву»: как Елизавета II относилась к принцессе

Диана Спенсер позволяла себе очень личные отношения с Ее Величеством

Cosmopolitan
Ученые установили, что интеллект зависит от размера зрачка Ученые установили, что интеллект зависит от размера зрачка

Различие в размере зрачков у недалеких и умных людей видно невооруженным глазом!

Maxim
Понимай язык тела: когда тебя обманывают, а когда хотят очаровать Понимай язык тела: когда тебя обманывают, а когда хотят очаровать

Мы даже не представляем, что человек пытается сообщить, когда чешет затылок

Maxim
Явь Явь

Стрит-арт-группа «Явь» сделала знаковую работу «Терпение», которую уже закрасили

Собака.ru
Открыть в приложении