Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
Почему в токсичных отношениях мы чувствуем себя счастливыми и как из них выйти? Отрывок из книги психолога Шахиды Араби Почему в токсичных отношениях мы чувствуем себя счастливыми и как из них выйти? Отрывок из книги психолога Шахиды Араби

Отрывок из книги Шахиды Араби «Токсичные люди»

СНОБ
Юлдус Бахтиозина Юлдус Бахтиозина

Юлдус Бахтиозина ворвалась в кино. Ее дебют — сказка «Дочь рыбака»

Собака.ru
Игра Бакмана Игра Бакмана

Писатель Фредрик Бакман о том, как тренировал футбольную команду своей дочери

Esquire
Палеонтологи обнаружили следы массового вымирания акул 19 миллионов лет назад Палеонтологи обнаружили следы массового вымирания акул 19 миллионов лет назад

В раннем миоцене исчезли более 70% видов акул

N+1
9 признаков того, что рядом с вами адекватный человек 9 признаков того, что рядом с вами адекватный человек

Как понять, что вам с партнером точно по пути

Psychologies
Audi e-tron Sportback: история о том, как немцы в фару проектор запихнули Audi e-tron Sportback: история о том, как немцы в фару проектор запихнули

В Россию приехал второй электрический автомобиль от Audi — e-tron Sportback

Популярная механика
Полина Гухман Полина Гухман

Полина Гухман играет дочь Бондарчука и Хаматовой в драме «Подвиг».

Собака.ru
Как правильно загорать в солярии: 7 советов от врача Как правильно загорать в солярии: 7 советов от врача

Как загореть в солярии и не навредить себе

Cosmopolitan
Вино vs пиво: есть ли разница в опьянении и похмелье от этих напитков Вино vs пиво: есть ли разница в опьянении и похмелье от этих напитков

Правда ли, что винное похмелье тяжелее пивного?

Playboy
#glam_profashion: Гоша Карцев #glam_profashion: Гоша Карцев

Умеющий показаться суровым стилист с добрым сердцем и острым языком

Glamour
Я и моя тень: знаменитости и их домашние животные — точные копии хозяев Я и моя тень: знаменитости и их домашние животные — точные копии хозяев

Домашние животные Анастасии Решетовой, Насти Каменских и других селебрити

Cosmopolitan
5 странных приложений для знакомств 5 странных приложений для знакомств

Сервисы для знакомств, способные удивить

GQ
Совсем другая Совсем другая

Мерием Узерли — без рыжих кудрей и коварства Хюррем-султан

OK!
От Путина до Трюдо: какие правила делового гардероба диктуют главы стран От Путина до Трюдо: какие правила делового гардероба диктуют главы стран

Из чего состоит протокольный дресс-код глав разных стран?

РБК
«Отпечатки» в дипфейках выдали параметры работы создавших их нейросетей «Отпечатки» в дипфейках выдали параметры работы создавших их нейросетей

Этоn алгоритм можно использовать для отслеживания злоумышленников в сети

N+1
Они бессмертны! Топ народных секретов красоты, которые помогут тебе и сегодня Они бессмертны! Топ народных секретов красоты, которые помогут тебе и сегодня

«Бабушкины» секреты по-прежнему актуальны

Cosmopolitan
Он тебя точно простит: как мириться с разными знаками зодиака Он тебя точно простит: как мириться с разными знаками зодиака

Неважно, что именно ты сделала не так, важно знать, как теперь загладить вину

Cosmopolitan
Цель есть, а сил — нет: почему мы не можем начать действовать? Цель есть, а сил — нет: почему мы не можем начать действовать?

Почему как только мы приступаем к реализации цели, наши силы куда-то исчезают?

Psychologies
Дайсон против Дайсона Дайсон против Дайсона

Как работает сфера Дайсона

Наука и жизнь
«Дочь закрыла руками голову и лицо»: почему родители отказываются от шлепков «Дочь закрыла руками голову и лицо»: почему родители отказываются от шлепков

Почему родители в России готовы бить своих детей и к чему это приводит

Cosmopolitan
«Вы ботаник? Это прекрасно!»: Пол Грэм о том, почему «яростные ботаники» — недооценённая группа «Вы ботаник? Это прекрасно!»: Пол Грэм о том, почему «яростные ботаники» — недооценённая группа

Эти люди часто кажутся застенчивыми, но они умны и конкурентноспособны

VC.RU
Куда можно сдать старую одежду, которая тебе не нужна Куда можно сдать старую одежду, которая тебе не нужна

Минимализм и расхламление – настоящие тренды

Cosmopolitan
В балтийском янтаре обнаружили паразитирующий на муравьях гриб В балтийском янтаре обнаружили паразитирующий на муравьях гриб

Исследователи открыли новый вид паразитирующих грибов, похожих на кордицепс

N+1
Яд, пыльца и Шерлок Холмс: 5 поучительных книг о криминалистике Яд, пыльца и Шерлок Холмс: 5 поучительных книг о криминалистике

Лучший научпоп о криминальных расследованиях и тех, кто их проводит

Популярная механика
Кузина королевы и бунтарка: удивительные факты о матерях Миддлтон и Маркл Кузина королевы и бунтарка: удивительные факты о матерях Миддлтон и Маркл

О Кэрол Миддлтон и Дории Рэгланд очень мало что известно широкой общественности

Cosmopolitan
История Московского университета История Московского университета

Московский университет стал первым светским высшим учебным заведением в России

Культура.РФ
То самое белое платье, бикини и мешок из-под картошки: 10 самых знаковых модных моментов Мэрилин Монро То самое белое платье, бикини и мешок из-под картошки: 10 самых знаковых модных моментов Мэрилин Монро

Мэрилин Монро не только великая актриса, но и икона стиля

Esquire
Бриллианты, шампанское и гречка: успехи России на всемирных выставках Бриллианты, шампанское и гречка: успехи России на всемирных выставках

Какие награды получала Россия на всемирных выставках

Культура.РФ
Ученые исключили происхождение китайских домашних кошек от китайских горных кошек Ученые исключили происхождение китайских домашних кошек от китайских горных кошек

Китайские горные кошки страдают от гибридизации с домашними

N+1
Открыть в приложении