Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ешь, двигайся, спи Ешь, двигайся, спи

Как повседневные решения влияют на здоровье и долголетие

kiozk originals
Муж — не владелец. Почему мы до сих пор позволяем диктовать, как нам выглядеть Муж — не владелец. Почему мы до сих пор позволяем диктовать, как нам выглядеть

Почему в XXI веке мужчины по-прежнему диктуют нам, как выглядеть

Cosmopolitan
Неочевидные симптомы хронической усталости: не пропусти! Неочевидные симптомы хронической усталости: не пропусти!

Не можешь обойтись без сладкого и сбиваешься с мыслей?

Cosmopolitan
Личная жизнь звезд сериала «Каменская»: Яковлевой, Нагиева, Гармаша и других Личная жизнь звезд сериала «Каменская»: Яковлевой, Нагиева, Гармаша и других

Узнай, как сложились судьбы артистов, сыгравших в «Каменской»

Cosmopolitan
«Значит, ураган» Максима Семеляка: проза снаружи всех измерений «Значит, ураган» Максима Семеляка: проза снаружи всех измерений

«Значит, ураган» — биография, или серия эссе, или роман о Егоре Летове

РБК
Самая здоровая диета: почему тебе стоит попробовать пескетарианство Самая здоровая диета: почему тебе стоит попробовать пескетарианство

Пескетарианство очень похоже на средиземноморскую диету

Cosmopolitan
Десятки видов клещей, тысячи видов микробов: чем опасна домашняя пыль Десятки видов клещей, тысячи видов микробов: чем опасна домашняя пыль

Чем опасна пыль

Cosmopolitan
Разводной ключ: когда брачный договор перестает работать Разводной ключ: когда брачный договор перестает работать

Как подготовиться к разводу грамотно

Forbes
Frances McDormand Frances McDormand

Мысли Фрэнсис Макдорманд

ЖАРА Magazine
Мы устаем от своих детей, это нормально: честный рассказ о материнском выгорании Мы устаем от своих детей, это нормально: честный рассказ о материнском выгорании

Как жить с биполярным аффективным расстройством? История героини

Cosmopolitan
Как беспилотники помогают в 3D-моделировании Как беспилотники помогают в 3D-моделировании

Какую пользу принесли беспилотники для промышленности в части 3D-моделирования

Популярная механика
Сухое утопление: смертельная опасность может грозить не только в воде Сухое утопление: смертельная опасность может грозить не только в воде

Как распознать сухое утопление и что сделать, чтобы спасти пострадавшему жизнь

Cosmopolitan
Как российский малый бизнес осваивает онлайн-продажи Как российский малый бизнес осваивает онлайн-продажи

Как ограничительные меры сподвигли предпринимателей выйти в онлайн

СНОБ
Секспросвет и наказание. Как россияне сегодня воспитывают своих детей и что об этом думают психологи Секспросвет и наказание. Как россияне сегодня воспитывают своих детей и что об этом думают психологи

Можно ли наказывать детей? И когда начинать говорить с ребенком о сексе?

СНОБ
Семейские ценности Семейские ценности

Потомки старообрядцев, оказавшихся в Забайкалье в XVIII веке, сохранили веру

Вокруг света
Как научиться любить себя Как научиться любить себя

Как полюбить себя со всеми недостатками?

Cosmopolitan
Прекрасная роза! Самые яркие выходы звезд в свет в платьях с цветочным принтом Прекрасная роза! Самые яркие выходы звезд в свет в платьях с цветочным принтом

Звезды, которые вышли на красную дорожку в платьях с цветочным принтом

Cosmopolitan
4 самые частые ошибки при подъеме веса, названные экспертом 4 самые частые ошибки при подъеме веса, названные экспертом

Ошибки при подъеме веса, которые могут привести к травмам

Playboy
12 популярных фильмов, которые украли сюжет у других фильмов 12 популярных фильмов, которые украли сюжет у других фильмов

Фильмы со скопированными сюжетами, ставшие популярнее первоисточников

Maxim
Поляризацию связали с цветом для сверхбыстрой спектроскопии Поляризацию связали с цветом для сверхбыстрой спектроскопии

Физики смогли ускорить спектроскопические измерения

N+1
«Я не телепат, дорогая!»: почему мужчины не догадываются, чего мы от них ждем «Я не телепат, дорогая!»: почему мужчины не догадываются, чего мы от них ждем

Как мужчины пытаются угадать, что нам нужно, м как у них это не получается

Cosmopolitan
Ученые обнаружили, что ругательства активизируют скрытые ресурсы человека Ученые обнаружили, что ругательства активизируют скрытые ресурсы человека

Использование ненормативной лексики имеет определенный физиологический эффект

Maxim
Тайны дворца просветления: кто, как и зачем создает буддистские мандалы Тайны дворца просветления: кто, как и зачем создает буддистские мандалы

Буддизм дал миру множество интереснейших культурный феноменов

Вокруг света
Почувствуй себя героем кино: топ-10 мест для кинотуризма в России Почувствуй себя героем кино: топ-10 мест для кинотуризма в России

Места, где снимали ваши любимые фильмы

Cosmopolitan
Срочный выкуп квартиры: как не потерять деньги Срочный выкуп квартиры: как не потерять деньги

Как работает сервис срочного выкупа квартир

СНОБ
Бывший глава израильского «Яндекса» построил робота, который красит ногти дома Бывший глава израильского «Яндекса» построил робота, который красит ногти дома

Омри Моран придумал робота, который делает маникюр, после испорченного свидания

VC.RU
История Стиви: каким получился сериал История Стиви: каким получился сериал

"История Лизи" — сериал-адаптация романа Стивена Кинга по сценарию Стивена Кинга

Esquire
«Психанул и уволился»: станем ли мы от этого счастливее? «Психанул и уволился»: станем ли мы от этого счастливее?

«Бросить все и уйти в никуда» — стоит ли поддаваться такому импульсу?

Psychologies
Археологи осветили пещеру палеолитическими методами Археологи осветили пещеру палеолитическими методами

Ученые установили основные источники света, которые использовали люди палеолита

N+1
Паулина Андреева Паулина Андреева

Сценарный дебют Паулины Андреевой – Сериал «Псих» – стал сенсацией русского кино

Собака.ru
Открыть в приложении