Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Тесла Тесла

Человек из будущего

kiozk originals
Скелеты в шкафу: 12 фильмов о тайнах великих людей Скелеты в шкафу: 12 фильмов о тайнах великих людей

Эти фильмы помогут узнать больше о жизни известных людей

Cosmopolitan
Умные часы и оптогенетика нормализовали показатели глюкозы у мышей с диабетом Умные часы и оптогенетика нормализовали показатели глюкозы у мышей с диабетом

Ученые разработали клетки, способствующие выработке пептида-1

N+1
Продам энергию: рассказываем, как устроены успешные экокварталы разных стран Продам энергию: рассказываем, как устроены успешные экокварталы разных стран

Какие экологичные технологии используют в строительстве

Esquire
Полвека. Как тебе такое, Илон Маск? Малоизвестные эпизоды из жизни главы SpaceX в его день рождения Полвека. Как тебе такое, Илон Маск? Малоизвестные эпизоды из жизни главы SpaceX в его день рождения

Малоизвестные эпизоды из жизни Илона Маска, опубликованных в его биографии

СНОБ
Древний череп из Китая отнесли к «человеку-дракону» или денисовцу Древний череп из Китая отнесли к «человеку-дракону» или денисовцу

Неоднозначное исследование вызвало бурную дискуссию среди палеоантропологов

N+1
Каршеринг или лизинг. В чем плюсы длительной аренды автомобиля вместо его покупки Каршеринг или лизинг. В чем плюсы длительной аренды автомобиля вместо его покупки

Почему взять машину на время выгоднее, чем покупать в собственность?

СНОБ
Орнитологи переоткрыли скрывавшуюся 16 лет птицу из Венесуэлы Орнитологи переоткрыли скрывавшуюся 16 лет птицу из Венесуэлы

Орнитологи встречали венесуэльского москитеро всего три раза

N+1
Правила «голодных» тренировок Правила «голодных» тренировок

Одна из самых эффективных тренировок для похудения — это утреннее кардио натощак

Cosmopolitan
Муравьи-рабовладельцы утратили значительную часть генов обоняния и вкуса Муравьи-рабовладельцы утратили значительную часть генов обоняния и вкуса

Геном муравьев-рабовладельцев изменился из-за упрощения их социальной жизни

N+1
Новый взгляд на свёклу и мангольд Новый взгляд на свёклу и мангольд

Столовая свёкла признана одной из самых полезных овощных культур

Наука и жизнь
46 рецептов хорошей жизни от древних мудрецов 46 рецептов хорошей жизни от древних мудрецов

Иногда стоит вспомнить о принципах стоицизма

Psychologies
«Мы зачем-то поверили, что мы футбольная страна»: почему российская сборная проиграла на Евро-2020 «Мы зачем-то поверили, что мы футбольная страна»: почему российская сборная проиграла на Евро-2020

Чемпионат Европы 2020 просто не мог сложиться для России по-другому

Forbes
Никакой самодеятельности: косметические проблемы, с которыми нужно идти к врачу Никакой самодеятельности: косметические проблемы, с которыми нужно идти к врачу

Безобидные на первый взгляд, эти симптомы могут означать серьезные проблемы

Cosmopolitan
Как распознать в соседе маньяка. Советы психологов Как распознать в соседе маньяка. Советы психологов

Специалисты сервиса психологической помощи — как узнать маньяка?

СНОБ
Некоторые любят погорячее Некоторые любят погорячее

Герои российских фильмов, спектаклей и книг не вылезают из постели. А мы сами?

Vogue
Дом в Дагомысе Дом в Дагомысе

Резиденция в современном стиле

SALON-Interior
Как общаться с тем, кто не смотрит в глаза Как общаться с тем, кто не смотрит в глаза

Как быть, если наш визави упорно отводит взгляд?

Psychologies
«Государство должно перейти от монолога к диалогу с гражданами». Интервью с ректором РАНХиГС Владимиром Мау «Государство должно перейти от монолога к диалогу с гражданами». Интервью с ректором РАНХиГС Владимиром Мау

Почему «человекоцентричность» российского государства больше не работает

СНОБ
Слушать кино: плей-лист режиссера Слушать кино: плей-лист режиссера

Алексей Камынин рассказал, как звуки помогают ему превращать буквы в текст

Esquire
Зоологи покрасили скакунчиков косметикой и усомнились в защитной функции их узора Зоологи покрасили скакунчиков косметикой и усомнились в защитной функции их узора

Полосы и головогруди и брюшке самцов скакунчиков не спасли их от хищников

N+1
Праздник, который всегда с тобой: кто и зачем каждый год ездит на Дягилевский фестиваль Праздник, который всегда с тобой: кто и зачем каждый год ездит на Дягилевский фестиваль

Кто и зачем каждый год ездит на Дягилевский фестиваль

Seasons of life
Подлинная история «оружейного барона». Отрывок из книги Александра Гасюка о Викторе Буте Подлинная история «оружейного барона». Отрывок из книги Александра Гасюка о Викторе Буте

Отрывок из книги о Викторе Буте, обвиненном в сговоре против США

СНОБ
Явь Явь

Стрит-арт-группа «Явь» сделала знаковую работу «Терпение», которую уже закрасили

Собака.ru
Принятой за крошечного динозавра ящерице из бирманского янтаря нашли близкого родственника Принятой за крошечного динозавра ящерице из бирманского янтаря нашли близкого родственника

Бирманский янтарь — настоящая сокровищница для палеонтологов

N+1
Ученые исключили происхождение китайских домашних кошек от китайских горных кошек Ученые исключили происхождение китайских домашних кошек от китайских горных кошек

Китайские горные кошки страдают от гибридизации с домашними

N+1
Конец Запорожской Сечи Конец Запорожской Сечи

Самостоятельность казаков приносила империи слишком много проблем

Дилетант
Я хочу знать о тебе все: когда начали чипировать людей Я хочу знать о тебе все: когда начали чипировать людей

С каких пор люди активно пытаются чипировать друг друга

Популярная механика

Как понять, что человек, находящийся рядом с тобой, опасен?

Cosmopolitan
4 правила и 3 продукта для чистой кожи 4 правила и 3 продукта для чистой кожи

Диетолог о секретах чистой кожи

Cosmopolitan
Открыть в приложении