Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 вещей, которые в жизни выглядят совсем не так, как в фильмах 5 вещей, которые в жизни выглядят совсем не так, как в фильмах

Что еще в фильме «не по-настоящему»

Maxim
Биоразлагаемый суперконденсатор напечатали на 3D-принтере Биоразлагаемый суперконденсатор напечатали на 3D-принтере

В Швейцарии напечатали биоразлагаемый суперконденсатор без металлов и пластика

N+1
Вишневый понзу, сугудай, вертолеты: что сулит вам гастротур в Норильск Вишневый понзу, сугудай, вертолеты: что сулит вам гастротур в Норильск

Гастротур в Норильск: диковинный сугудай, знаменитая нельма и ледяные просторы

Esquire
Стоит поучиться? Принципы жизни Кейт Миддлтон – о семье, питании, буллинге Стоит поучиться? Принципы жизни Кейт Миддлтон – о семье, питании, буллинге

Герцогиня Кембриджская уже давно стала для многих примером для подражания

Cosmopolitan
10 ошибок снятия макияжа, которые портят твою кожу 10 ошибок снятия макияжа, которые портят твою кожу

Снятие макияжа в домашних условиях: главные ошибки

Cosmopolitan
Куда деть ребенка летом. 3 совета от шпионов ЦРУ Куда деть ребенка летом. 3 совета от шпионов ЦРУ

Разбираться со своим ребенком на каникулах тебе придется самому. Например, так

Maxim
12 интересных фактов о домашнем тесте на беременность 12 интересных фактов о домашнем тесте на беременность

История домашнего теста на беременность

Cosmopolitan
Центр Вернике оказался необходим для формирования центра Брока Центр Вернике оказался необходим для формирования центра Брока

У женщины без височной доли речевой центр в лобной доле не сформировался

N+1
Как отстирать жирное пятно: 5 лайфхаков для спасения любимой одежды Как отстирать жирное пятно: 5 лайфхаков для спасения любимой одежды

Самые действенные средства в борьбе с жиром на одежде и пошаговая инструкция

Playboy
Перекличка в доме престарелых: 15 самых долгоживущих рок-групп Перекличка в доме престарелых: 15 самых долгоживущих рок-групп

Кто не слезает со сцены вот уже пятьдесят с гаком лет?

Maxim
Парадокс красного неба объяснили дефицитом подходящих планет и звезд Парадокс красного неба объяснили дефицитом подходящих планет и звезд

Почему Солнце не является красным карликом?

N+1
8 (по)потрясных латиноамериканских песен 8 (по)потрясных латиноамериканских песен

Эти песни были посланы свыше, чтобы ты смог скоротать начало лета под них

Maxim
Зоологи покрасили скакунчиков косметикой и усомнились в защитной функции их узора Зоологи покрасили скакунчиков косметикой и усомнились в защитной функции их узора

Полосы и головогруди и брюшке самцов скакунчиков не спасли их от хищников

N+1
Миллион долларов в месяц: на что тратит деньги Павел Дуров Миллион долларов в месяц: на что тратит деньги Павел Дуров

Павел Дуров — один из самых таинственных миллиардеров из России

РБК
Исследование: 4 способа вырастить успешного ребенка Исследование: 4 способа вырастить успешного ребенка

Как матери могут помочь ребенку в успешном развитии

Inc.
Одними губами Одними губами

Поцелуи – важный маркер отношений в паре

Cosmopolitan
Облачные обещания: как любитель игр из Перми продал Mail.ru Group стартап и «оставил не у дел» своих инвесторов Облачные обещания: как любитель игр из Перми продал Mail.ru Group стартап и «оставил не у дел» своих инвесторов

Как небольшой стартап вышел в прибыль сквозь ошибки и что грозит его основателям

Forbes
Как я познакомилась с 26-летним Миком Джаггером (и невольно его полюбила). Воспоминания Хелен Лоуренсон Как я познакомилась с 26-летним Миком Джаггером (и невольно его полюбила). Воспоминания Хелен Лоуренсон

Колонка Хелен Лоуренсон о том, как она встретилась с Миком Джаггером

Esquire
Управляющий директор «Яндекс» Тигран Худавердян — Forbes: «Мы сфокусированы на сервисе для обеих сторон маркетплейса» Управляющий директор «Яндекс» Тигран Худавердян — Forbes: «Мы сфокусированы на сервисе для обеих сторон маркетплейса»

Тигран Худавердян рассказал о структуре выручки «Яндекса» и стратегии развития

Forbes
Чем бизнесу грозит утечка пользовательских данных и как себя от этого обезопасить Чем бизнесу грозит утечка пользовательских данных и как себя от этого обезопасить

С ростом количества персональной информации в онлайне растет и угроза ее утечки

Inc.
Как правильно целоваться? Как правильно целоваться?

Чтобы довольными остались все участники процесса

GQ
Как сбросить 10 кг за месяц: можно ли быстро похудеть и не навредить здоровью Как сбросить 10 кг за месяц: можно ли быстро похудеть и не навредить здоровью

Последствия резкого похудения могут обернуться катастрофой для организма

Cosmopolitan
Певец любви Певец любви

Дима Билан — один из немногих музыкантов, кто всё это время остается «на волне»

OK!
Никакой самодеятельности: косметические проблемы, с которыми нужно идти к врачу Никакой самодеятельности: косметические проблемы, с которыми нужно идти к врачу

Безобидные на первый взгляд, эти симптомы могут означать серьезные проблемы

Cosmopolitan
Дайте с витрины Дайте с витрины

Этой осенью в США начнется большая распродажа предметов из коллекций музеев

Forbes
7 лучших научно-фантастических циклов десятилетия 7 лучших научно-фантастических циклов десятилетия

Вспоминаем лучшие фантастические циклы 2010-х годов

Популярная механика
Ветер шелестит страницами. Девять книг на лето Ветер шелестит страницами. Девять книг на лето

Сейчас лучшее время взяться, наконец, за ту самую стопку «отложенного на потом»

Seasons of life
6 успешных знаменитостей — любителей поспать 6 успешных знаменитостей — любителей поспать

Недосып — для слабаков!

Maxim
Черно-красные малюры потускнели из-за лесных пожаров Черно-красные малюры потускнели из-за лесных пожаров

Пожары заставили многих птиц сохранить сероватое оперение

N+1
Слушать кино: плей-лист режиссера Happy End Сангаджиева Слушать кино: плей-лист режиссера Happy End Сангаджиева

В плей-листе режиссера сериала Happy End — начинающие артисты и Алла Пугачева

Esquire
Открыть в приложении