Автономный режим боевых роботов может представлять опасность для человечества

ForbesHi-Tech

Бесчеловечное решение: как развитие боевых роботов достигло опасной черты

Олег Шакиров

Фото Mehmet Kaman / Anadolu Agency via Getty Images

В марте 2020 года в Ливии беспилотник без команды от человека выследил силы противника и нанес по ним удар. Инцидент, возможно, с первым известным случаем атаки ударного беспилотника без получения явного приказа от человека показывает опасность распространения автономных систем вооружений, считает консультант ПИР-центра Олег Шакиров.

В ходе военных действий в Ливии разыгрался сюжет из научной фантастики. Беспилотные летательные аппараты автономно, без команды от человека, действуя по заданной программе, выследили силы противника (подразделения, примкнувшие к командующему Ливийской национальной армии Халифе Хафтару) и нанесли по ним удар.

Это произошло еще в марте 2020 года, однако лишь спустя год об инциденте кратко написала группа экспертов ООН по Ливии — более чем в 500-страничном докладе нападению дронов уделено два предложения. В середине мая инцидент был кратко упомянут в статье правозащитной организации Human Rights Watch, затем в Бюллетене ученых-атомщиков и издании New Scientist. Благодаря публикации NY Post история наконец вышла к широкой аудитории.

Автономный режим

Внимание к, казалось бы, давнему и не имевшему видимых последствий событию легко объяснимо. Уже несколько десятилетий военные применяют ударные и разведывательные беспилотники, а также роботы, способные выполнять задачи на суше или в воде. Однако такая техника удаленно управляется человеком — в армии США дроны официально называются не беспилотными, а дистанционно пилотируемыми.

Автономные вооружения, в отличие от управляемых, действуют самостоятельно, без участия оператора. В худшем случае отсутствие человеческого контроля может привести к непредвиденным жертвам — на этой опасности делают акцент активисты, выступающие за запрет боевых роботов. Что именно может пойти не так, предсказать сложно, но вероятные сбои может представить любой, кто сталкивался с ошибками в работе сервисов на основе искусственного интеллекта, таких как интернет-поисковики, чат-боты или приложения для распознавания текста и изображений.

Примером вооружений, которые могут функционировать автономно при переключении в соответствующий режим, эксперты называют автоматическую туррель SGR-A1, разработанную компанией Samsung Techwin и используемую для охраны демилитаризованной зоны на Корейском полуострове. Сам производитель этого не признавал, утверждая, что для поражения целей необходимо участие человека. Автономный режим есть в системе противоракетной обороны «Иджис», размещаемой на американских кораблях, а также на военных базах в Европе. В этих случаях подразумевается, что оператор сознательно примет решение переключить такую систему в автономный режим и обратно.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

«Вернулась со свидания с крашем»: как соцсети развращают детей «Вернулась со свидания с крашем»: как соцсети развращают детей

Почему в соцсетях дети ведут себя вызывающе и какими могут быть последствия?

Psychologies
Исследование: 4 способа вырастить успешного ребенка Исследование: 4 способа вырастить успешного ребенка

Как матери могут помочь ребенку в успешном развитии

Inc.
От Афродиты до Мэрилин: как менялись идеалы женской красоты От Афродиты до Мэрилин: как менялись идеалы женской красоты

Идеалы женской красоты в разные эпохи

Cosmopolitan
Что смотреть летом: 12 новых сериалов, которые нельзя пропустить Что смотреть летом: 12 новых сериалов, которые нельзя пропустить

В нашей подборке - сериалы на любой вкус

Cosmopolitan
Поисковый отряд: каким получился трекер Apple AirTag Поисковый отряд: каким получился трекер Apple AirTag

Forbes протестировал AirTag: почему это важный, но неидеальный девайс

Forbes
Как зарабатывать в интернете: самые востребованные профессии и советы эксперта Как зарабатывать в интернете: самые востребованные профессии и советы эксперта

Какие профессии «перебрались» в онлайн и сложно ли их освоить?

Psychologies
Модифицированные бактерии превратили пластиковые бутылки в ванилин Модифицированные бактерии превратили пластиковые бутылки в ванилин

Модифицированная кишечная палочка переработала пластик в ванилин

N+1
Почему ты не хочешь ребенка? Почему ты не хочешь ребенка?

Первый ребенок — это последняя кукла, но что, если куклы тебе не нравились?

Cosmopolitan
Вместе до последнего вздоха: история любви Дмитрия Хворостовского и Флоранс Илли Вместе до последнего вздоха: история любви Дмитрия Хворостовского и Флоранс Илли

Вдова оперного певца Дмитрия Хворостовского вспоминает своего супруга

Cosmopolitan
«Сложные проблемы меня вдохновляют»: как Кейт Вонг стала одной из богатейших женщин мира, создав бренд электронных сигарет «Сложные проблемы меня вдохновляют»: как Кейт Вонг стала одной из богатейших женщин мира, создав бренд электронных сигарет

Желание помочь отцу — подтолкнуло Кейт Вонг запустить бренд электронных сигарет

Forbes
Любимый предатель! Лорак, Савельева и другие звезды, которые простили изменников Любимый предатель! Лорак, Савельева и другие звезды, которые простили изменников

Измена – самое болезненное испытание в отношениях даже у звезд

Cosmopolitan
Космополит от выпечки: краткая история пончика Космополит от выпечки: краткая история пончика

Путешествие по истории одного из самых космополитичных десертов – пончика

Вокруг света
Жизнь в будущем: Алина Фаркаш о том, как нам всем повезло Жизнь в будущем: Алина Фаркаш о том, как нам всем повезло

Я бы, наверное, с ума бы сошла от радости, если бы мне сейчас было пятнадцать

Cosmopolitan
Разводы, аборт и крах карьеры: драмы в жизни звезды дискотек 80-х Си Си Кетч Разводы, аборт и крах карьеры: драмы в жизни звезды дискотек 80-х Си Си Кетч

Сложная история певицы Каролины Мюллер, известной как Си Си Кетч

Cosmopolitan
«Это хорошо — хотеть большего»: миллиардер Мордашов выступил в защиту «жадности» бизнеса «Это хорошо — хотеть большего»: миллиардер Мордашов выступил в защиту «жадности» бизнеса

Богатейший миллиардер России Алексей Мордашов: жадность — это двигатель России

Forbes
Он ни в чем не виноват: как понять, что у твоего мужчины депрессия Он ни в чем не виноват: как понять, что у твоего мужчины депрессия

Если ты замечаешь, что отношения изменились в худшую сторону, причем по его вине

Cosmopolitan
Как я нанял дорогого продажника и потерял 15 млн рублей Как я нанял дорогого продажника и потерял 15 млн рублей

Отрывок из книги Сергея Лекторовича «Сначала будет страшно»

Inc.
Корректировка смыслов. Тест-драйв Porsche Panamera 2021 года Корректировка смыслов. Тест-драйв Porsche Panamera 2021 года

Porsche Panamera 2021 — самая быстрая версия в истории

РБК
Ненависть до дрожи и абсолютное обожание: к кому и почему мы их испытываем? Ненависть до дрожи и абсолютное обожание: к кому и почему мы их испытываем?

Как в раздражении и восхищении к другим увидеть свои теневые стороны

Psychologies
Кто такие «дети индиго» и куда они пропали? Кто такие «дети индиго» и куда они пропали?

Срываем покровы с самой главной загадки 2000-х

Maxim
Окно в прошлое: что такое и какие секреты хранит Чуй-Оозы Окно в прошлое: что такое и какие секреты хранит Чуй-Оозы

Горный Алтай! Каждое место здесь хранит какую-то загадку

Вокруг света
Можно ли найти жизнь на Венере и как это будет сделано Можно ли найти жизнь на Венере и как это будет сделано

Комплекс исследований, способный раскрыть историю Венеры

Популярная механика
5 мифов о кондиционерах, которым не стоит верить 5 мифов о кондиционерах, которым не стоит верить

Популярные заблуждения о кондиционерах и их вреде

CHIP
«Это было странное время»: как Джон Макафи создал антивирусную компанию, продал ее Intel и умер в тюрьме «Это было странное время»: как Джон Макафи создал антивирусную компанию, продал ее Intel и умер в тюрьме

Как жил Джон Макафи и что происходит с основанным им бизнесом?

Forbes
От Кардашьян до Бекхэма: знаменитости, помешанные на уборке От Кардашьян до Бекхэма: знаменитости, помешанные на уборке

Эти актеры и спортсмены предпочитают заниматься домашними делами самостоятельно

Cosmopolitan
13 простых способов чувствовать себя лучше, чем вчера 13 простых способов чувствовать себя лучше, чем вчера

Оздоровительные мероприятия, на которые нужно меньше пяти минут

Maxim
Он тебя точно простит: как мириться с разными знаками зодиака Он тебя точно простит: как мириться с разными знаками зодиака

Неважно, что именно ты сделала не так, важно знать, как теперь загладить вину

Cosmopolitan
Мальчики учат нас краситься: 10 самых популярных бьюти-блогеров парней Мальчики учат нас краситься: 10 самых популярных бьюти-блогеров парней

Лучшие бьюти-блогеры - мужчины, овладевшие мастерством визажа в идеале

Cosmopolitan
Время Лебедя. Летнее небо Время Лебедя. Летнее небо

С наступлением лета широко распахнуло в вышине свои крылья созвездие Лебедя

Наука и жизнь
Русский из регионов: как в разных концах России появляются регионализмы Русский из регионов: как в разных концах России появляются регионализмы

Почему люди используют регионализмы и зачем нужно их изучать

РБК
Открыть в приложении