Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Добро пожаловать в машину! Добро пожаловать в машину!

Оправдана ли суета вокруг дополненной реальности

CHIP
“Я развелась, чтобы служить своему счастью” “Я развелась, чтобы служить своему счастью”

Она вышла замуж по любви, родила 11 детей и развелась

Psychologies
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Матильда против Матильды Матильда против Матильды

В середине XII века в Англии началась длительная гражданская война

Дилетант
Двоякое впечатление Двоякое впечатление

Редактор GQ два с половиной месяца занимался спортом и сидел на диете

GQ
Я и моя собака Я и моя собака

Почему они для нас так много значат?

Psychologies
5 продуктов, опасных для красоты 5 продуктов, опасных для красоты

Мы то, что мы едим. Это непреложная истина. И вроде бы все уже знают, что вредно, а что полезно, но все равно включают в рацион продукты, употребление которых негативно сказывается на внешности.

Psychologies
Ураганная энергия Ураганная энергия

Как направить в мирное русло энергию ураганов

Популярная механика
Свое, родное Свое, родное

Рецепты русской кухни

9 месяцев
Расслабить тело — успокоить душу Расслабить тело — успокоить душу

Любители бани отлично знают: стоит сходить как следует прогреться, и все волнения как рукой снимает — на некоторое время. Ведь расслабление тела напрямую связано с «расслаблением» стрессовых состояний и негативных эмоций. Какие еще есть способы «расслабить» переживания?

Psychologies
Федор Смолов Федор Смолов

Форвард рассказал, как ему удалось стать самым крутым рос­сийским футболистом

Maxim
Да, нет, знаю Да, нет, знаю

Татьяна Навка: «На Новый год я буду работать»

Glamour
Клаустрофобия Клаустрофобия

Новый пугающий рассказ от мастера психологических триллеров Марии Галиной

Playboy
Новогодние праздники: как провести их с пользой для здоровья? Новогодние праздники: как провести их с пользой для здоровья?

Как распорядиться свободным временем во время беременности

9 месяцев
Звездный билет Звездный билет

Человечество опять мечтает о Луне, куда переместятся автомобильные гонки

Quattroruote
“Cтрах или скука покажут, что вы двигаетесь не туда” “Cтрах или скука покажут, что вы двигаетесь не туда”

Как избавиться от груза прошлого и взять ответственность за свою жизнь

Psychologies
Виноваты звезды? Виноваты звезды?

С некоторыми людьми мы дружим не потому, что они нам симпатичны

Cosmopolitan
Йога как танец Йога как танец

Мы занимаемся йогой так, как будто танцуем под любимую музыку

Yoga Journal
Intel против AMD: ПК на любой бюджет Intel против AMD: ПК на любой бюджет

На каком ЦП лучше собрать нужную именно вам систему

CHIP
Майкл Дуглас и Кэтрин Зета-Джонс. Проверка на прочность Майкл Дуглас и Кэтрин Зета-Джонс. Проверка на прочность

Ни одной звезде не приходило в голову столь откровенно делиться своими секретами

Караван историй
Секреты съемок «Звездных Войн» Секреты съемок «Звездных Войн»

Все, что вы хотели знать о закулисье великой киносаги

CHIP
V значит Вьялицына V значит Вьялицына

Нью-йоркская квартира модели Anne V

Tatler
Большая энциклопедия джентльмена. Том XVIII Большая энциклопедия джентльмена. Том XVIII

Как вести себя в кругу родственников

GQ
Светлана Зейналова: «В каждом ребенке есть искра» Светлана Зейналова: «В каждом ребенке есть искра»

Самая позитивная ведущая Светлана Зейналова – о мечтах и воспитании детей

Лиза
Азбука моржа Азбука моржа

Как правильно нырнуть в прорубь. И самое главное — как из нее вынырнуть

GQ
Робот по имени Федор Робот по имени Федор

Как магнитогорская «Андроидная техника» создала робота по имени Федор

РБК
Соперница Путина. Как Ксения Собчак стала голосом оппозиции Соперница Путина. Как Ксения Собчак стала голосом оппозиции

Собчак — идеальный спарринг-партнер для власти

Forbes
Ниже некуда! Ниже некуда!

О чем говорит пониженная температура

Лиза
Зима надежды нашей Зима надежды нашей

У сборной России — великие планы и новая форма

Vogue
Хлеб на зрелища Хлеб на зрелища

10 самых важных спортивных сделок 2017 года

Forbes
Открыть в приложении