Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Переток силы Переток силы

Чем полезен российский климат для развития альтернативной энергетики

Forbes
Астрологический прогноз на новый год Астрологический прогноз на новый год

Лунный календарь на 2018 год и транзиты планет

Yoga Journal
Ты и есть мечта Ты и есть мечта

Практика для реализации высшего потенциала от мирового лидера Кундалини-йоги

Yoga Journal
Будущее наступило или нет Будущее наступило или нет

Когда у нас будут квантовые компьютеры?

РБК
Подвиг маркетолога Подвиг маркетолога

Мы собрали успешные истории бизнес-хакеров, которые нашли обходные пути

Maxim
Ниже некуда! Ниже некуда!

О чем говорит пониженная температура

Лиза
Реально ли планировать время в большом городе? Реально ли планировать время в большом городе?

Учащенное сердцебиение, то жар, то холод, несмолкающий рой мыслей в голове: «Почему ты не могла выйти на 10 минут пораньше?!», «Ну как так можно?», «Боже, как стыдно!..» Именно так многие из нас чувствуют себя при опозданиях. Можно ли предотвратить такие ситуации? Как научиться трезво оценивать свой список задач и успевать намного больше?

Psychologies

На связи с психотерапевтом – 29-летний Андрей, IT-специалист из Саратова

Psychologies
«Страсть должна не сжигать, а питать» «Страсть должна не сжигать, а питать»

Ежедневные перегрузки и ждущие решения проблемы делают для нас соблазнительной формулу «будь проще». Но психоаналитик Андрей Россохин предостерегает против крайностей.

Psychologies
Расслабить тело — успокоить душу Расслабить тело — успокоить душу

Любители бани отлично знают: стоит сходить как следует прогреться, и все волнения как рукой снимает — на некоторое время. Ведь расслабление тела напрямую связано с «расслаблением» стрессовых состояний и негативных эмоций. Какие еще есть способы «расслабить» переживания?

Psychologies
Рио Рита Рио Рита

После двух лет молчания Рита Ора выпускает альбом

Vogue
Равняйсь! Равняйсь!

Неправильный прикус и неровные зубы — проблемы не только эстетические

Добрые советы
Цифровая лихорадка Цифровая лихорадка

Биткоины, криптовалюта, блокчейн… Мир вокруг нас сошел с ума

Psychologies
Остров — чистый изумруд Остров — чистый изумруд

Рецепт – это тоже путешествие

Psychologies
Стороны Света Стороны Света

Отель месяца, Южный полюс, Майами, Рим

Tatler
Курт Воннегут «Портфель сосунка» Курт Воннегут «Портфель сосунка»

Заглавная история из книги сборника рассказов «Портфель сосунка»

Esquire
Анна Ардова: «Учусь любить себя!» Анна Ардова: «Учусь любить себя!»

Популярная актриса – о роли в спектакле, новогодних традициях и своих детях

Лиза
Бастионы просят огня Бастионы просят огня

Мексиканский Тулум как альтернатива Сен-Барту

Tatler
Ален Дюкасс Ален Дюкасс

Правила жизни ресторатора Алена Дюкасса

Esquire
«Нужно уметь прощать и доверять» «Нужно уметь прощать и доверять»

Татьяна Навка делает все с полной отдачей и высочайшим градусом ответственности

Добрые советы
Макс атакует Макс атакует

Максим Виторган — о театре и кино, вдумчивом характере и жизни с Ксенией Собчак

Vogue
Загадайте желание на Новый год правильно! Загадайте желание на Новый год правильно!

Вы наверняка слышали фразу «Опасайтесь своих желаний». А почему их стоит опасаться? Да потому что они сбываются, и далеко не всегда так, как нам бы хотелось. Как правильно загадать желание, чтобы в наступающем году получить все, о чем мечталось?

Psychologies
Sexting Sexting

Почему мне хватает секса по sms

Cosmopolitan
7 правил творческой диеты Джулии Кэмерон 7 правил творческой диеты Джулии Кэмерон

Не расставаться с тетрадкой и ручкой — вот, похоже, главный принцип необычной диеты писательницы Джулии Кэмерон. Она заметила: как только человек расцветает творчески, он преображается и физически. И предлагает несколько инструментов, основанных на письменной практике, которые помогут постройнеть. В самом деле, если мы можем едой заглушать чувства, то почему бы не сделать обратное и не заглушить аппетит словами?

Psychologies
Детское время Детское время

Наши героини открыли свое дело во время декрета

Cosmopolitan
Бекс бьет правой Бекс бьет правой

Чем живет легендарный Дэвид Бекхэм после футбольной карьеры

GQ
11 тичерз-курсов 11 тичерз-курсов

Куда пойти учиться, чтобы стать преподавателем йоги

Yoga Journal
Что говорит о вас домашняя одежда? Что говорит о вас домашняя одежда?

Мы серьезно подходим к выбору одежды для работы или торжественных событий, но дома иногда позволяем себе носить откровенно неопрятные вещи. Меж тем отношение к себе проявляется именно за закрытыми дверями. О чем свидетельствуют вещи, в которых мы ходим дома?

Psychologies
V значит Вьялицына V значит Вьялицына

Нью-йоркская квартира модели Anne V

Tatler
Не вся овсянка одинаково полезна! Не вся овсянка одинаково полезна!

Какую кашу выбрать

Домашний Очаг
Открыть в приложении