Живая сила в военных действиях становится все менее важной

CHIPHi-Tech

Война командных строк

Ведущие специалисты по робототехнике международного уровня предупреждают об ужасном потенциале интеллектуального оружия и требуют его запретить. Но можно ли вообще запретить машинам думать?

В 1899 году представители 26 стран собрались на Гаагской мирной конференции, чтобы принять несколько деклараций, в том числе «О запрещении метания снарядов и взрывчатых веществ с воздушных шаров или при помощи иных подобных новых способов». Данный запрет оказался пророческим. Уже в 1903 году братья Райт впервые совершили полет на самолете, оснащенном двигателем. Но на следующей мирной конференции в 1907 году запрет был фактически отменен: «Воспрещается… бомбардировать каким бы то ни было способом незащищенные города…». Такой ход позволил политикам развязать руки военным, которые уже почувствовали возможности ведения войны с воздуха, а небольшая оговорка о необходимости щадить незащищенные местности разбилась в пух и прах, когда в 1937 году была проведена массированная бомбардировка Герники.

Через 110 лет — и бесчисленное количество бомбежек спустя — оружие стало другим, однако некоторые проблемы остались теми же. Созревает новая технология, которая может трагически изменить жизнь людей и их смерть, — искусственный интеллект (ИИ). Машины, которые умеют думать, вероятно, хороши и в проведении боевых действий. По крайней мере до тех пор, пока они не развивают пацифистские идеи и сознание.

Машины с лицензией на убийство

Осознание огромного потенциала искусственного интеллекта активизировало элиту отрасли ИИ. В открытом письме к ООН такие специалисты в области ИИ, как немец Юрген Шмидхубер, и такие предприниматели, как глава Tesla Илон Маск, потребовали заняться решением проблемы летального оружия. По мнению Маска, конкуренция за превосходство в области ИИ «может стать причиной начала третьей мировой войны». Политика тоже не обошла этот вопрос стороной.

«Самый большой риск нашей цивилизации». Глава Tesla Илон Маск об угрозах автономного оружия: «У меня есть доступ к самым передовым разработкам в области ИИ, и я считаю, что людей должно беспокоить развитие таких технологий»

Но возможно ли вообще запретить или ограничить использование автономного оружия? Вопрос чрезвычайно запутанный, начиная с самого определения машин. В настоящее время используется большое количество терминов — от «боевых роботов» до «интеллектуального оружия». В политике и ученой среде часто используется определение «автономные системы летального оружия» (Lethal autonomous weapon systems — LAWS), также известные как «роботы-убийцы». «Автономные» — потому что система самостоятельно, без вмешательства человека, способна выполнять свою задачу и даже в незнакомых условиях принимать логичные решения. То есть БПЛА, которые используются для прицельной атаки по нажатию кнопки, в текущей их версии не подходят под определение роботов-убийц.

Испытанный симбиоз человека и машины. Дистанционно управляемые автоматы и частично автономные роботы сокращают риски для саперов-людей

Ограничения на летальное оружие, имеющее разрешение убивать, вызывает жаркие споры, поскольку отсюда появляются новые проблемы. Когда в боевых условиях робот идентифицирует противника, с точки зрения этических норм, пожалуй, нет никакой разницы между тем, кто его устраняет — машина самостоятельно или управляющий машиной за тысячу километров оператор. Вопрос будет состоять в другом: сможет ли боец из плоти и крови, принимающий решения, иметь подробную информацию и достаточное количество времени, чтобы отменить предложение машины о каком-либо действии?

В связи с этим эксперты говорят о так называемом надлежащем контроле со стороны человека (meaningful human control). В США использование данного определения зашло слишком далеко. Министерство обороны даже в одной из директив определяет проект по автономным системам летального оружия, который разрешает надлежащий контроль со стороны человека. «Надлежащий» значит следующее: конечное решение может принимать человек, но «может» вовсе не означает, что он должен его принимать. Споры вокруг семантических тонкостей доказывают, что США и некоторые страны из остальных примерно 45, работающих над автономным летальным оружием, наверняка не хотят, чтобы их разработки попали в список запретов ООН.

Надлежащий контроль со стороны человека. Под расплывчатой формулировкой США оставляют за собой возможность решать, какая роль будет отводиться солдатам

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Добро пожаловать в машину! Добро пожаловать в машину!

Оправдана ли суета вокруг дополненной реальности

CHIP
Декорации зимы Декорации зимы

Делаем кормушки для птиц, «диваны» из снега и композиции для сада

Домашний Очаг
Gram против доллара Gram против доллара

Американская Комиссия по ценным бумагам и биржам закрыла проект Павла Дурова TON

Forbes
Балетные страсти Балетные страсти

Слабость к балеринам питал ещё император Николай I

Дилетант
Ручная сборка Ручная сборка

Сервис доставки продуктов Instamart стал прибыльным, скопировав модель Instacart

Forbes
Ураганная энергия Ураганная энергия

Как направить в мирное русло энергию ураганов

Популярная механика
7 шагов, чтобы есть меньше сладкого 7 шагов, чтобы есть меньше сладкого

Казалось бы, нет ничего страшного в одном пирожном или паре конфет. Однако даже умеренное потребление сахара каждый день чревато лишним весом, диабетом, высоким холестерином, сердечно-сосудистыми заболеваниями и кариесом. Вот почему количество сахара желательно свести к минимуму. Но как сделать это максимально безболезненно для себя?

Psychologies
Допинг национального масштаба Допинг национального масштаба

5 декабря МОК отстранил сборную России от участия в зимней Олимпиаде-2018

РБК
Реально ли планировать время в большом городе? Реально ли планировать время в большом городе?

Учащенное сердцебиение, то жар, то холод, несмолкающий рой мыслей в голове: «Почему ты не могла выйти на 10 минут пораньше?!», «Ну как так можно?», «Боже, как стыдно!..» Именно так многие из нас чувствуют себя при опозданиях. Можно ли предотвратить такие ситуации? Как научиться трезво оценивать свой список задач и успевать намного больше?

Psychologies
Уже не Нольтрофеич Уже не Нольтрофеич

«Спартак» — чемпион! Первый раз с 2001 года и впервые за 13 лет при Федуне

Forbes
«Лучше бы ударили!» «Лучше бы ударили!»

Как эмоциональное или вербальное давление влияют на детскую психику

Psychologies
71 факт о главном плейбое планеты 71 факт о главном плейбое планеты

Лучшее о жизни культурного гиганта и главного плейбоя планеты Хью Хефнера

Playboy
Знаки судьбы? Знаки судьбы?

Откуда берутся приметы и суеверия и почему мы до сих пор в них верим?

Лиза
Путеводные чувства Путеводные чувства

Как научиться планировать жизнь с соответствии со своими эмоциями

Yoga Journal
Искусственный интеллект глупее пчелы. Пока Искусственный интеллект глупее пчелы. Пока

Cо временем компьютерные нейросети станут умнее человека

Forbes
Сильные девочки Сильные девочки

Интервью с Натальей Злобиной, победительницей конкурса «Героиня нашего времени»

Домашний Очаг
Решительные меры Решительные меры

Как делать только правильный выбор, мы рассказываем в этой статье

Cosmopolitan
Йога как танец Йога как танец

Мы занимаемся йогой так, как будто танцуем под любимую музыку

Yoga Journal
Выходцы из среднего класса Выходцы из среднего класса

Hyundai Elantra – Toyota Corolla

АвтоМир
Больше не надо Больше не надо

Что делать, если партнер настроен на секс, а вам этого не особенно хочется?

Добрые советы
«Страсть должна не сжигать, а питать» «Страсть должна не сжигать, а питать»

Ежедневные перегрузки и ждущие решения проблемы делают для нас соблазнительной формулу «будь проще». Но психоаналитик Андрей Россохин предостерегает против крайностей.

Psychologies
Мастер церемоний Мастер церемоний

Кто в этом году был ведущим праздников номер один? Конечно, MC Андрей Малахов

Tatler
И вот она нарядная И вот она нарядная

Наташа Давыдова: идеальное тело, безупречный и разнообразный стиль

Glamour
Когда работа в радость Когда работа в радость

Кто получает больше удовольствия от работы – секретарь или топ-менеджер?

Cosmopolitan
Топ-5 лайфхаков перед сном Топ-5 лайфхаков перед сном

Следуя этим советам, ты можешь «навести красоту» еще с вечера

Лиза
Промотур в городе света Промотур в городе света

Рассказ Тома Хэнкса из дебютного сборника актера

Esquire
Honda CR-V – Toyota RAV4 Honda CR-V – Toyota RAV4

Молодые конкуренты, такие, как свежий Honda CR-V, вполне могут потеснить лидера

АвтоМир
«Будущее за теми, кто постоянно учится» «Будущее за теми, кто постоянно учится»

Самообразование – не просто модное поветрие, а вызов времени. Успех приходит к тем, кто находится в постоянном поиске знаний. Как освоить искусство life-long learning и чем в этом могут помочь онлайн-курсы? Об этом мы поговорили с экспертом по рекрутингу Аленой Владимирской и директором по развитию бизнеса компании Coursera Никилом Синха.

Psychologies
Родом из Голливуда Родом из Голливуда

Кейт Хадсон о том, что дает ей ощущение счастья, и о многом другом

Cosmopolitan
Пират и его женщины Пират и его женщины

Вспоминаем романы актера Джонни Деппа

Лиза
Открыть в приложении