Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Принудительная стерилизация и рекордные аборты: как живут женщины в Гренландии Принудительная стерилизация и рекордные аборты: как живут женщины в Гренландии

За что борются активистки Гренландии?

Forbes
Огламуренная чернуха. О российском сериале «Жиза» Огламуренная чернуха. О российском сериале «Жиза»

Стоит ли смотреть сериал о бандитской жизни детдомовцев «Жиза»

СНОБ
Искусственный снег, джакузи из обычной ванны и еще 7 необычных применений для домашнего мини-компрессора Искусственный снег, джакузи из обычной ванны и еще 7 необычных применений для домашнего мини-компрессора

Ищем забавные способы использовать домашний мини-компрессор

ТехИнсайдер
ДНК возрастом более 115 тысяч лет указала на уязвимость белых медведей перед потеплением климата ДНК возрастом более 115 тысяч лет указала на уязвимость белых медведей перед потеплением климата

Ученые выяснили, что белые медведи утратили генетическое разнообразие

N+1
Что такое дневник питания, как его вести: разбираемся вместе с диетологом Что такое дневник питания, как его вести: разбираемся вместе с диетологом

Дневник питания — это простой, но эффективный способ контролировать свой рацион

РБК
10 мифов о вредном и полезном загаре: советы врача-дерматовенеролога 10 мифов о вредном и полезном загаре: советы врача-дерматовенеролога

Развенчиваем самые популярные мифы о загаре и защитных средствах от солнца

Psychologies
Вишенка против краба Вишенка против краба

История борьбы с нейробластомой

СНОБ
Что у Китая с Тайванем? Что у Китая с Тайванем?

Почему Китайская Народная Республика и Китайская Республика не дружат?

Maxim
Свободное владение оружием: четыре аргумента против и всего один — за Свободное владение оружием: четыре аргумента против и всего один — за

Право граждан на владение оружием — это добро или зло?

Maxim
Кто такие зомби Кто такие зомби

Эволюция от послушных рабов к агрессивной нежити

Вокруг света
Ikea приняла решение уйти из России. Вспоминаем насыщенную историю компании от СССР до первого магазина в 2000-х Ikea приняла решение уйти из России. Вспоминаем насыщенную историю компании от СССР до первого магазина в 2000-х

Как Ikea появлялась на российском рынке?

Правила жизни
Вечное лето не за горами: ученые назвали природный пояс России, который скоро исчезнет Вечное лето не за горами: ученые назвали природный пояс России, который скоро исчезнет

Человечество может потерять уникальную фауну и флору

Вокруг света
Не всегда полезны для здоровья: 7 самых травмоопасных видов спорта Не всегда полезны для здоровья: 7 самых травмоопасных видов спорта

Выбирая вид спорта по душе, стоит помнить о возможных рисках

Вокруг света
Что читать летом: 10 новых книг о том, как мы живем сегодня Что читать летом: 10 новых книг о том, как мы живем сегодня

Книги, которые помогут объяснить сегодняшний день или найти в нем свое место

Правила жизни
Вспоминаем хорошие книги: 5 громких новинок научной фантастики 2018 года Вспоминаем хорошие книги: 5 громких новинок научной фантастики 2018 года

Романы, которые позволят взглянуть на фантастические варианты будущего

ТехИнсайдер
Летящие насквозь Летящие насквозь

Каждое мгновение нейтрино триллионами пронзают наши тела

Вокруг света
Трансмиссия автомобиля: виды и основные неисправности Трансмиссия автомобиля: виды и основные неисправности

Трансмиссия — один из важнейших элементов транспортного средства

РБК
Опасна ли жара для животных и как защитить собаку или кота от высокой температуры? Опасна ли жара для животных и как защитить собаку или кота от высокой температуры?

Как распознать тепловой удар у питомца и как его предотвратить?

Maxim
Идти на поводу у эмоций: почему важно слушать внутренний голос Идти на поводу у эмоций: почему важно слушать внутренний голос

На самом деле без эмоций вообще невозможно принимать решения

Psychologies
Когнитивный диссонанс: как Филлис Шлэфли строила карьеру, отрицая идеи феминизма Когнитивный диссонанс: как Филлис Шлэфли строила карьеру, отрицая идеи феминизма

Американка Филлис Шлэфли была одной из самых успешных противниц феминизма

Forbes
Как математика может спасти вашу жизнь: уравнение парашюта Как математика может спасти вашу жизнь: уравнение парашюта

Вы в падающем самолете. Без паники! Из сари вашей соседки можно сделать парашют

Вокруг света
Природа цифровой зависимости: почему мы не расстаемся с «онлайном» и как с этим быть Природа цифровой зависимости: почему мы не расстаемся с «онлайном» и как с этим быть

Почему техника стала источником новой зависимости и как этим управлять

ТехИнсайдер
Физики напрямую измерили разность фаз слабого взаимодействия у дважды странных барионов Физики напрямую измерили разность фаз слабого взаимодействия у дважды странных барионов

Новая экспериментальная техника точных тестов для CP-симметрии

N+1
Физики поймали в магнитооптическую ловушку многоатомные молекулы Физики поймали в магнитооптическую ловушку многоатомные молекулы

Первая успешная попытка захвата многоатомных молекул в магнитооптическую ловушку

N+1
Как выбрать телевизор и не потратить деньги на ветер Как выбрать телевизор и не потратить деньги на ветер

Как выбрать телевизор правильно, да еще чтобы и ролики из Youtube показывал?

ТехИнсайдер
Эмоционально живые люди: кто они и как стать таким же? Эмоционально живые люди: кто они и как стать таким же?

Психолог Лиля Град — о тех мышцах, которые действительно стоит прокачивать

Psychologies
5 полезных девайсов для тех, кто планирует автопутешествие 5 полезных девайсов для тех, кто планирует автопутешествие

Какие еще гаджеты будут полезны для самостоятельных автомобильных поездок?

CHIP
7 признаков абьюзера в отношениях 7 признаков абьюзера в отношениях

Как понять, что ваш партнер совершает насилие, пусть даже не физическое?

Psychologies
Павел Чинарев Павел Чинарев

Актер Павел Чинарев — о современном театре, Собянине и фрилансе

Собака.ru
«Ледяная диета»: этот летний тренд из США и Европы поможет скинуть до 20 кг «Ледяная диета»: этот летний тренд из США и Европы поможет скинуть до 20 кг

«Ледяная» система питания стала хитом на Западе, и тому есть причины

VOICE
Открыть в приложении