Искусственный интеллект на службе политиков

ForbesHi-Tech

ИИ массового поражения: Генри Киссинджер и Эрик Шмидт об угрозах кибервойны

Редакция Forbes

Фото Getty Images

Контроль над кибервооружением невозможен, а чем выше уровень технологического развития общества, тем более уязвимым оно становится. Кроме того, опасность искусственного интеллекта на службе политиков в том, что у него нет ни психологии, ни морали, а есть только цели и задачи. Вот что о будущем человечества, а также о проблемах, возможностях и угрозах ИИ рассказывают бывшие госсекретарь США, глава Google и директор Amazon.

У книги «Искусственный разум и новая эра человечества» (выходит в июне в издательстве «Альпина PRO») три автора: экс-госсекретарь США и лауреат Нобелевской премии мира 1973 года Генри Киссинджер, бывший CEO Google, экс-председатель совета директоров Alphabet и миллиардер Эрик Шмидт и декан Колледжа компьютерных наук имени Шварцмана в Массачусетском технологическом институте, бывший директор Amazon Дэниел Хаттенлокер. Втроем эти тяжеловесы пытаются ответить на вопрос, как трансформируется человечество и каким образом на него влияют новые технологии, в том числе в области политики и безопасности.

В книге не уточняется, все ли главы написаны тремя авторами совместно, или кто-то из них внес больший вклад в отдельные из них. Можно было бы предположить, что глава о безопасности и роли искусственного интеллекта (ИИ) в современных войнах в основном написана Киссинджером. Правда, Эрик Шмидт тоже обладает достаточно глубокими знаниями в этой области — он, например, является главой Комиссии национальной безопасности США по искусственному интеллекту и соавтором главного доклада комиссии. Forbes публикует отрывок из этой главы, посвященный теме кибероружия и проблемам, связанным с применением ИИ в ходе конфликтов.

Война в цифровую эпоху

На протяжении всей истории человечества политическое влияние нации, как правило, примерно соотносилось с ее военной мощью и стратегическими возможностями — ее потенциальной способностью наносить ущерб другим странам. Проблема, однако, в том, что равновесие, основанное на расчете силы, непостоянно и не поддерживает само себя — оно опирается прежде всего на общее понимание того, что считать силой и каковы законные границы ее применения. Соответственно, поддержание этого равновесия требует общего для всех участников системы международных отношений — особенно противников — понимания относительных возможностей и намерений государств, а также последствий агрессии. Наконец, сохранение равновесия требует фактического и признанного паритета. Когда один из участников системы непропорционально усиливает свою мощь, система попытается приспособиться — либо организуя противоборствующую силу, либо подстраиваясь к новой реальности. Если равновесие неустойчиво или не признается участниками международных отношений, риск конфликта резко возрастает. В наше время расчет равновесия стал еще более абстрактным. Причина тому — кибероружие, класс оружия с неясным статусом. В некоторых случаях кибероружие усиливает военную мощь страны тем, что эта страна не признает его использования и даже существования. Раньше, если начиналась война, сразу становилось известно, что произошло столкновение и какие стороны воюют. Противники оценивали силы участников и темп, в котором эти силы могли быть развернуты. С кибероружием все это не работает.

Даже ядерное оружие существует в обычном мире, где его развертывание может быть замечено, а его возможности определены — хотя бы приблизительно. Напротив, одно из главных свойств кибероружия — его непрозрачность, раскрытие информации о нем может в той или иной степени препятствовать его применению. Например, так называемые атаки нулевого дня используют ранее неизвестные недостатки в программном обеспечении, получая доступ к сети или системе без разрешения или ведома авторизованного пользователя. В случае распределенных DDoS-атак делается множество информационных запросов, блокирующих системы. Истинные источники атак маскируются, что затрудняет или делает невозможной идентификацию атакующего. Один из самых известных случаев промышленного саботажа с использованием кибернетических технологий — атака вируса Stuxnet, которая вывела из строя компьютеры, управлявшие иранскими ядерными разработками, — не обсуждался публично странами, которые, как считается, его осуществили. Моральные и правовые нормы предписывают использовать обычное и ядерное оружие только против военных сил и объектов. В отличие от этого, кибероружие широко воздействует на вычислительные и коммуникационные сети, часто поражая гражданские системы. Кроме того, кибероружие могут взять на вооружение другие стороны для других целей, включая использование против напавшей стороны. В некоторых отношениях это делает кибероружие похожим на биологическое или химическое оружие, которое может распространяться непреднамеренными и неизвестными способами. Во многих случаях оно воздействует на широкий срез общества, а не только на боевые цели. Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 году вскоре распространились за пределы Украины — на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. Таким образом, те самые свойства кибероружия, которые обеспечивают его эффективность, делают практически невозможным контроль над кибервооружениями. Когда участники переговоров по контролю над ядерным оружием раскрывали или описывали классы боеголовок, они не отрицали возможностей этого оружия. Переговорщикам по кибервооружениям предстоит столкнуться с интересным парадоксом — само обсуждение возможностей кибероружия может означать как его сокращение (если противник устранит уязвимости, против которых оно направлено), так и более широкое распространение (если противник скопирует его код или использует тот же принцип действия).

Эти проблемы усложняются неоднозначностью ключевых терминов и концепций. Различные формы кибервторжений, онлайн-пропаганды и информационной войны разные наблюдатели могут в тех или иных случаях назвать «кибервойной», «кибератакой» и даже «военными действиями», но этот словарь необщепринят и иногда используется непоследовательно. Одни действия, такие как вторжение в сеть для сбора информации, могут быть аналогичны традиционному шпионажу, хотя и в новых масштабах. Другие атаки, такие как цифровые кампании по вмешательству в выборы в социальных сетях, скорее относятся к пропаганде, дезинформации и политическому воздействию — но благодаря вездесущей цифровизации и сетевым платформам это возможно в более широких масштабах и с более высокой эффективностью, чем в предыдущие эпохи. Существуют также формы кибернетического воздействия, которые способны нанести физические потери, сходные с традиционными боевыми потерями. Но как выяснить, началась ли кибервойна, какова ее природа и как далеко она может зайти? Очевидно, что крупнейшие страны в настоящее время вовлечены в некий киберконфликт, природу или масштаб которого невозможно однозначно определить.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Поп-стоицизм: как античная философская школа стала модной в современном мире Поп-стоицизм: как античная философская школа стала модной в современном мире

Как учение стоиков стало трендом и причем тут КПТ?

Forbes
В Татрах обнаружили лагерь палеолитических охотников-собирателей В Татрах обнаружили лагерь палеолитических охотников-собирателей

Археологи обнаружили в Татрах лагерь палеолитических охотников-собирателей

N+1
Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу Корректировать размер скидки и определить брак: в чем ИИ поможет даже малому бизнесу

Что именно искусственный интеллект делает для бизнеса уже сегодня?

Inc.
Охлаждаемся со вкусом: 10 необычных и вкусных рецептов лимонада, которые помогут пережить жару Охлаждаемся со вкусом: 10 необычных и вкусных рецептов лимонада, которые помогут пережить жару

Десять любимых рецептов летнего лимонада

ТехИнсайдер
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Правила жизни Виктора Цоя Правила жизни Виктора Цоя

Правила жизни рок-музыканта, лидера группы "Кино" Виктора Цоя

Правила жизни
Вопрос дня: что значит быть хорошим человеком? Вопрос дня: что значит быть хорошим человеком?

Каким же должен быть хороший человек в наши дни: мнения членов клуба

СНОБ
Белка и Стрелка отправились на орбиту не одни: 5 фактов об удивительном полете животных в космос Белка и Стрелка отправились на орбиту не одни: 5 фактов об удивительном полете животных в космос

Все секреты легендарного полета Белки и Стрелки

ТехИнсайдер
Депрессия, торг, зеленый чай. Как пережить две попытки суицида и построить бизнес на успокоительных свойствах чая Депрессия, торг, зеленый чай. Как пережить две попытки суицида и построить бизнес на успокоительных свойствах чая

Как депрессия и чай могут помочь открыть свое дело

Inc.
Водное отбеливание: это щадящее летнее окрашивание покорило всех модниц ТикТока — попробуй его! Водное отбеливание: это щадящее летнее окрашивание покорило всех модниц ТикТока — попробуй его!

Модницы сошли с ума по необычной технике окрашивания!

VOICE
История Нэнси Брофи: за что автору эссе «Как убить своего мужа» дали пожизненный срок История Нэнси Брофи: за что автору эссе «Как убить своего мужа» дали пожизненный срок

Судьба писательницы Нэнси Брофи вполне может стать основой для сериала

Forbes
Физики сделали жидкий гелий одномерным Физики сделали жидкий гелий одномерным

Гелий оказался в хорошем согласии с симуляциями одномерной жидкости

N+1
Эпоха Girlboss: как ярлык «успешного успеха» мешает женщинам вести бизнес Эпоха Girlboss: как ярлык «успешного успеха» мешает женщинам вести бизнес

Почему основательницы компаний стараются уйти от гендерно-окрашенного нарратива

Forbes
Как развить самодисциплину: японские правила жизни Как развить самодисциплину: японские правила жизни

Как самодисциплина помогает японцам справляться с жизненными трудностями?

Psychologies
Как понять, что мужчина влюблен: 10 признаков Как понять, что мужчина влюблен: 10 признаков

Если мужчине нравится женщина, чем он себя выдает?

Psychologies
NASA выбрало место высадки для венерианского атмосферного зонда DAVINCI NASA выбрало место высадки для венерианского атмосферного зонда DAVINCI

Как будет проведено исследование атмосферы и поверхности Венеры

N+1
Почему некоторые люди никогда не извиняются? Тезисы из выступления американского психолога Почему некоторые люди никогда не извиняются? Тезисы из выступления американского психолога

Почему некоторым невыносимо сложно сказать «прости»?

Правила жизни
Без макияжа и спеси: первые и трогательные снепы Хадид, Клосс, Шейк и других моделей Без макияжа и спеси: первые и трогательные снепы Хадид, Клосс, Шейк и других моделей

Как выглядели кумиры мира моды на самом старте их карьеры?

VOICE
Опять вляпался: 10 популярных пятен и как их вывести раз и навсегда Опять вляпался: 10 популярных пятен и как их вывести раз и навсегда

На каждое пятно найдется свой антипятин. Изучаем!

ТехИнсайдер
5 самых популярных способов лечения похмелья, которые сделают только хуже 5 самых популярных способов лечения похмелья, которые сделают только хуже

Методы лечения похмелья, которые на самом деле не работают

Maxim
10 неожиданных привычек нашего мозга 10 неожиданных привычек нашего мозга

Порой даже человеческий мозг допускает ошибки

ТехИнсайдер
Середина девяностых. Как создавались «Детки» — фильм, лишивший невинности американский кинематограф Середина девяностых. Как создавались «Детки» — фильм, лишивший невинности американский кинематограф

Как создавался и чем запомнился фильм, лишивший невинности кинематограф США

Правила жизни
«Ей нравилось торговать»: как девушка из Техаса меняет взгляд на спортивную одежду «Ей нравилось торговать»: как девушка из Техаса меняет взгляд на спортивную одежду

Бренд Aviator Nation Пейдж Микоски взлетел во время пандемии

Forbes
«Я делала историю»: как Бетти Фридан возглавила женское движение и потом оставила его «Я делала историю»: как Бетти Фридан возглавила женское движение и потом оставила его

История феминистки Бетти Фридан, написавшей «спусковой крючок истории»

Forbes
Новые региональные проекты, которые делают горожан счастливее Новые региональные проекты, которые делают горожан счастливее

«Сноб» поговорил с основателями частных проектов в регионах

СНОБ
Правила жизни Льва Гумилева Правила жизни Льва Гумилева

Советский ученый, историк, писатель, создатель пассионарной теории этногенеза

Правила жизни
Алина Загитова собралась в политику: смотрим, кто (и с какими результатами) ее там ждет Алина Загитова собралась в политику: смотрим, кто (и с какими результатами) ее там ждет

Что успели натворить шесть известных спортсменов, ставших депутатами

Maxim
Что делать для сохранения ментального здоровья: советы и лайфхаки от психолога Что делать для сохранения ментального здоровья: советы и лайфхаки от психолога

Чувствуешь, что уже "не вывозишь"? Что же делать?

VOICE
Одна из худших машин в мире: история автомобиля Yugo Одна из худших машин в мире: история автомобиля Yugo

«Юго — это ненадолго» — шутят белградские автомобилисты

Вокруг света
Искусственный цитоскелет смог собраться в объемах клетки Искусственный цитоскелет смог собраться в объемах клетки

Ученые создали синтетический цитоскелет в объеме реальных клеток

N+1
Открыть в приложении