Отрывок из книги «IT как оружие» о том, как IT-индустрия изменила наш мир

Inc.Культура

IT как оружие: нужно ли нам защищать свои лица так же, как мы защищаем свои счета

Кэрол Энн Браун, директор по коммуникациям и внешним связям в Microsoft. Брэд Смит, президент Microsoft 

«Возможность собирать огромные объёмы данных о пользователях — это палка о двух концах. С одной стороны, правительства, компании и частные лица получают возможность принимать более эффективные решения. С другой — это вызывает серьёзные вопросы о том, каким именно образом персональные данные должны использоваться, чтобы не нарушить право людей на неприкосновенность частной жизни», — написал Билл Гейтс в предисловии к книге президента Microsoft Брэда Смита. Брэд Смит рассказывает о том, как IT-индустрия изменила наш мир и что должны делать компании, чтобы помочь решить те проблемы, которые они создают. Его книга «IT как оружие. Какие опасности таит в себе развитие высоких технологий» вышла в ноябре в издательстве «Альпина Паблишер». Inc. публикует отрывок с сокращениями.

В фильме Стивена Спилберга 2002 года «Особое мнение» герой Тома Круза заходит в магазин Gap. Там действует технология, которая распознаёт каждого входящего покупателя и сразу начинает демонстрировать на экране одежду, которая предположительно должна понравиться ему. Одним такой уровень обслуживания может понравиться. Другим он может показаться навязчивым и даже неприятным. Короче говоря, посещение магазина начинает напоминать просмотр веб-страниц, после которого социальные сети подсовывают новую рекламу того, чем вы только что интересовались.

В «Особом мнении» Спилберг просил зрителей задуматься о том, что последствия применения технологий двоякие, — с одной стороны, они позволяют предотвращать преступления до того, как они будут осуществлены, а с другой — приводят к нарушению прав людей, когда что-то идёт не так. Система, которая опознаёт Круза в магазине Gap, получает информацию из чипа, вживлённого в его тело. Однако технический прогресс в первые два десятилетия XXI в. превосходит даже воображение Спилберга, поскольку в наши дни чипы уже не требуются. Технология распознавания лиц, опирающаяся на машинное зрение, данные в облаке и ИИ, позволяет идентифицировать покупателей на основе их визита в магазин на прошлой неделе или даже час назад. Она открывает для технологического сектора и правительств одну из первых возможностей ясно и однозначно определиться с подходами к вопросам этики и прав человека в сфере ИИ, приняв решение о том, как следует регулировать распознавание лиц.

То, что начиналось для большинства людей с довольно простых вещей вроде доступа к каталогам и поиску фотографий, быстро стало значительно более сложным. Уже сейчас многие полагаются на распознавание лиц, а не на пароль при разблокировании iPhone или ноутбука на Windows. И прогресс на этом не останавливается. Компьютер умеет сейчас делать то, что все мы, как люди, делаем почти с рождения — распознавать лица людей. Хотя эта способность принципиально важна для повседневной жизни, мы практически не задумываемся о том, что делает ее возможной. На самом деле наши лица так же уникальны, как и отпечатки пальцев. В число характерных черт входят расстояние между зрачками, размер носа, профиль улыбки и овал лица. Когда компьютеры используют фотографии для выделения этих черт и сведения их воедино, они создают основу для математического выражения, которое можно оценивать с помощью алгоритмов.

По всему миру эту технологию внедряют с тем, чтобы сделать нашу жизнь лучше. В некоторых случаях на нее смотрят, как на удобство для потребителей. Национальный банк Австралии разрабатывает на основе технологии распознавания лиц Microsoft систему, позволяющую безопасно снимать деньги в банкомате без предъявления пластиковой карты. Банкомат распознаёт лицо клиента, после чего можно ввести PIN-код и выполнить операцию. В других случаях выгоды от этой технологии более существенны. Например, в Национальном научно-исследовательском институте генома человека в Вашингтоне распознавание лиц помогает врачам диагностировать так называемый синдром Ди Джорджи, или синдром делеции хромосомы 22q11.2. Это заболевание чаще всего поражает жителей Африки, Азии и Латинской Америки. Оно может вызывать ряд серьёзных проблем со здоровьем, включая нарушение функций сердца и почек. При этом его нередко можно диагностировать с помощью компьютерных систем по незначительным изменениям черт лица.

Описанные сценарии показывают, как именно распознавание лиц может использоваться с пользой для общества. Это — новый инструмент XXI в. Как и многие другие инструменты, впрочем, его можно также превратить в оружие. Правительство может использовать распознавание лиц для идентификации тех, кто участвует в мирном митинге, а потом преследовать их и, таким образом, подавлять свободу слова и собраний. Даже в демократическом обществе полиция может чрезмерно полагаться на этот инструмент при идентификации подозреваемых, забывая о том, что распознавание лиц, как и любая другая технология, не всегда работает идеально. По этим причинам распознавание лиц тесно переплетается с более широкими политическими и социальными аспектами и вызывает принципиально важный вопрос: какую роль, с нашей точки зрения, эта форма искусственного интеллекта должна играть в обществе?

Некоторое представление о том, что нас ждет, мы неожиданно получили летом 2018 г. в связи с одной из самых злободневных политических тем того сезона. В июне один из жителей Вирджинии, называвший себя «свободным разработчиком софта», вдруг сильно заинтересовался более широкими политическими вопросами. Он опубликовал ряд твитов о контракте Microsoft с Бюро иммиграционного и таможенного контроля США (ICE), основываясь на истории, которая была опубликована в маркетинговом блоге компании в январе. Честно говоря, об этом посте в компании давно забыли. В нем говорилось о том, что технология Microsoft, созданная для ICE, отвечает высоким требованиям по безопасности и принята для внедрения. Кроме того, отмечалось, что компания гордится своим сотрудничеством с бюро, перед которым теперь открывается возможность использовать технологию распознавания лиц.

В июне 2018 г. решение администрации Трампа о разлучении детей и родителей на южной границе США стало взрывной темой. На этом фоне сделанное несколько месяцев назад маркетинговое заявление, а вместе с ним и использование технологии распознавания лиц, приобрело совсем другой смысл. Людей волновало, чем может обернуться использование такой вещи, как распознавание лиц, в работе ICE и других иммиграционных ведомств. Не приведет ли это к тому, что камеры, связанные с облаком, будут идентифицировать иммигрантов на улицах городов? Не будет ли это, учитывая нынешний уровень данной технологии с присущим ему риском ошибки, приводить к задержаниям совсем не тех, кого нужно?

К обеду в Сиэтле твиты о маркетинговом блоге заполонили интернет, и наша команда по связям с общественностью в срочном порядке занялась выработкой ответа. Некоторые представители разработчиков и маркетинговой службы считали, что нам следует просто удалить пост и сказать: «Эта информация устарела и больше не имеет отношения к делу». Фрэнк Шоу, руководитель службы Microsoft по коммуникациям, три раза просил их не удалять сообщение. «Это лишь осложнит ситуацию», — говорил он. Кто-то всё же не удержался и частично удалил пост. Как и следовало ожидать, это спровоцировало новый раунд негативных отзывов. К следующему утру все извлекли очевидный урок, и пост был восстановлен в первоначальном виде. Как это нередко случается, нам пришлось разбираться с тем, что же на самом деле предусматривал контракт компании с ICE. Когда мы добрались до его сути, выяснилось, что в контракте не было ни слова об использовании технологии распознавания лиц. Microsoft, слава богу, не имела никакого отношения к проектам по разлучению детей с их семьями на границе. Контракт касался оказания ICE помощи в перемещении электронной почты, календарных графиков рассылок и документооборота в облако. Он ничем не отличался от проектов, над которыми мы работали с другими клиентами, включая государственные ведомства, в Соединённых Штатах и по всему миру. Так или иначе, возник новый спор. Некоторые предлагали вообще аннулировать этот контракт и свернуть все работы с ICE — тема использования правительством технологий захватила многих тем летом. Появилась даже группа сотрудников, которая разослала петицию за приостановку контракта с ICE. Этот вопрос даже начал будоражить технологический сектор в целом. Аналогичную активность стали проявлять работники Salesforce, разработчика облачных систем, в связи с его контрактом с таможенно-пограничной службой США. За ними последовали работники Google, заставившие компанию отказаться от проекта по разработке искусственного интеллекта для военного ведомства США. А Американский союз гражданских свобод нацелился на Amazon, поддержав её работников, которые высказывали опасения в отношении Recognition, сервиса компании по распознаванию лиц.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

От -90 до +80°C: как выглядит архитектура самых сложных для жизни мест на планете От -90 до +80°C: как выглядит архитектура самых сложных для жизни мест на планете

Анти-топ туристических направлений, чтобы вдохновиться грубыми текстурами

Inc.
Верхом на вихре Верхом на вихре

Возможное будущее гражданской авиации

Популярная механика
Как в соборе Святого Маврикия впервые сфотографировали скрытые фрески Средневековья Как в соборе Святого Маврикия впервые сфотографировали скрытые фрески Средневековья

Скрытые от глаз на протяжении столетий средневековые фрески собора в городе Анже

ТехИнсайдер
Фильм «Дорогие товарищи!» – повод обратиться к самым важным и болезненным вопросам российского общества Фильм «Дорогие товарищи!» – повод обратиться к самым важным и болезненным вопросам российского общества

В своем фильме «Дорогие товарищи!» Кончаловский неожиданно бьет по больному

GQ
Схватить, покрутить и нести на анализы: что делать, если укусил клещ Схватить, покрутить и нести на анализы: что делать, если укусил клещ

Как защищаться от клещей, и что делать, если паразит все-таки укусил

Forbes
Богатые люди более аморальны? Вот, что об этом говорит наука Богатые люди более аморальны? Вот, что об этом говорит наука

Большие деньги развращают человека... или нет?

Популярная механика
Профессор Гарвардской школы бизнеса назвал самые большие ошибки компаний, переходящих на удаленку Профессор Гарвардской школы бизнеса назвал самые большие ошибки компаний, переходящих на удаленку

Ошибки, которые совершают компании, которые переходят на удаленку

Inc.
Сон как самая большая загадка эволюции. Почему мы спим, зачем и можем ли этого не делать? (Спойлер: ученые не знают) Сон как самая большая загадка эволюции. Почему мы спим, зачем и можем ли этого не делать? (Спойлер: ученые не знают)

Что вообще такое сон, для чего он нам и почему все животные так в нем нуждаются?

Популярная механика
Сергей Лебедев: Дебютант. Первая глава романа об изобретателе смертельного советского яда Сергей Лебедев: Дебютант. Первая глава романа об изобретателе смертельного советского яда

Первая глава из книги о создателе смертельного советского яда «Дебютант»

СНОБ
Сладкая несладкая жизнь Сладкая несладкая жизнь

Учёные нашли ещё одно доказательство негативного влияния сахара на наше здоровье

Здоровье
7 фактов о техасском Мэттью по фамилии Макконахи 7 фактов о техасском Мэттью по фамилии Макконахи

Путешественник по черным дырам и настоящий детектив Мэттью Макконахи

Maxim
Археологи нашли в Старой Рязани усадьбы двух ювелиров-шахматистов XIII века Археологи нашли в Старой Рязани усадьбы двух ювелиров-шахматистов XIII века

Предметы в этих усадьбах указывают на то, что их хозяева были ювелирами

N+1
Пангея завтрашнего дня: могут ли континенты снова объединиться Пангея завтрашнего дня: могут ли континенты снова объединиться

Пангея – не единственный суперконтинент в истории Земли

Популярная механика
Разводы в британской королевской семье: письмо Елизаветы II Диане и cлёзы обеих Разводы в британской королевской семье: письмо Елизаветы II Диане и cлёзы обеих

Вспоминаем разводы членов британской королевской семьи

Cosmopolitan

Накануне своего 80-летия сэр Патрик Стюарт рассказывает о своей жизни и карьере

Playboy
Как расположить к себе собеседника — метод агентов ФБР Как расположить к себе собеседника — метод агентов ФБР

Как применить науку ведения переговоров в повседневной жизни?

Inc.
Почему психические проблемы могут казаться нам привлекательными? Почему психические проблемы могут казаться нам привлекательными?

Почему мы стремимся брать пример с героев, страдающих депрессией и зависимостями

Psychologies
Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист Тебя обманули: 7 признаков некачественного окрашивания – объясняет колорист

Как определить, что колорист сделал свою работу некачественно: 7 главных ошибок

Cosmopolitan
Преемница Мураками: что нужно знать о японской писательнице Ёко Огаве и ее романе «Полиция памяти» — эссе переводчика и востоковеда Дмитрия Коваленина Преемница Мураками: что нужно знать о японской писательнице Ёко Огаве и ее романе «Полиция памяти» — эссе переводчика и востоковеда Дмитрия Коваленина

Переводчик Дмитрий Коваленин рассуждает о творчестве писательницы Ёко Огавы

Esquire
Как стать популярным в ТикТоке и хайпануть на трендах: 9 главных правил Как стать популярным в ТикТоке и хайпануть на трендах: 9 главных правил

Сейчас в ТикТок залетают практически все — от ветеранов шоу-бизнеса до политиков

Playboy
35 лет ОС Windows: как выглядела самая первая версия ОС 35 лет ОС Windows: как выглядела самая первая версия ОС

Как пользовались Windows до того, как это стало модным

Maxim
«Услуги концентрации»: как заработать на том, что учишь людей работать «Услуги концентрации»: как заработать на том, что учишь людей работать

Как Молли Сонстенг учит людей концентрации и максимально продуктивной работе

Forbes
Apple обвинили в слежке за пользователями. Разбираемся, как этого избежать Apple обвинили в слежке за пользователями. Разбираемся, как этого избежать

Facebook следит, Google следит, неужели Apple лучше их?

Maxim
Индейцы пожевали галлюциногенного дурмана и нарисовали его цветок в пещере Индейцы пожевали галлюциногенного дурмана и нарисовали его цветок в пещере

Ученые выяснили, что спиральный узор на потолке пещеры — изображение дурмана

N+1
Измена: как переписать сценарий предков и не повторять их ошибок Измена: как переписать сценарий предков и не повторять их ошибок

Как родительская история может влиять на супружескую измену?

Psychologies
MAXIM чуть протрезвел и рецензирует фильм «Еще по одной» с Мадсом Миккельсеном MAXIM чуть протрезвел и рецензирует фильм «Еще по одной» с Мадсом Миккельсеном

В европейских городах тоже водятся пьяные физруки!

Maxim
Почему мы продолжаем отношения, которые давно пора закончить? Почему мы продолжаем отношения, которые давно пора закончить?

Причины, по которым мы остаемся в отношениях, которые нам не нужны

Cosmopolitan
Как советские моряки в 1941-м британским подводникам олениху подарили Как советские моряки в 1941-м британским подводникам олениху подарили

Дареной оленихе в зубы не смотрят!

Maxim
9 художников, которым проблемы со здоровьем не помешали добиться успеха 9 художников, которым проблемы со здоровьем не помешали добиться успеха

Художники, которых жуткие заболевания не остановили на творческом пути

GQ
10 эффектных сцен, незаслуженно вырезанных из фильмов 10 эффектных сцен, незаслуженно вырезанных из фильмов

Важные сцены, которые были отправлены в корзину, хотя они помогают понять сюжет

РБК
Открыть в приложении