Почему цифровая среда так плохо поддается правовой регуляции

МонокльHi-Tech

Реальное право на искусственное сознание

Какую опасность таит в себе ИИ и почему цифровая среда так плохо поддается правовой регуляции

Елена Горбачева

TASS

Не просто так визионеры Илон Маск, Стив Возняк и еще более тысячи IT-экспертов и исследователей в марте 2023 года призвали правительства всех стран мира поставить на паузу обучение мощных ИИ-систем. «Должны ли мы развивать нечеловеческие умы, которые в итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?» — вопрошают авторы воззвания в открытом письме.

Хорошая новость: понимание экспертным сообществом угроз, скрытых в ИИ, дает надежду на адаптацию. На угрозы со стороны искусственного интеллекта отреагировал в том числе глава Конституционного суда России Валерий Зорькин. В своей статье для «Российской газеты» под названием «Право и вызовы искусственного интеллекта» он описывает случаи бесконтрольного использования ИИ, которые уже стали реальностью, и рассуждает о том фатальном моменте, когда искусственный разум из объекта права превратится в субъект. Что в конце пути? Необратимое изменение представления людей о самих себе и распад человеческой идентичности, выносит суровый вердикт Зорькин.

Плохая новость: человечество по этому пути уже идет. Мир вступает в сумрачную цифровую эпоху, где правила недостаточно определенны и зыбки, а затем настанет новацен — эпоха сверхразума, уже не связанная с человечеством. Из трех сотен тысяч лет существования нашего биологического вида, право как элемент человеческой цивилизации существует лишь пять тысяч лет, а концепция прав человека — всего 250 (лет, не тысяч). Кто знает, если бы не ученые-фантасты и основанный на их произведениях кинематограф, с точки зрения права мы, возможно, даже не могли бы допустить мысль, что созданный человеком и под человека опорный конструкт вдруг распространится на что-то иное.

Пока еще есть шанс предотвратить либо хотя бы отсрочить самые страшные фантазии технопессимистов, взяв на вооружение право: ведь ИИ вполне может придумать для себя что-то другое.

В технопессимистическом сериале «Мир Дикого Запада» подробно описан мир, в котором все человечество управляется при помощи супер-ИИ «Ровоам». Его основа — предиктивная модель, которая анализирует все действия и данные человека с самого его рождения и определяет, какую нишу в обществе он будет занимать. Предсказать можно абсолютно все: одаренность, предрасположенность к какому-либо виду деятельности, характер, темперамент, количество детей в семье, склонность к совершению преступлений и даже точную дату и причину смерти. Таким образом, машина знает человека лучше, чем он сам, и лишает его свободы выбора, предлагая оптимальную с точки зрения ИИ жизненную траекторию — все ради процветания и безопасности. Тех, кто склонен к насилию, система отправляет служить «чистильщиками» для своих нужд либо перепрограммирует, используя когнитивные инструменты для создания у человека ложных воспоминаний и меняя его личность.

Фантастика? Уже нет. Отдельные элементы этой системы прямо сейчас используются по всему миру, да и до ИИ-тюрьмы, меняющей воспоминания человека за несколько минут, не так уж далеко: концепт уже разработан.

Андроид Ameca умеет правдоподобно имитировать человеческие эмоции. TASS

Виртуальные прокуроры

В США недавно разразился грандиозный скандал из-за программы под названием Cybercheck. Этой канадской разработкой на базе ИИ пользуются сотни полицейских управлений более чем в 40 странах мира. Программа анализирует открытые данные в интернете и помогает следователям устанавливать подозреваемых на основе цифровых следов и другой информации, которую могут оставлять люди и их устройства в сети. Создатели алгоритма уверяют, что он точен на 98,2%.

В 2021 году в штате Огайо двух молодых людей, Эрика Фарри и Дешона Коулмена, 21 и 17 лет от роду, арестовали спустя несколько месяцев после случившегося в городке дерзкого вооруженного ограбления и убийства. Из улик у полиции были гильзы с места преступления, выпущенные из пистолета, найденного в доме одного из подозреваемых, а также автомобиль другого, замеченный камерами наблюдения неподалеку от места убийства. По сути, улики лишь косвенные и других нет, свою вину подозреваемые отрицали, однако молодых людей все же арестовали — чуть позже, на основании отчета, выполненного искусственным интеллектом Cybercheck. Для этого алгоритм исследовал 1,1 млн гигабайт данных и связал цифровые профили молодых людей с возможными преступниками на основании попытки одного из устройств (предположительно телефона), принадлежащих кому-то из них, связаться с камерой безопасности, находящейся рядом с местом преступления.

Адвокаты обвиняемых обратили внимание на то, что в отчете отсутствовала непосредственно видеозапись убийства, а в дальнейшем выяснилось, что эксперты-криминалисты вообще не смогли найти аккаунты в социальных сетях, которые вроде как проанализировала программа. Зачем устройство пыталось выйти в сеть и присоединиться к камере? Как были проверены адреса почты, через которые это устройство было связано именно с этими людьми? Вопросов осталось слишком много, и было совершенно непонятно, на основании чего алгоритм вынес такое решение.

В ходе дальнейших разбирательств начали всплывать совсем уж удивительные подробности: выяснилось, что программное обеспечение Cybercheck вообще никогда не проходило экспертную оценку.

По итогам расследования еще одного убийства, совершенного в том же городе, другой подозреваемый, Джавион Рэнкин, также описанный искусственным интеллектом как виновник, был освобожден под подписку о невыезде, поскольку собранных доказательств было недостаточно для ареста, а судья Огайо запретил прокурорам учитывать анализ Cybercheck, ибо его создатели отказались раскрыть методологию и исходный код программного обеспечения — мол, это составляет коммерческую тайну. Не дожидаясь новых правовых казусов, подобный запрет ввели в Нью-Йорке. Теперь судебные разбирательства ждут уже саму компанию, разработавшую алгоритм.

Предиктивные полицейские

Cybercheck не единственный инструмент, используемый с благой целью повышения общественной безопасности. Решения, разрабатываемые самыми разными компаниями по всему миру, объединяет одно: полное отсутствие прозрачности — в первую очередь из-за коммерческой тайны. Этот развивающийся слишком бурно рынок пока что ускользает от открытого регулирования и общественного надзора.

А рынок, надо сказать, весьма прибыльный: разовый контракт одной только Cybercheck на использование программного обеспечения может достигать 35 тыс. долларов, и то за ограниченную по времени и количеству исследуемых дел лицензию.

В США в целом финансирование компаний, разрабатывающих ИИ, составило почти половину от 56 млрд долларов, выделенных на финансирование всех остальных технологических стартапов с апреля по июнь 2024 года.

Есть и другие технологии: например, алгоритм, известный как PredPol, — инструмент предиктивного полицейского надзора. Компанию-разработчика метко называют «Гуглом борьбы с преступностью», и пусть эффективность самого алгоритма пока что вызывает много вопросов (а в некоторых штатах программу даже обвиняли в расовых предрассудках, поскольку она почти всегда указывает на латиноамериканские и «черные» кварталы), важно совсем не это: важно, сколько данных этот алгоритм успеет накопить, как когда-то это сделал Google.

Решений в сфере предиктивного полицейского анализа (predictive crime analytics) на рынке уже немало. В их числе PCA-система от Hitachi, анализирующая данные соцсетей, продукт CommandCentral Predictive от Motorola, интегрируемый в случае необходимости с базами данных государственных записей, а также программное обеспечение Crime Insight and Prevention от IBM, учитывающее в своих прогнозах события-триггеры вроде дней выдачи зарплаты или фестивалей, прогноз погоды и активность в соцсетях. Точных данных об эффективности этих систем нет, и мы можем лишь догадываться, какое количество полицейских участков или частных агентств по всему миру пользуются подобным ПО. В рекламе IBM утверждается, будто после внедрения их системы в американском Мемфисе количество тяжких преступлений снизилось на 27%.

Согласитесь, весьма заманчивые показатели для любого чиновника.

Право в альтернативной реальности

Наконец, еще один аспект — чрезмерная и заранее не прогнозируемая активность искусственного интеллекта, а также пресекаемые — по крайней мере, пока — попытки ИИ создать обособленную от человека виртуальную реальность, альтернативную нашей.

В 2017 году боты на основе ИИ, используемые модераторами одной американской соцсети, выдумали свой собственный язык, непонятный людям: специалистов это изрядно напугало, и они отключили алгоритм.

Искусственный интеллект, который в сознании обывателя пока представляется забавным инструментом для генерации текста, расширенного поиска, веселых картинок или дипфейков со знаменитостями, уже вторгается в святая святых — область права, рискуя изменить его до неузнаваемости и как минимум подорвать доверие к мировым правовым системам.

Контент, создаваемый генеративным ИИ на основе огромных массивов информации может выглядеть очень убедительно. Так же убедительно выглядят и законы, которые, как оказалось, искусственный интеллект генерирует с такой же легкостью, как смешных котиков в костюмах разных эпох. Настолько убедительно, что сгенерированные ИИ фантазии уже проникают в судебные решения.

Так, бывший помощник Дональда Трампа адвокат Майкл Коэн, который был главным свидетелем против Трампа, якобы случайно передал своему адвокату судебные постановления, содержащие фиктивные цитаты, созданные при помощи инструмента Google Bard, которые затем проникли в официальные судебные документы.

В 2023 году в суде Нью-Йорка слушалось еще одно из известных дел, связанных с искусственным интеллектом и выдуманными им прецедентами. Начиналось оно банально: мужчина по имени Роберто Мата подал в суд на авиакомпанию Avianca за то, что во время полета стюард повредил ему колено тележкой для раздачи еды. Адвокат

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Татьяна Кравченко: «Я сейчас абсолютно довольна своим одиночеством. Не стала ни для кого музой» Татьяна Кравченко: «Я сейчас абсолютно довольна своим одиночеством. Не стала ни для кого музой»

«На третьих «Сватах» я влюбилась в Федора Добронравова. Но зря я открылась ему»

Караван историй
«Академикам-медикам не нашлось места в зале общего собрания» «Академикам-медикам не нашлось места в зале общего собрания»

Исполнилось 80 лет со дня основания медицинской академии наук СССР

Наука
После Ленина: гибель левой оппозиции После Ленина: гибель левой оппозиции

Как соратники тяжело больного Ленина начали ожесточённую борьбу за власть

Дилетант
«Извините, автор умер». Как смотреть фильмы Бергмана и Антониони «Извините, автор умер». Как смотреть фильмы Бергмана и Антониони

Чем похожи Антониони и Бергман и как правильно смотреть их фильмы?

СНОБ
«Денег нет, но вы держитесь»: 5 самых тяжелых случаев инфляции в истории «Денег нет, но вы держитесь»: 5 самых тяжелых случаев инфляции в истории

Самые тяжелые случаи инфляции с чрезвычайно высокими темпами в истории

ТехИнсайдер
Кулебяка Кулебяка

Царица русских застолий с эффектом Lego: кулебяка

КАНТРИ Русская азбука
Евгения Образцова: «Мама не раз мне говорила: «ты — борец, а это хорошее качество для балерины» Евгения Образцова: «Мама не раз мне говорила: «ты — борец, а это хорошее качество для балерины»

Выхожу на сцену и слышу за спиной: «О, пошла, пошла, смотрите-ка...»

Караван историй
Математика седьмой координаты для роботов* Математика седьмой координаты для роботов*

Перспективы и проблемы развития роботостроения в России

Монокль
Душа обязана убиться Душа обязана убиться

«Собиратель душ»: Николас Кейдж в главном хорроре года

Weekend
Из Сумрака и обратно: как «Ночной дозор» изменил российское кино 20 лет назад Из Сумрака и обратно: как «Ночной дозор» изменил российское кино 20 лет назад

Как именно и что изменила экранизация книг Сергея Лукьяненко

Правила жизни
Казахстанский хоррор «Дастур»: почему его нужно посмотреть всем, кто увлекается психологией Казахстанский хоррор «Дастур»: почему его нужно посмотреть всем, кто увлекается психологией

Каким получился дебютный фильм Куаныша Бейсекова «Дастур»?

Psychologies
Северо-восторг Северо-восторг

Открываем в России невероятные места (и учимся выговаривать их названия)

VOICE
Вещи превратятся в тряпочку: 5 видов одежды, которую строго настрого запрещено стирать вместе с остальным бельем Вещи превратятся в тряпочку: 5 видов одежды, которую строго настрого запрещено стирать вместе с остальным бельем

Какие вещи нельзя стирать вместе с остальным грязным бельем?

ТехИнсайдер
Здоровая альтернатива. 4 метода лечения, которые способны улучшить самочувствие Здоровая альтернатива. 4 метода лечения, которые способны улучшить самочувствие

Когда официальная медицина не помогает, мы прибегаем к альтернативным методам

Лиза
12 фраз, означающих, что вы эмоционально умнее большинства людей 12 фраз, означающих, что вы эмоционально умнее большинства людей

Фразы, которые отражают интеллектуальные компетенции

Maxim
Вычислить в толпе Вычислить в толпе

Какие мотивы движут преступником и можно ли распознать его в пассажиропотоке?

P.I.C. Partner In Crime
Холодец Холодец

Легкость приготовления и удобство транспортировки холодца любили еще наши предки

КАНТРИ Русская азбука
«Сначала действуйте, потом думайте» и еще 5 способов улучшить сексуальное общение «Сначала действуйте, потом думайте» и еще 5 способов улучшить сексуальное общение

Есть некоторые общие принципы, по которым строится разговор о близости в паре

Psychologies
14 цитат Камалы Харрис, которые научат бороться за лучшее, даже если все против вас 14 цитат Камалы Харрис, которые научат бороться за лучшее, даже если все против вас

Цитаты Камалы Харрис о борьбе за равенство и преодолении барьеров

Psychologies
«Маленькие белые рабовладельцы»: как табак влиял на войны, общество и моду «Маленькие белые рабовладельцы»: как табак влиял на войны, общество и моду

Как табак, вызывающий проблемы со здоровьем, стал спутником человека?

Forbes
Искусство Искусство

Экскурсия по выставке-квесту «Памятник исчезнувшей цивилизации»

Собака.ru
Диморф унаследовал валуны от Дидима Диморф унаследовал валуны от Дидима

Планетологи сравнили распределение размеров валунов на астероидах Дидим и Диморф

N+1
Еще до прочтения сжечь: почему киберпреступники не снижают фишинговую активность Еще до прочтения сжечь: почему киберпреступники не снижают фишинговую активность

Почему фишинг остается наиболее эффективным способом социальной инженерии

Forbes
Яичница-глaзунья Яичница-глaзунья

Самое простое и самое великое, что можно представить в кулинарии, – это яйцо

КАНТРИ Русская азбука
Душепарка Душепарка

В России есть свой согревающий напиток – душепарка

КАНТРИ Русская азбука
Александр Клюквин: «Никто не работает ради зрителя. Я не работаю ради зрителя» Александр Клюквин: «Никто не работает ради зрителя. Я не работаю ради зрителя»

Пауза — это хлеб с мясом у актера

Коллекция. Караван историй
В АКРА оценили длительность перегрева российской экономики В АКРА оценили длительность перегрева российской экономики

Перегрев экономики в России может пойти на спад уже в ближайшие месяцы

Forbes
Как остановить кровь: капиллярное, артериальное, венозное кровотечение Как остановить кровь: капиллярное, артериальное, венозное кровотечение

Как остановить кровотечение: от надавливания до наложения жгута

РБК
Контрреволюционер-реформатор Контрреволюционер-реформатор

Гибель Петра Столыпина стала поворотной точкой в пути России к перевороту

Дилетант
Анна на кастинге Анна на кастинге

«Тайны Карениной»: документальный сериал о киногеничности романа Льва

Weekend
Открыть в приложении