Я, оно и сверх-я
Заигрались… На дворе 2100 год, и уже больше 80 лет человечество использует искусственный интеллект для решения многих возникающих проблем. Рожденные когда-то в лабораториях крупнейших IT-компаний, нейросети работают буквально в каждой булочной
Создатель психоанализа Зигмунд Фрейд утверждал, что личность человека состоит из трех сущностей: осознаваемого каждым «Я», скрытого демона наших желаний «Оно» и давящего со стороны социума «Сверх-Я». На пересечении этих сил веками создавались шедевры и писалась история. Передав право на творение и принятие решений роботам, человек перестал быть мерой всех вещей и доверился виртуальной сущности без внутренних страстей и давления этики. Какое место в новом мире занимает отдельная личность, что стало с обществом и каких демонов мы передали нашим «детям» — нейросетям?
Я Пешеходы в мегаполисе идут по тротуарам почти что в ногу, шахматным конем обходя прямоугольные островки газонов. На переходе загорается красный сигнал светофора, и толпа синхронно останавливается перед зеброй. Камера на перекрестке мгновенно распознаёт единичных нарушителей, а искусственный интеллект присылает им уведомление о снятии очков социального рейтинга1.
В середине дня в курилках и зонах отдыха бизнес-центров пусто, да их почти не осталось — каждый работодатель отслеживает эффективность сотрудников с помощью искусственного интеллекта2, мониторящего нажатие клавиш, активность в чатах и лишние перерывы.
Уже в 2020 году человечество создавало 2,5 квинтиллиона байт данных в сутки, а за 80 лет цифровой поток вырос в 100 раз. Роботы-курьеры приносят горожанам корзины продуктов, идеально подобранные по вкусу и здоровью пользователя. Заболев, человек может обратиться к врачу из любой точки мира, и тот даже не спросит имя пациента: нейросеть заранее ставит диагноз по описанию жалобы и истории болезней длинной в целую жизнь. Чтобы причинять человеку добро, сервисы изучают каждый шаг пользователя и дают ему все необходимое. Ключ к удобству: отсутствие тайн — медицинских, рабочих и личных3.
К 2040-м годам власти городов начали отчитываться о нулевом уровне грабежей, изнасилований и убийств, но общий уровень преступности с каждым годом растет за счет мошенничеств. Разговор с родственниками по телефону теперь напоминает тест Тьюринга — нейросети обманщиков виртуозно имитируют голоса и образы близких, просящих перевести пару сотен кредитов. Сверять воспоминания с собеседником бесполезно4, ведь люди сами документируют каждый шаг в соцсетях.
Впрочем, сейчас далеко не всегда близкие — люди. Получающие безусловный доход безработные молодые горожане находят заботу, взаимопонимание и радость в общении с искусственным интеллектом. Амурные нейросети не ждут встреч, подарков5 (хоть и эта функция реализована в интерфейсе для сублимации заботы) и свято чтут Первый Закон Азимова: «Робот не должен причинять вред человеку».
Оно
На Кубе расположился медицинский центр для состоятельных людей, в котором главную роль в лечении пациентов играют врачи, то есть живые специалисты. Над богачами посмеиваются — известно, что нейросети замечают более тонкие закономерности в анализах и снимках больных. Благодаря революции в медицине средняя продолжительность жизни в США выросла до 125 лет. Однако, ВИП-пациенты ищут подстраховки, зная, что искусственный интеллект изредка может неверно распознать образ на снимке и выдать ложные данные по лечению. Врачи обычных клиник, не до конца понимающие механизм принятия решения,