Критика машинного разума. Пять историй Елены Никоноле
От полчищ врагов людей прошлого ограждали крепости и рвы. От квартирных воров защищали стальные двери. Бестелесный грабитель современности не боится стен и замков, его цель — наши лица и данные. Художница Елена Никоноле посвятила себя изучению новой утопии и критике интернета вещей. Она рассказала «Цифровому океану» истории...
Πpо кaмepы в туалeтaх
Когда я училась в арт-школе им. Родченко в 2013 году, у меня возникла идея интервенции: установить фейковые камеры в туалетах школы. Это был хулиганский поступок. Проект в итоге называется Big Brother. Устройства, конечно, ничего не снимали, но в них был датчик движения: когда кто-то заходил в туалет, камера начинала двигаться и загоралась лампочка. Многие были уверены, что камера работает.
Новость разлетелась очень быстро. Я ходила по школе и брала интервью — оказалось, все сразу заметили камеры. Кто-то говорил, что боится ходить в туалет, хотя камеры висели не над кабинками. Многие отмечали, что подвергают себя самоцензуре — перестают разговаривать, находясь в поле зрения объектива. Некоторые говорили о паранойе — начинали искать слежку в кабинках, подозревали, что в освежителях воздуха есть скрытые камеры. Кое-кто, наоборот, утверждал, что занимался на камеру сексом.
Затем я заменила фейковые камеры реальными. Разницы никто не заметил! Этот проект заставляет задуматься, насколько мы готовы к постоянной слежке и как быстро привыкаем к новой реальности.
Мой диплом на экономическом факультете МГУ был о постиндустриальном обществе с точки зрения нео- и постмарксистских теорий. С тех пор, наверное, у меня развился критический взгляд на цифровую трансформацию мира — в каком-то смысле мы давно живем в романе «1984» Джорджа Оруэлла. Для меня это повод говорить о слежке, распознавании лиц и краже данных.
В интернет-магазинах «шпионского» оборудования продают автоматические освежители воздуха со встроенными скрытыми камерами. Их почти невозможно отличить от обычных.
Пpo бoга из мaшины
Не очень люблю об этом говорить, но меня пытались взломать. Это было очень неприятно и заставило задуматься о безопасности наших данных и личного пространства.
После камер в школе Родченко я решила сделать вторжение, задействовав интернет вещей. Я загрузила в нейросеть 15–20 религиозных текстов разных конфессий и заставила искусственный интеллект генерировать нечто похожее. Текст производил странное впечатление: некоторые обороты выдавали нечеловеческое, машинное происхождение, но стилистика вызывала благоговение. Затем я собрала базу из IP-камер с динамиками и 100 тысяч принтеров по всему миру и заставила незащищенные паролями устройства читать и печатать сакральные тексты машины. Проект назвала deus X mchn.