Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как выглядят дочери Сталлоне, Уиллиса и других брутальных мужчин Голливуда 90-х Как выглядят дочери Сталлоне, Уиллиса и других брутальных мужчин Голливуда 90-х

Дочери брутальных мужчин Голливуда 90-х унаследовали красоту и талант отцов

Cosmopolitan
Доступная и комфортная Арктика Доступная и комфортная Арктика

Какие архитектурные новации стоит внедрять в полярных городах

Эксперт
Водяные козлы – аристократы саванн Водяные козлы – аристократы саванн

«Водяных козлов я часто встречал в восточноафриканской саванне»

Знание – сила
Эффект Дидро: почему одна покупка тянет за собой другую, и как перестать тратить лишнее? Эффект Дидро: почему одна покупка тянет за собой другую, и как перестать тратить лишнее?

Почему мы попадаем в ловушку эффекта Дидро?

VOICE
Созданы в России Созданы в России

Доля семян российской селекции в посевах приблизилась к 68%

Агроинвестор
Исследование обнаружило связь между финансами и здоровьем Исследование обнаружило связь между финансами и здоровьем

Психологи выяснили, что удовлетворенность финансами связана с лучшим здоровьем

Inc.
Какую одежду с этикеткой «стирка запрещена» можно стирать дома: мнение экспертов Какую одежду с этикеткой «стирка запрещена» можно стирать дома: мнение экспертов

Какие вещи можно привести в порядок дома, а какую лучше доверить профессионалам

VOICE
Социальные круги: почему мы не можем дружить со всеми Социальные круги: почему мы не можем дружить со всеми

Отрывок из книги «Homo Amicus. Деловой человек в поисках друга»

Forbes
Джинсовая революция Джинсовая революция

Как бренд Guess однажды навсегда изменил всю джинсовую индустрию

Grazia
Шебби-шик Шебби-шик

Особенности самого уютного стиля и его применение в интерьере

Лиза
Жить вместе, но порознь: почему пары не разводятся официально? Жить вместе, но порознь: почему пары не разводятся официально?

Какие причины заставляют людей сохранять брак на бумаге, но жить отдельно?

VOICE
Кочевая кузница Кочевая кузница

Путешествие в край шаманов за секретами якутских мастеров

Вокруг света
Гладкая мускулатура самолета – электродвигатели Гладкая мускулатура самолета – электродвигатели

Как выглядят авиационные электродвигатели, где установлены и как управляются?

Наука и техника
Дмитрий Ермузевич: Отличный кадр Дмитрий Ермузевич: Отличный кадр

Фотограф Дмитрий Ермузевич о магии, которая случается, когда «вылетает птичка»

Maxim
США в долгах по шею, но пока не тонут США в долгах по шею, но пока не тонут

На фоне крестового похода Трампа вопрос госдолга США приобретает особую остроту

Монокль
«Галилея археологов» «Галилея археологов»

Археологи давно борются с искушением перекопать поглубже всю Святую Землю

Знание – сила
Самый красивый кулич – у меня Самый красивый кулич – у меня

Как украсить кулич, чтобы он стал настоящим шедевром на праздничном столе?

Лиза
На высшей точке На высшей точке

В чем причины холодности женщины и как сделать наслаждение ярким

Лиза
Ножки Трампа Ножки Трампа

Как куры Америку с Европой поссорили и при чем здесь коммерческие автомобили

Автопилот
Личное пространство Личное пространство

Респектабельный интерьер в духе современной классики

SALON-Interior
Плохие словечки Плохие словечки

Как отучить ребенка от нежелательной лексики?

Лиза
Темная история Темная история

Пигментация – не просто дефект кожи. Но как от нее избавиться?

Добрые советы
Умереть по-христиански Умереть по-христиански

«Мы насилу довели его до смерти христианской»

Дилетант
Что такое духовность и как ее развивать: 6 способов Что такое духовность и как ее развивать: 6 способов

Кто может называть себя духовно богатой личностью?

Psychologies
Юаневая экзотика Юаневая экзотика

Корпорация МСП заинтересовалась юаневыми бондами малого и среднего бизнеса

Ведомости
Как сделать удаленный рабочий стол и какой софт для этого использовать Как сделать удаленный рабочий стол и какой софт для этого использовать

Как сделать подключение к удаленному рабочему столу под управлением Windows

CHIP
Верным курсом Верным курсом

Активные ингредиенты — «тяжелая артиллерия» в уходе за кожей

Лиза
ИИ предсказывает столкновения нейтронных звезд ИИ предсказывает столкновения нейтронных звезд

Команда астрономов обучила нейросеть предсказывать столкновение нейтронных звезд

ТехИнсайдер
Великая подделка Габсбургов Великая подделка Габсбургов

На надгробии Фридриха III Габсбурга выбита аббревиатура AEIOU

Дилетант
5 советов, как побороть нерешительность и довести дело до конца 5 советов, как побороть нерешительность и довести дело до конца

Нерешительность — одна из самых разочаровывающих и непродуктивных форм поведения

Inc.
Открыть в приложении