Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самые безумные и правдоподобные теории заговора про римских пап Самые безумные и правдоподобные теории заговора про римских пап

Какие теории заговора про римских пап были самыми безумными?

Maxim
Энергостратегия-2050: поддадим газу, дадим угля! Энергостратегия-2050: поддадим газу, дадим угля!

Перспективы развития топливно-энергетического комплекса России

Монокль
Исследование показало, что видеоигры не оказывают негативного влияния на мозг детей, а наоборот, повышают их IQ Исследование показало, что видеоигры не оказывают негативного влияния на мозг детей, а наоборот, повышают их IQ

Дети, активно играющие в видеоигры, имеют высокий уровень умственной активности

Inc.
Техпарад Техпарад

Выстрел «Авророй», космос на 3D-принтере и тактильные виртуальные переживания

ТехИнсайдер
Месть и немного любви: пять лучших фильмов этой весны о женщинах Месть и немного любви: пять лучших фильмов этой весны о женщинах

Рассказываем о пяти фильмах про женщин, которые стоит посмотреть

Forbes
Развитие вместо красивых отчетов Развитие вместо красивых отчетов

Как Intelligence Top 100: Global NOC & IOC отражает работу нефтегазовых компаний

Эксперт
Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне Не Казань и даже не Сочи: 10 мест в России, куда мечтают поехать в отпуск россияне

Лето не за горами: пора определяться с локацией для нового путешествия

Maxim
Татьяна Геворкян: «С годами на лице проявляются все эмоции, которые мы проживали» Татьяна Геворкян: «С годами на лице проявляются все эмоции, которые мы проживали»

Телеведущая Татьяна Геворкян о том, как выглядеть стильно без больших затрат

Здоровье
Как выбрать мойку высокого давления: основные характеристики Как выбрать мойку высокого давления: основные характеристики

Список критериев, по которым стоит выбирать мойку высокого давления

CHIP
«Галилея археологов» «Галилея археологов»

Археологи давно борются с искушением перекопать поглубже всю Святую Землю

Знание – сила
Налетели на ось: за что перевозчиков сыпучих грузов штрафуют на миллионы Налетели на ось: за что перевозчиков сыпучих грузов штрафуют на миллионы

Перевозчики сыпучих грузов сообщают о тяжелой ситуации в отрасли

Forbes
Какие были парфюмы в Древней Греции? Узнайте интересные факты! Какие были парфюмы в Древней Греции? Узнайте интересные факты!

Мир ароматов в Древней Греции был куда богаче, чем может показаться

ТехИнсайдер
IDеальное преступление IDеальное преступление

Четыре года назад «Популярная механика» опубликовала свой первый кибердетектив

ТехИнсайдер
Фактор стройности Фактор стройности

Как извлечь из клетчатки максимум пользы для организма?

Лиза
«Обогащайтесь!» «Обогащайтесь!»

От старшего брата тамбовцам остались легенды — и мрачное пророчество

Дилетант
«Мои родственники защищали Москву»: Яна Сексте впервые снялась в фильме о войне «Мои родственники защищали Москву»: Яна Сексте впервые снялась в фильме о войне

Яна Сексте — о съемках в военной драме «В списках не значился»

VOICE
Отложенный дефицит: чем чреват отказ нанимать джунов Отложенный дефицит: чем чреват отказ нанимать джунов

Почему отказ нанимать джунов — перспектива новой волны нехватки кадров

Forbes
Непонятный кодекс Непонятный кодекс

Юристы пожаловались на усложнение налоговых норм для восприятия

Ведомости
Какими бывают виды отверток и бит для шуруповертов Какими бывают виды отверток и бит для шуруповертов

Какие бывают отвертки — виды и названия наконечников, а также их размеры

CHIP
Лифтинг-прически Лифтинг-прически

Как омолодить овал лица при помощи укладки

Лиза
У берегов Антарктиды нашли «странных» морских свинок, пауков» и бабочек У берегов Антарктиды нашли «странных» морских свинок, пауков» и бабочек

Глубины Антарктиды скрывают поразительные формы жизни

ТехИнсайдер
Юродивый из Лефортова Юродивый из Лефортова

Почему смерть рэпера обсуждала вся страна и что не так с молодежной политикой?

Монокль
Диктатура и женские форумы: как жительницы Латинской Америки боролись за свои права Диктатура и женские форумы: как жительницы Латинской Америки боролись за свои права

Как латиноамериканки прошлого боролись за гендерное равенство

Forbes
Зарплатно-гендерный вопрос Зарплатно-гендерный вопрос

Удовлетворенность размером зарплаты среди мужчин и женщин практически сравнялась

Ведомости
Шляпки, розы и Симона Байлз: как скачки в Кентукки стали успешным спортивным ивентом Шляпки, розы и Симона Байлз: как скачки в Кентукки стали успешным спортивным ивентом

Как на ипподроме удалось создать яркие традиции и монетизировать их

Forbes
Мир, дружба, Мир, дружба,

Актеры Кирилл Кяро и Даниил Страхов — о дружбе, работе и “Гипнозисеˮ

Men Today
Десять цветов Десять цветов

Самые древние и почитаемые традиционные ремесла – часть культурного кода Мьянмы

Вокруг света
Система Юпитера: Ганимед и Каллисто Система Юпитера: Ганимед и Каллисто

Что делает Ганимед и Каллисто очень интересными космическими телами?

Наука и техника
Биология на рубеже веков, или Сто лет тому вперед Биология на рубеже веков, или Сто лет тому вперед

Биология в 1900-х годах по темпам своего развития ничуть не отставала от физики

Знание – сила
Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему

Вы уже вместе не один год, а предложения руки и сердца не поступало. Что делать?

Лиза
Открыть в приложении