Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как спит Илон Маск и сколько отдыха нужно для здоровья и продуктивности Как спит Илон Маск и сколько отдыха нужно для здоровья и продуктивности

В чем секрет Илона Маска, может ли такой режим отдыха подойти обычному человеку

РБК
Ее уже не спасти: 7 признаков того, что вам пора заменить духовку Ее уже не спасти: 7 признаков того, что вам пора заменить духовку

Признаки, сигнализирующие о том, что духовка нуждается в замене

ТехИнсайдер
Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему Давай поженимся! Разбираемся, как подтолкнуть любимого к разговору на эту тему

Вы уже вместе не один год, а предложения руки и сердца не поступало. Что делать?

Лиза
Самокаты все ближе к потолку Самокаты все ближе к потолку

Рынок кикшеринга вырастет в 1,7 раза к 2027 г

Ведомости
Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет Почему женщины бегают к тарологам в 30, а мужчины верят в теории заговора после 50 лет

Почему женщины склонны впадать в эзотерику в молодом возрасте, а мужчины в 50

Psychologies
«Картинки» натуралиста «Картинки» натуралиста

Что отражено в русских названиях птиц из семейства куликов?

Наука и жизнь
Умер Зураб Церетели: вспоминаем 11 самых грандиозных и неоднозначных работ скульптора Умер Зураб Церетели: вспоминаем 11 самых грандиозных и неоднозначных работ скульптора

Самые яркие его шедевры художника-монументалиста Зураба Церетели

Maxim
«Сейчас период повышения внутренней эффективности» «Сейчас период повышения внутренней эффективности»

Дмитрий Фосман — о перспективах развития экспорта и работе по привлечению кадров

Агроинвестор
Вячеслав Богдан: «Бизнес – это искусство вовремя отпускать» Вячеслав Богдан: «Бизнес – это искусство вовремя отпускать»

Спорт всегда был важной частью жизни сооснователя Flowwow Вячеслава Богдана

Ведомости
Суперсила любви Суперсила любви

Как чувство любви формирует нашу жизнь и влияет на развитие цивилизации?

Psychologies
Если все тряпки закончились: 5 предметов домашнего обихода, которыми можно вытирать пыль Если все тряпки закончились: 5 предметов домашнего обихода, которыми можно вытирать пыль

Чем, кроме тряпки, можно эффективно удалить пыль с любой поверхности

ТехИнсайдер
Если села батарейка Если села батарейка

20 способов восстановиться за 15 минут

Лиза
Оборона в глубоком тылу Оборона в глубоком тылу

Какие экономические решения сделали СССР страной-победителем

Эксперт
Биология на рубеже веков, или Сто лет тому вперед Биология на рубеже веков, или Сто лет тому вперед

Биология в 1900-х годах по темпам своего развития ничуть не отставала от физики

Знание – сила
Бессвязные дороги Бессвязные дороги

Как обеспечить автодороги сотовой связью без переплат

Ведомости
Город нереализованных генпланов Город нереализованных генпланов

Нижний Новгород — лоскутное одеяло из обрывков больших проектов

Weekend
Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года

Как выбрать аккумуляторный кусторез для сада?

CHIP
У себя дома У себя дома

Современный европейский интерьер с арт-объектами

SALON-Interior
Джозефу Пулицеру — 177 лет: кем был создатель главной журналистской премии Джозефу Пулицеру — 177 лет: кем был создатель главной журналистской премии

История создателя «Оскара» в журналистике — журналиста Джозефа Пулицера

Правила жизни
Дай, Джим, на счастье Дай, Джим, на счастье

Лучше не дожидаться момента, когда за покой придется воевать

VOICE
Что такое «зима искусственного интеллекта» и когда ее ждать Что такое «зима искусственного интеллекта» и когда ее ждать

Что происходит во время «зимы искусственного интеллекта»?

ТехИнсайдер
Смена сторон Смена сторон

Почему теннисисты меняют спортивное гражданство и выступают за другие страны

Ведомости
Платеж за доверие Платеж за доверие

Рынок платежных агентов все больше консолидируется вокруг банков

Ведомости
Бренд народного происхождения Бренд народного происхождения

Как в России развиваются художественные промыслы

Эксперт
Найти подругу на фитнесе: как женщины объединяются и социализируются благодаря спорту Найти подругу на фитнесе: как женщины объединяются и социализируются благодаря спорту

Как и почему вокруг занятий спортом формируются сообщества

Forbes
Впали в детство: почему рабочие взаимоотношения превращаются в семейную драму Впали в детство: почему рабочие взаимоотношения превращаются в семейную драму

Как избежать «семейных» конфликтов на работе

Forbes
Петр Ануров: Это волнующе и рискованно Петр Ануров: Это волнующе и рискованно

Как продюсер Петр Ануров выбирает проекты и собирает звёздные составы

Ведомости
Новое прочтение Новое прочтение

Современная архитектура и продуманный классический интерьер: дом в Подмосковье

SALON-Interior
Станет белее новых: как очистить маркерную доску от старых каракулей Станет белее новых: как очистить маркерную доску от старых каракулей

Как избавиться от разводов на маркерной доске и вернуть ей прежний вид?

ТехИнсайдер
Со льдом и безо льда Со льдом и безо льда

О достижениях Евгении Медведевой знают все. А чем она готова удивить в будущем?

VOICE
Открыть в приложении