Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

9 самых смешных и жестких шуток про звезд на шоу «Прожарка»: от Собчак и Дудя до Тимати 9 самых смешных и жестких шуток про звезд на шоу «Прожарка»: от Собчак и Дудя до Тимати

Полная свобода творчества!

Playboy
Растениеводы в поисках маржи Растениеводы в поисках маржи

На чем смогут заработать аграрии в 2025 году

Агроинвестор
«И жили они долго»: 5 наивных вопросов о долголетии «И жили они долго»: 5 наивных вопросов о долголетии

Продлевают ли жизнь брокколи? Счастливые люди живут дольше?

РБК
Петр Ануров: Это волнующе и рискованно Петр Ануров: Это волнующе и рискованно

Как продюсер Петр Ануров выбирает проекты и собирает звёздные составы

Ведомости
Созданы в России Созданы в России

Доля семян российской селекции в посевах приблизилась к 68%

Агроинвестор
10 вещей, которые нельзя стирать вместе, если ты не хочешь, чтобы они износились раньше времени 10 вещей, которые нельзя стирать вместе, если ты не хочешь, чтобы они износились раньше времени

Какие вещи никогда не следует совмещать в стиральной машине?

VOICE
От полезных советов до создания ИИ-жен: как люди используют чат-ботов От полезных советов до создания ИИ-жен: как люди используют чат-ботов

Как люди пользуются персонифицированными чат-ботами?

Inc.
Нестандартные страховки Нестандартные страховки

В страховом бизнесе развиты необычные полисы под нестандартные решения

Ведомости
Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года Секаторы на пенсию: топ-5 аккумуляторных кусторезов 2025 года

Как выбрать аккумуляторный кусторез для сада?

CHIP
Что такое дунхуа: все о китайском аниме Что такое дунхуа: все о китайском аниме

С чего пошло зарождение китайской анимации?

Maxim
Беззубый театр. Беседа на спорные темы Беззубый театр. Беседа на спорные темы

Продолжение статьи худрука Марка Розовского о современном театре

Знание – сила
Как называют самцов мухи, божьей коровки и других животных Как называют самцов мухи, божьей коровки и других животных

Как называют самцов и самок разных животных?

Maxim
Жизнь без конца Жизнь без конца

Как секс делает нас бессмертными

Men Today
Как подключить и заменить праймер на бензопиле — простая инструкция Как подключить и заменить праймер на бензопиле — простая инструкция

Инструкция, как заменить праймер на бензопиле

CHIP
Алексей Гореславский: Контент не кирпич, который просто лежит на платформе Алексей Гореславский: Контент не кирпич, который просто лежит на платформе

ИРИ – организация, которая поддерживает производство онлайн-контента

Ведомости
«Ночные кошмары: Нарушения сна и как мы с ними живем наяву» «Ночные кошмары: Нарушения сна и как мы с ними живем наяву»

Что науке известно о галлюцинациях, связанных со сном

N+1
Язык и окружающая среда: почему у одних народов больше слов для обозначения любви, а у других – для снега Язык и окружающая среда: почему у одних народов больше слов для обозначения любви, а у других – для снега

Как окружающая среда влияет на словарный запас?

ТехИнсайдер
Безвыходных ситуаций не бывает Безвыходных ситуаций не бывает

Интервью с директором Кризисного центра помощи женщинам и детям

Лиза
IDеальное преступление IDеальное преступление

Четыре года назад «Популярная механика» опубликовала свой первый кибердетектив

ТехИнсайдер
Фотосинтез — «игра с огнём» для растения Фотосинтез — «игра с огнём» для растения

Каким образом свет «питает» растение и как вызывает химические реакции?

Наука и жизнь
Вечерний спорт влияет на продолжительность сна Вечерний спорт влияет на продолжительность сна

Тренировки перед сном сильнее сказываются на состоянии сна, чем считалось ранее

ТехИнсайдер
Биология на рубеже веков, или Сто лет тому вперед Биология на рубеже веков, или Сто лет тому вперед

Биология в 1900-х годах по темпам своего развития ничуть не отставала от физики

Знание – сила
От проверки юрлица до отзывов: 13 шагов для выбора программы допобразования От проверки юрлица до отзывов: 13 шагов для выбора программы допобразования

О том, как избежать образовательных продуктов, которые не несут ценности

Forbes
Европейская оборона Европейская оборона

Между выводом американских войск и «разумной достаточностью»

Деньги
Стартапам перепало Стартапам перепало

Российский рынок венчурных инвестиций начал восстанавливаться

Деньги
Новости науки Новости науки

Обнаруженная в ранней Вселенной грандиозная галактика и другие новости науки

Знание – сила
Хуже станет всем Хуже станет всем

ВТО прогнозирует сокращение в 5 раз американо-китайской торговли

Ведомости
Робопчелу научили садиться по-комарьи Робопчелу научили садиться по-комарьи

Инженеры разработали шасси для миниатюрного орнитоптера RoboBee

N+1
Система Юпитера: Ганимед и Каллисто Система Юпитера: Ганимед и Каллисто

Что делает Ганимед и Каллисто очень интересными космическими телами?

Наука и техника
Как люди хоронят дружбу и отношения в переписках Как люди хоронят дружбу и отношения в переписках

Как цифровой мир лишает нас друг друга

Men Today
Открыть в приложении