Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Что такое дрожжи и почему их не надо бояться? Что такое дрожжи и почему их не надо бояться?

Что же такое дрожжи? Как они были «одомашнены»?

Популярная механика
Лифтинг-прически Лифтинг-прически

Как омолодить овал лица при помощи укладки

Лиза
Станет белее новых: как очистить маркерную доску от старых каракулей Станет белее новых: как очистить маркерную доску от старых каракулей

Как избавиться от разводов на маркерной доске и вернуть ей прежний вид?

ТехИнсайдер
Реклама для женщин: как фемвертайзинг ломает стереотипы и увеличивает прибыль брендов Реклама для женщин: как фемвертайзинг ломает стереотипы и увеличивает прибыль брендов

Почему фемвертайзинг становится трендом

Forbes
Даниил Воробьев Даниил Воробьев

Встречайте — Даниил Воробьев, у которого почти сто работ в кино

Караван историй
Весна в облигациях Весна в облигациях

Бизнес не намерен снижать программы по капитальным инвестициям

Ведомости
«Ночные кошмары: Нарушения сна и как мы с ними живем наяву» «Ночные кошмары: Нарушения сна и как мы с ними живем наяву»

Что науке известно о галлюцинациях, связанных со сном

N+1
Ольга Ткачёва: «Старение – это прежде всего накопление повреждений и снижение возможностей организма их исправлять» Ольга Ткачёва: «Старение – это прежде всего накопление повреждений и снижение возможностей организма их исправлять»

О биологическом возрасте и секретах долгожителей

Здоровье
От «Больницы Питт» до «Терапии»: 8 лучших новых медицинских сериалов От «Больницы Питт» до «Терапии»: 8 лучших новых медицинских сериалов

Медицинские драмы переживают новую волну популярности! А вот их подборка

Forbes
Ярмарка тщеславия Ярмарка тщеславия

В детстве тебе говорили, что хвастать нехорошо, но как же всё-таки правильно?

VOICE
У берегов Антарктиды нашли «странных» морских свинок, пауков» и бабочек У берегов Антарктиды нашли «странных» морских свинок, пауков» и бабочек

Глубины Антарктиды скрывают поразительные формы жизни

ТехИнсайдер
Голодные игры: как российским компаниям выжить в борьбе за последних специалистов Голодные игры: как российским компаниям выжить в борьбе за последних специалистов

Как радикально повысить производительности труда?

Forbes
Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты! Какие ценности есть у ИИ? Ученые изучили Claude и рассказали интересные факты!

Как ИИ выражает свои «принципы» в диалогах с людьми

ТехИнсайдер
Сколько лет на самом деле было героям всем известных книг Сколько лет на самом деле было героям всем известных книг

В каком возрасте герои ощутили на себе все трудности жизни

Maxim
4 причины есть йогурт на ужин 4 причины есть йогурт на ужин

Какие преимуществ для пищеварения имеет употребление йогурта вечером

ТехИнсайдер
Бестужевы (Бестужевы-Рюмины) Бестужевы (Бестужевы-Рюмины)

Бестужевы — род с таинственным происхождением и запутанной генеалогией

Дилетант
6 главных ошибок во время весеннего расхламления: мнение экспертов 6 главных ошибок во время весеннего расхламления: мнение экспертов

Какие ошибки чаще всего совершают люди во время весеннего расхламления

VOICE
Потрясно: что такое турбулентность и почему ее не надо бояться Потрясно: что такое турбулентность и почему ее не надо бояться

Рассказываем, что такое турбулентность и почему ее совершенно не стоит бояться

ТехИнсайдер
Простой способ повысить психологическую устойчивость и настроиться на позитив Простой способ повысить психологическую устойчивость и настроиться на позитив

Одно упражнение для поддержания психологической устойчивости

Inc.
Город нереализованных генпланов Город нереализованных генпланов

Нижний Новгород — лоскутное одеяло из обрывков больших проектов

Weekend
Четко по телу Четко по телу

Как «сбросить апельсиновую корку» с кожи?

Лиза
Сделать выбор в пользу Другого Сделать выбор в пользу Другого

Почему влюбляемся не в тех и как это исправить?

Psychologies
Как Шаболовка, но в 4 раза выше: мы нашли самый высокий гиперболоид мира Как Шаболовка, но в 4 раза выше: мы нашли самый высокий гиперболоид мира

Canton Tower – самый высокий гиперболоид мира

ТехИнсайдер
Перовскитные солнечные элементы как перспективное направление зеленой энергетики Перовскитные солнечные элементы как перспективное направление зеленой энергетики

Как перовскитные солнечные элементы сделают энергетическую систему экологичнее?

Наука и техника
Почему галактики закручиваются в спирали: ученые изучили механизмы формирования звездных скоплений Почему галактики закручиваются в спирали: ученые изучили механизмы формирования звездных скоплений

Какие модели образования спиралевидных галактик выделяют учены?

ТехИнсайдер
Квазивалютный бизнес Квазивалютный бизнес

Что такое квазивалютные кредиты в китайских юанях и как они работают

Ведомости
Доходное расхождение Доходное расхождение

Как продавцы маркетплейсов объяснят расхождения в налоговых декларациях

Ведомости
«Перезапуск будущего. Как „починить“ нематериальную экономику» «Перезапуск будущего. Как „починить“ нематериальную экономику»

Связь между нематериальной экономикой и усугублением проблемы неравенства

N+1
Какую одежду с этикеткой «стирка запрещена» можно стирать дома: мнение экспертов Какую одежду с этикеткой «стирка запрещена» можно стирать дома: мнение экспертов

Какие вещи можно привести в порядок дома, а какую лучше доверить профессионалам

VOICE
Это не лень, а депрессия: 5 сигналов, что тебе нужна помощь Это не лень, а депрессия: 5 сигналов, что тебе нужна помощь

Как отличить депрессию от усталости или лени

VOICE
Открыть в приложении