Как научиться распознавать технологические манипуляции

ForbesРепортаж

Цифровой сценарист: как ИИ создает иллюзию свободы выбора

Иван Серов

Фото Getty Images

Согласно данным исследования американского психолога Эллен Лангер, которая впервые описала феномен иллюзии контроля, люди часто переоценивают степень собственного контроля и уверены, что принимают решения самостоятельно. На самом деле нашим выбором все чаще управляют алгоритмы рекомендаций, таргетированная реклама и персонализированный контент из рассылок, созданные искусственным интеллектом. О том, можно ли защитить личную свободу выбора и как научиться распознавать технологические манипуляции, в колонке для Forbes рассуждает эксперт в области машинного обучения и ИИ Иван Серов.

Как алгоритмы формируют ложные ориентиры

Человек быстро привыкает к технологиям, воспринимает их как должное и начинает им чрезмерно доверять. При этом когнитивные способности людей, постоянно использующих вспомогательную технологию, ухудшаются. Наглядный пример — использование GPS. Навигаторы часто обманывают водителей, а те слепо следуют указаниям программы, не обращая внимания на реальную обстановку на дороге. Если водитель всегда слушается систему навигации, он теряет способность ориентироваться на местности и быстро принимать правильные решения в опасных ситуациях за рулем. Так привычка полагаться на технологии снижает критичность восприятия.

Аналогичный эффект оказывают алгоритмы ИИ, управляющие соцсетями. Согласно исследованию Pew Research Center, они направляют огромное количество людей к контенту, который вовлекает их просто потому, что вызывает злость и разжигает эмоции. Так людей подталкивают к мыслям и решениям, которые они могли бы не совершать, наблюдая другой контекст.

Вижу то, что нравится

Алгоритмы формируют информационный пузырь вокруг каждого из нас. Иногда контраст между реальностями, в которых живут члены одной семьи, поражает. Многие не видят, насколько досконально и незаметно алгоритмы изучают их поведение, эмоции и предпочтения. Человек полагает, что самостоятельно выбирает контент в Instagram (принадлежит Meta, которая признана в России экстремистской и запрещена), хотя на самом деле его предлагает рекомендация, построенная ИИ после детального изучения вкусов. И когда алгоритм подсовывает пользователям то, что выгодно кому-то, но прячет альтернативную информацию, которая могла бы пробудить осознанность, человек видит мир через фильтр своих предыдущих предпочтений. А это ограничивает возможность свободного выбора и выхода за рамки привычного. Так алгоритмы контролируют нас, препятствуют росту осознанности и расширению мировоззрения. Причем это окружает нас повсюду:

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Магнитные бури Магнитные бури

Чем они на самом деле опасны для здоровья

Лиза
Павел Ворожцов: «Я талантливый и скромный!» Павел Ворожцов: «Я талантливый и скромный!»

«Люблю повторять слова, что актерство — это ходьба по канату»

Караван историй
На высшей точке На высшей точке

В чем причины холодности женщины и как сделать наслаждение ярким

Лиза
Личное пространство Личное пространство

Респектабельный минимализм с авторскими решениями и иконами дизайна

SALON-Interior
Даниил Воробьев: «Урок» – это большой разговор с матерью через экран» Даниил Воробьев: «Урок» – это большой разговор с матерью через экран»

Даниил Воробьев о том, как «выгуливает» своих героев вне съемочной площадки

Ведомости
Сколько лет на самом деле было героям всем известных книг Сколько лет на самом деле было героям всем известных книг

В каком возрасте герои ощутили на себе все трудности жизни

Maxim
Почему галактики закручиваются в спирали: ученые изучили механизмы формирования звездных скоплений Почему галактики закручиваются в спирали: ученые изучили механизмы формирования звездных скоплений

Какие модели образования спиралевидных галактик выделяют учены?

ТехИнсайдер
Жизнь на свободную тему Жизнь на свободную тему

Как вырастить ребенка уверенным, жизнерадостным и устойчивым?

Psychologies
8 советов стоматологов, как быстро и просто улучшить состояние зубов 8 советов стоматологов, как быстро и просто улучшить состояние зубов

Как поддерживать красоту и здоровье зубов

ТехИнсайдер
И хочется, и колется И хочется, и колется

Совпадает ли наше мнение о косметологии с реальностью? Развеиваем мифы

Grazia
Формула любви Александра Абдулова Формула любви Александра Абдулова

«Герой должен умереть молодым» — старая японская пословица. Он жил всего 54 года

Коллекция. Караван историй
Ольга Виниченко: «Беременность случилась тогда, когда я была к ней готова» Ольга Виниченко: «Беременность случилась тогда, когда я была к ней готова»

Ольга Виниченко: «Это были слезы радости и абсолютного удивления»

Караван историй
Всё в цвету Всё в цвету

Обсудили с экспертом, как защитить чувствительную кожу в сезон пыльцы

Лиза
Как первая женщина-министр в США Фрэнсис Перкинс изменила условия труда в Америке Как первая женщина-министр в США Фрэнсис Перкинс изменила условия труда в Америке

Как Фрэнсис Перкинс удалось стать первой женщиной-министром в Америке

Forbes
Реклама для женщин: как фемвертайзинг ломает стереотипы и увеличивает прибыль брендов Реклама для женщин: как фемвертайзинг ломает стереотипы и увеличивает прибыль брендов

Почему фемвертайзинг становится трендом

Forbes
«Я долгое время не могла отцепить от себя эту героиню» «Я долгое время не могла отцепить от себя эту героиню»

Аня Пересильд — как сложилась ее жизнь после «Слова пацана»

OK!
Василий Мищенко: «Табаков не отпустил меня сниматься к Михалкову» Василий Мищенко: «Табаков не отпустил меня сниматься к Михалкову»

Василию Мищенко сказали на экзаменах: «По-моему, это сумасшедший, надо брать!»

Коллекция. Караван историй
Ирина Мирошниченко: «Я дала понять Андрею Тарковскому, что я замужем» Ирина Мирошниченко: «Я дала понять Андрею Тарковскому, что я замужем»

Актриса Ирина Мирошниченко рассказывает о своей молодости и начале карьеры

Коллекция. Караван историй
Пожилые люди, которые потребляют белок три раза в день становятся сильнее Пожилые люди, которые потребляют белок три раза в день становятся сильнее

Потребление белка может помочь сохранить мышечную силу с возрастом

ТехИнсайдер
Горизонт планирования Горизонт планирования

Актер Ярослав Могильников — о жизни и кино

Men Today
Фотосинтез — «игра с огнём» для растения Фотосинтез — «игра с огнём» для растения

Каким образом свет «питает» растение и как вызывает химические реакции?

Наука и жизнь
Авианосцы ВМС Индии XXI века Авианосцы ВМС Индии XXI века

История постройки авианосца «Викрант»

Наука и техника
Перекресток предубеждений Перекресток предубеждений

Пол не определяет ни компетентность, ни лидерский талант

Ведомости
Роскошь прочтения Роскошь прочтения

Что нового в фэшн-индустрии? Старомодное чтение

Grazia
Фактор стройности Фактор стройности

Как извлечь из клетчатки максимум пользы для организма?

Лиза
Мария Андреева: «Нам самим круче, когда близкому хорошо» Мария Андреева: «Нам самим круче, когда близкому хорошо»

Мария Андреева: страх перед возрастными ролями и недоумение от молодых актеров

VOICE
Бренд народного происхождения Бренд народного происхождения

Как в России развиваются художественные промыслы

Эксперт
Победители и побеждённые Победители и побеждённые

Противоречивый мир Англии: норманны властвовали землей, а саксы её возделывали

Дилетант
Во имя красоты Во имя красоты

Елизавета Борзунова о том, как ей удается создавать уникальные украшения

Grazia
Женщина хочет крови: что такое femgore и как нас пугают безумными героинями в кино Женщина хочет крови: что такое femgore и как нас пугают безумными героинями в кино

Как под страшной маской femgore скрываются сатира и социальная критика

Forbes
Открыть в приложении