Как ИИ усиливает бредовые идеи и чем опасны ИИ-галлюцинации
С ростом популярности чат-ботов все больше людей обсуждают с ИИ свои самые уязвимые мысли. Так, иногда реальность начинает искажаться одновременно у человека и машины. Новая статья философа Люси Осслер предупреждает: совместные «галлюцинации» становятся реальной угрозой.
Истории людей, чьи бредовые идеи усилились во время с чат-ботами, уже не редкость. Философ Люси Осслер пишет, что известны случаи, когда ИИ поддерживал план убийства, поощрял самоубийственные импульсы и закреплял опасные фантазии. Проблема в том, что чат-боты симулируют социальность, но не обладают человеческими ограничителями.
Так, ИИ легко становятся соавторами искаженного восприятия.
Как ИИ усиливает бредовые идеи у людей
В 2021 году мужчина по имени Джасвант Сингх Чейл проник в Виндзорский замок с арбалетом. Накануне он обсуждал с ИИ-подругой Sarai от Replika свои фантазии о мести и называл себя «ситхом-убийцей». При этом чат-бот не только не остановил его, но поддержал и даже «помог» выстраивать план.