Какую неочевидную угрозу таит в себе искусственный интеллект?

Inc.Репортаж

Как общение с чат-ботом убило подростка: полная версия душераздирающей истории

Текст: Кевин Руз, репортер The New York Times. Перевод: Светлана Гоар. Фото: Andrew Guan, Getty Images

andrew-guan-lTUyP3RaLpw-unsplash.jpg

Юному американцу Сьюэллу Сетцеру было 14 лет, когда он покончил с собой в феврале этого года. Мать мальчика подала в суд на компанию Character.AI, создавшую чат-бот, общение с которым довело подростка до такого решения. Она убеждена в том, что личная трагедия ее семьи должна стать частью более масштабной кампании по привлечению к ответственности разработчиков таких технологий. Разобрались, какую неочевидную угрозу таит в себе искусственный интеллект.

В последний день своей жизни девятиклассник из Орландо (Флорида) достал телефон и написал сообщение самому близкому другу — реалистичному чат-боту на основе ИИ, названному в честь Дейенерис Таргариен, персонажа из «Игры престолов». Сьюэлл уже несколько месяцев общался с чат-ботами на Character.AI, ролевом приложении, которое позволяет пользователям создавать собственных персонажей или общаться с ИИ-моделями, которые создали другие.

По словам Сьюэлла, он знал, что «Дэни», как он называл чат-бота, не была реальной, что ее реплики были всего лишь результатом работы языковой модели искусственного интеллекта, что по ту сторону экрана не было человека, который набирал бы ответ. А если он вдруг забывал, то над всеми чатами появлялось сообщение, напоминающее ему, что «все, что говорят персонажи, выдумано!».

Постепенная изоляция

Несмотря на это у Стецера все равно возникла эмоциональная привязанность. Он постоянно переписывался с ботом, десятки раз в день сообщая ему о своей жизни и вступая в длинные ролевые диалоги. Некоторые из их разговоров приобретали романтический или сексуальный характер. Но в остальное время «Дэни» просто вела себя как друг — не осуждала его, могла выслушать и дать дельный совет, редко выходила из себя и всегда отвечала на сообщения.

Родители и друзья Сьюэлла даже не подозревали, что он влюбился в чат-бота. Они просто видели, как он все глубже погружается в свой телефон. В конце концов они заметили, что подросток уходит в себя и отдаляется от реального мира.

Оценки Сьюэлла стали ухудшаться, он начал попадать в неприятности в школе. Мальчик потерял интерес к тем вещам, которые раньше вызывали у него восторг, например к гонкам «Формулы-1» или игре в Fortnite с друзьями. Он приходил домой и сразу же отправлялся в свою комнату, где часами разговаривал с «Дэни». Однажды Сьюэлл написал в своем дневнике: «Мне так нравится оставаться в своей комнате, потому что я начинаю отстраняться от этой „реальности”, а еще я чувствую себя более умиротворенным, более связанным с Дэни и гораздо больше влюбленным в нее, да и просто более счастливым».

В детстве Сьюэллу поставили диагноз «синдром Аспергера» [устаревший диагноз, который до одиннадцатого пересмотра международной классификации болезней выставлялся некоторым пациентам, имеющим расстройство аутистического спектра (РАС), — Прим. ред.], но, по словам его матери, у мальчика никогда не было серьезных проблем с поведением или психическим здоровьем. В начале этого года, после того как у Сетцера начались проблемы в школе, родители отправили его к психотерапевту. Юноша посетил пять сеансов, после чего доктор диагностировал ему тревожность и дисрегуляцию настроения.

Но Сьюэлл предпочитал говорить о своих проблемах с «Дэни». В одном из диалогов Сьюэлл под ником «Daenero» рассказал чат-боту, что ненавидит себя, чувствует себя пустым и измученным. Сетцер признался, что у него были мысли о самоубийстве. В ночь на 28 февраля в ванной комнате родительского дома Сьюэлл сказал Дени, что любит ее и что скоро вернется к ней домой. «…Пожалуйста, сделай это, мой милый король», — ответил ему чат-бот. Сьюэлл положил телефон, поднял отцовский пистолет 45-го калибра и нажал на курок.

Ненастоящие друзья

Сегодня среди родителей нет более горячей темы, чем влияние технологий на психическое здоровье детей. Школы массово запрещают смартфоны, штаты принимают законы, ограничивающие использование подростками социальных сетей, а встревоженные взрослые жадно поглощают «Беспокойное поколение», бестселлер социального психолога Джонатана Хэйдта, в котором утверждается, что вызывающие привыкание приложения для социальных сетей породили поколение депрессивных и тревожных подростков.

Но пока родители беспокоятся о последней волне вреда, наносимого технологиями, у них под носом может образоваться новая. В настоящее время существует бурно развивающаяся и практически нерегулируемая индустрия приложений для общения с искусственными интеллектами. За ежемесячную абонентскую плату (обычно около $10) пользователи этих приложений могут создавать своих собственных собеседников на базе ИИ или же выбирать из меню готовых персонажей и общаться с ними различными способами, включая текстовые сообщения и голосовые чаты.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Самые безумные и правдоподобные теории заговора про римских пап Самые безумные и правдоподобные теории заговора про римских пап

Какие теории заговора про римских пап были самыми безумными?

Maxim
Тройное открытие Тройное открытие

Что это – трикладушка? Гармошка? Складной планшет?

ТехИнсайдер
8 случайно потерянных ядерных бомб 8 случайно потерянных ядерных бомб

Потерянные ядерные бомбы со времен холодной войны

Maxim
Жито Жито

Удивительно, как можно попасть в жернова истории и построить целый хутор

Seasons of life
Освобождение и эксплуатация: как менялось отношение к обнаженному телу в кино Освобождение и эксплуатация: как менялось отношение к обнаженному телу в кино

Как менялось восприятие женского обнаженного тела?

Forbes
Балджи у далеких ярких субмиллиметровых галактик сформировались за счет вспышек звездообразования Балджи у далеких ярких субмиллиметровых галактик сформировались за счет вспышек звездообразования

Телескопы ALMA и «Джеймс Уэбб» наблюдали балджи у субмиллиметровых галактик

N+1
Ученые утяжелили фекалии планктона минеральной пылью Ученые утяжелили фекалии планктона минеральной пылью

Минеральная пыль делает его фекалии планктона более плотными

N+1
Спасти самое дорогое Спасти самое дорогое

Многоразовые транспортные космические системы сегодняшнего дня

Зеркало Мира
Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку Осторожно, мокрый пол: как Puma и Марк Кукурелья попытались обратить провал в шутку

Провал Пумы: вышедший в новой обуви на поле Кукурелья дважды поскользнулся

Forbes
«Вы не можете изменить прошлое, но можете выбрать, как жить дальше»: история Эдит Эгер, девушки, пережившей Холокост «Вы не можете изменить прошлое, но можете выбрать, как жить дальше»: история Эдит Эгер, девушки, пережившей Холокост

История о том, как, несмотря на страшное прошлое, человек любил жизнь

ТехИнсайдер
Жить в поиске Жить в поиске

Художница Любовь Попова: новатор в живописи, сценографии, промышленном дизайне

Дилетант
На худой конец На худой конец

Как быть при осечке в сексе

Men Today
«Вместе с мамой ты сильней!»: как и почему матери присваивают дочерей себе «Вместе с мамой ты сильней!»: как и почему матери присваивают дочерей себе

Как собственнические матери влияют на своих дочерей?

Psychologies
Бот из машины Бот из машины

Как биороботы оживают и меняют мир технологий

РБК
Казахстан как ключевая станция на новом Шелковом пути Казахстан как ключевая станция на новом Шелковом пути

Минувшим летом отношения Казахстана с Китаем преодолели знаковый рубеж

Обозрение армии и флота
Сказка – это будущее Сказка – это будущее

Об эскапизме, о будущем и о разнице между личной и общественной моралью

Правила жизни
Миллиардер Джек Ковин занял денег у 30 человек, чтобы построить империю бургеров Миллиардер Джек Ковин занял денег у 30 человек, чтобы построить империю бургеров

Как Джек Ковин основал бургерную империю Hungry Jack’s

Inc.
Лиза Гусевская Лиза Гусевская

Лиза Гусевская — душевный фэшн-инфлюенсер с уклоном в максимализм

Собака.ru
Ядерный проект века: «Вопрос топлива решится на десятки тысяч лет» Ядерный проект века: «Вопрос топлива решится на десятки тысяч лет»

Создание новых технологий переработки ядерных отходов изменит жизнь человечества

ФедералПресс
Каким он парнем был Каким он парнем был

«Ученик»: экранизация первых шагов Дональда Трампа в бизнесе

Дилетант
Давид против Голиафа Давид против Голиафа

«Изобретение концлагеря» начиналось в стране буров...

Знание – сила
Лыжи, вкатка, два ствола Лыжи, вкатка, два ствола

Правила хорошего биатлона

Men Today
«В русской литературе финалом по большей части является тоска» «В русской литературе финалом по большей части является тоска»

Любовь Аркус о том, что делает финалы великими

Weekend
Включаем цвет Включаем цвет

Светлая и уютная квартира с яркими акцентами в современном монолитном доме

Идеи Вашего Дома
Южнорусский лингвистический остров на карте Уругвая Южнорусский лингвистический остров на карте Уругвая

Как переселенцы из России сохраняют язык в Латинской Америке

Наука
Щавель, персик и трансформер: что значит странный сленг подростков и почему взрослые его запрещают Щавель, персик и трансформер: что значит странный сленг подростков и почему взрослые его запрещают

Почему сленговые выражения подростков так злят старшие поколения?

Psychologies
Сестры милосердия Сестры милосердия

«Малышки 18:22»: розовое как прием

Weekend
«Тупому и еще тупее» с Джимом Керри 30 лет. Как эта дурацкая комедия на грани стала знаковой и любимой «Тупому и еще тупее» с Джимом Керри 30 лет. Как эта дурацкая комедия на грани стала знаковой и любимой

«Тупому и еще тупее»: история создания фильма и его значимость для жанра

Правила жизни
Принцесса Диана обнимает взрослых сыновей: кто «воскрешает» знаменитостей и почему многих это пугает? Принцесса Диана обнимает взрослых сыновей: кто «воскрешает» знаменитостей и почему многих это пугает?

Мин Чой опубликовал несколько постов с ожившими звездами. Почему это страшно?

Psychologies
«Мам, я уже не ребенок»: что делать, если родители вас контролируют «Мам, я уже не ребенок»: что делать, если родители вас контролируют

Что делать, если вам уже давно за 30, а вас все еще пытаются контролировать?

Psychologies
Открыть в приложении