Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Неоднозначный герой: история Оскара Шиндлера, немецкого промышленника, спасшего более 1000 евреев во время Холокоста Неоднозначный герой: история Оскара Шиндлера, немецкого промышленника, спасшего более 1000 евреев во время Холокоста

Почему личность Оскара Шиндлера в фильме 1993 года представлена идеализированно?

ТехИнсайдер
Ни в коем случае не наносите сметану: как быстро вылечить солнечный ожог и облегчить боль Ни в коем случае не наносите сметану: как быстро вылечить солнечный ожог и облегчить боль

Случайно уснули на солнце, пока загорали?

ТехИнсайдер
ИИ на страже безопасности: смогут ли нейросети бороться с хакерами ИИ на страже безопасности: смогут ли нейросети бороться с хакерами

Кто победит в этой схватке алгоритмов — защитники или взломщики?

ТехИнсайдер
Папоротники и луковицы лилий включили в рацион первых земледельцев Приморья Папоротники и луковицы лилий включили в рацион первых земледельцев Приморья

Палеоботаники изучили материалы из поселения Кроуновка-1

N+1
Чистая психология: как осанка влияет на нашу самооценку Чистая психология: как осанка влияет на нашу самооценку

Как прямая спина и расправленные плечи влияют на психическое состояние?

ТехИнсайдер
Что заставляет женщин выбирать женатых мужчин: 3 мотива Что заставляет женщин выбирать женатых мужчин: 3 мотива

Можно корить за выбор несвободных мужчин, а можно попытаться понять

Psychologies
Наследники Дукалиса и Казановы: как сегодня выглядят дети звезд Наследники Дукалиса и Казановы: как сегодня выглядят дети звезд

Как выглядят дети звезд "Улиц разбитых фонарей" сегодня и чем они занимаются?

VOICE
Натальный квартет Натальный квартет

«Бэби-тур»: Василий Сигарев о прекрасной России прошлого

Weekend
«Концентрируйтесь на функциональности»: как правильно думать о теле — повысьте самооценку «Концентрируйтесь на функциональности»: как правильно думать о теле — повысьте самооценку

Как нужно думать о внешности, чтобы принять себя со всеми особенностями?

Psychologies
Секс втроем и подглядывание: 7 самых популярных женских сексуальных фантазий Секс втроем и подглядывание: 7 самых популярных женских сексуальных фантазий

Образы, с которыми связаны женские эротические фантазии, озвучил психоаналитик

Maxim
Новый метод лечения малярии: паразита, передающего болезнь, можно сбить с толку Новый метод лечения малярии: паразита, передающего болезнь, можно сбить с толку

Если дезориентировать паразита, он не сможет заражать человека и размножаться

ТехИнсайдер
Прощали измены, жертвовали карьерой: что известно о женах героев популярных боевиков Прощали измены, жертвовали карьерой: что известно о женах героев популярных боевиков

Каково это быть супругой настоящего экранного супергероя?

VOICE
«Мы ожидаем запуска нового цикла инвестиционного кредитования» «Мы ожидаем запуска нового цикла инвестиционного кредитования»

Пессимистические прогнозы о перспективах российской экономики не сбылись

Деньги
Первооткрывательница Шагала и Малевича: какой была галеристка Надежда Добычина Первооткрывательница Шагала и Малевича: какой была галеристка Надежда Добычина

О вкладе первой российской галеристки в современное русское искусство

Forbes
Неорганизованный ребенок: 6 советов для решения проблемы — попробуйте самостоятельно Неорганизованный ребенок: 6 советов для решения проблемы — попробуйте самостоятельно

Простые и полезные рекомендации, как приучить ребенка к самостоятельности

Psychologies
«Куда уходят деньги?»: как научиться финансовой грамотности — 2 простых шага «Куда уходят деньги?»: как научиться финансовой грамотности — 2 простых шага

Как научить мозг отслеживать траты?

Psychologies
Артельный труд. Как в России появились передвижники Артельный труд. Как в России появились передвижники

Какой след в истории России оставили передвижники?

СНОБ
О чём пишут научно-популярные журналы мира О чём пишут научно-популярные журналы мира

Угроза от соли, раннее изучение иностранного языка и электрические самолеты

Наука и жизнь
Провал Геринга Провал Геринга

Быстрая победа над Францией высоко подняла авторитет Германа Геринга

Дилетант
Подарочный комплект от Brabus: внедорожник, катер и часы Подарочный комплект от Brabus: внедорожник, катер и часы

Кому-нибудь нужен подходящий подарочный комплект на день рождения?

4x4 Club
Ледяное молчание: как Ледяное молчание: как

Почему вдовствующая королева Нур невзлюбила свою невестку Ранию?

VOICE
«Мой муж не стал приматом»: Анна Снаткина призналась, что Виктор Васильев снялся во втором сезоне сериале «Два холма» «Мой муж не стал приматом»: Анна Снаткина призналась, что Виктор Васильев снялся во втором сезоне сериале «Два холма»

Анна Снаткина рассказала о закулисье телепроекта «Два холма»

VOICE
Братья наши равные Братья наши равные

Как президент США хотел защитить природу, а оказалось, что не от кого

Weekend
Я сижу на берегу Я сижу на берегу

Панически боишься воды? Лови советы нашего психолога

Лиза
5 японских техник, которые увеличат продуктивность и улучшат качество жизни 5 японских техник, которые увеличат продуктивность и улучшат качество жизни

Кайдзен, ваби-саби, икигай... Что это такое и почему они будут полезны каждому?

Maxim
Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети» Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети»

Почему фильм «Девушки, живущие в сети» заслуживает самого пристального внимания

РБК
5 самых распространенных наказаний в отношениях 5 самых распространенных наказаний в отношениях

Допустимы ли наказания в отношениях?

Psychologies
Нейл-табу: какие формы ногтей ненавидят мастера маникюра Нейл-табу: какие формы ногтей ненавидят мастера маникюра

Специалисты салонов рассказали, какие формы ногтей они не любят и почему

VOICE
Атмосфера нулевых: 7 лучших фильмов, чтобы переосмыслить то время Атмосфера нулевых: 7 лучших фильмов, чтобы переосмыслить то время

Несколько фильмов и сериалов, которые погрузят вас в нулевые

Maxim
Почему люди верят в теории заговора? Простое объяснение ученых! Почему люди верят в теории заговора? Простое объяснение ученых!

Люди склонны верить в теории заговора из-за сочетания личностных черт

ТехИнсайдер
Открыть в приложении