Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые расшифровали, как мы ощущаем вкус сладкого Ученые расшифровали, как мы ощущаем вкус сладкого

Как язык воспринимает сладость, какой рецептор отвечает за влечение к сахару?

ТехИнсайдер
История с «Троицей»: почему объекты культуры передают религиозным организациям История с «Троицей»: почему объекты культуры передают религиозным организациям

Передача музейных ценностей конфессиям — новый культурно-религиозный передел?

Forbes
Антисмартфоны и цифровые детокс-устройства: как tech-индустрия зарабатывает на нашей усталости от экранов Антисмартфоны и цифровые детокс-устройства: как tech-индустрия зарабатывает на нашей усталости от экранов

Гаджеты, которые помогут вернуть контроль над своим временем

Inc.
Когда не стоит возвращаться к бывшему: 5 неправильных поводов Когда не стоит возвращаться к бывшему: 5 неправильных поводов

В каких случаях не стоит давать себе и партнеру второй шанс

Psychologies
Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой) Как быстро возбудить девушку: 12 способов (гид, который стоит держать под рукой)

Не знаете, как быстро возбудить девушку до предела? Вы по адресу!

Playboy
Как механический таракан побеждает травму: рецензия на фильм «Голова-жестянка» Как механический таракан побеждает травму: рецензия на фильм «Голова-жестянка»

«Голова-жестянка» — образец живого и правдивого кино для и про подростков

Psychologies
Достойный поклонения Достойный поклонения

Летнее путешествие в легендарный город позволит вам не только отдохнуть

Отдых в России
Любящие читать дети имеют больший мозг, благодаря этому они становятся более счастливыми и умными подростками Любящие читать дети имеют больший мозг, благодаря этому они становятся более счастливыми и умными подростками

Как связаны любовь к книгам в детстве и счастливое юношество?

ТехИнсайдер
Загадочный синдром Загадочный синдром

Что такое метаболический синдром и чем он так опасен?

Лиза
Сверхэффективный гидрогель поглощает воду прямо из воздуха даже в пустыне Сверхэффективный гидрогель поглощает воду прямо из воздуха даже в пустыне

Создан супервпитывающий гидрогель, который может вытягивать влагу в пустыне

ТехИнсайдер
«Малочисленные народы прекрасно интегрированы в современном обществе» «Малочисленные народы прекрасно интегрированы в современном обществе»

Об участии в современной экономике женщин коренных малочисленных народов

РБК
Среди старых находок из памятника Грот-дю-Ренн обнаружили два неандертальских зуба Среди старых находок из памятника Грот-дю-Ренн обнаружили два неандертальских зуба

Палеоантропологи повторно исследовали коллекцию фаунистических остатков

N+1
Встречи только для секса: что нужно знать — 4 правила безопасности Встречи только для секса: что нужно знать — 4 правила безопасности

Зачем люди ищут партнеров только для интимных встреч?

Psychologies
Эдвард Мордейк — человек с двумя лицами. Существовал ли он на самом деле? Эдвард Мордейк — человек с двумя лицами. Существовал ли он на самом деле?

Есть в биографии Эдварда Мордейка некоторые поразительные несостыковки

ТехИнсайдер
Рефлексия белого человека Рефлексия белого человека

«Переводчик»: Гай Ритчи не о бандитах, а о войне

Weekend
Стоит ли инвестировать в автомобили и как это делать выгодно: 3 способа Стоит ли инвестировать в автомобили и как это делать выгодно: 3 способа

Можно ли заработать на инвестициях в автомобили?

РБК
Студентка смешала антидепрессанты с энергетиком и попала в больницу: почему так вышло — объяснение психиатра Студентка смешала антидепрессанты с энергетиком и попала в больницу: почему так вышло — объяснение психиатра

Почему успокаивающие лекарства на травах — плохой выбор

Psychologies
Маркетплейс для разработчиков: как развивать российский GitHub Маркетплейс для разработчиков: как развивать российский GitHub

Какие существуют способы развития сообщества open source в России

Forbes
Королева микрочипов: как Лиза Су привела AMD к успеху и готовится к схватке с NVIDIA Королева микрочипов: как Лиза Су привела AMD к успеху и готовится к схватке с NVIDIA

Руководительница AMD менее чем за 10 лет повысила котировки почти в 30 раз

Forbes
Протесты в Польше после смерти беременной женщины. Как влияет запрет абортов на психику? Протесты в Польше после смерти беременной женщины. Как влияет запрет абортов на психику?

Как и почему запрет на аборты приводит к росту смертности?

Psychologies
Город для игр: как женщины-архитекторы создают необычные детские площадки Город для игр: как женщины-архитекторы создают необычные детские площадки

Игровые площадки — это точка притяжения не только для детей, но и для родителей

Forbes
Истории о нарушении пищевого поведения у подростков Истории о нарушении пищевого поведения у подростков

Как быть и к каким специалистам обращаться, если у подростка РПП?

СНОБ
Эксперт: угроза вымирания человечества от ИИ сильно преувеличена Эксперт: угроза вымирания человечества от ИИ сильно преувеличена

Экзистенциальные угрозы ИИ в настоящее время несоразмерно "раздуты"

ТехИнсайдер
Из подряда вон: как киберпреступники эксплуатируют доверие компаний-партнеров Из подряда вон: как киберпреступники эксплуатируют доверие компаний-партнеров

Риск эксплуатации доверия сегодня входит в топ-5 наиболее критичных

Forbes
«Она Стас Михайлов для девчонок»: продюсер Пашу заявил, что Анна Asti поет для «обиженных разведенок» «Она Стас Михайлов для девчонок»: продюсер Пашу заявил, что Анна Asti поет для «обиженных разведенок»

Пашу оценил популярность бывшей солистки группы Artik & Asti

VOICE
Найдена мутация, которая отвечает за высоту голоса человека Найдена мутация, которая отвечает за высоту голоса человека

Обнаружены мутации, которые коррелируют с более высоким тоном голоса

ТехИнсайдер
Новостройки держатся Новостройки держатся

Цены стагнируют на фоне роста предложения и нестабильности спроса

Деньги
За регенерацию тела у гидрактиний отвечают процессы старения клеток За регенерацию тела у гидрактиний отвечают процессы старения клеток

Как крошечное морское существо гидрактиния регенерирует новое тело?

ТехИнсайдер
5 книг в жанре интеллектуальной прозы, которые стоит прочесть каждому 5 книг в жанре интеллектуальной прозы, которые стоит прочесть каждому

Качественная интеллектуальная проза, которая заставит ваш мозг работать

Maxim
Правила жизни Моисея Гинзбурга Правила жизни Моисея Гинзбурга

Правила жизни советского архитектора и одного из лидеров конструктивизма

Правила жизни
Открыть в приложении