Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Аэропорты меняют психику людей? Вот что влияет на восприятие времени и контроль над собой! Аэропорты меняют психику людей? Вот что влияет на восприятие времени и контроль над собой!

Замечали ли вы, что в аэропортах люди ведут себя иначе?

ТехИнсайдер
10 лучших сериалов про сумасшедших, душевнобольных и психбольницы. Часть II 10 лучших сериалов про сумасшедших, душевнобольных и психбольницы. Часть II

Сериалы о том, как безумие и ментальные проблемы влияют на людей и окружающих

Maxim
Old but gold: как и почему растет рынок технологий для пожилых людей Old but gold: как и почему растет рынок технологий для пожилых людей

Продукты и услуги для старшего поколения — глобальный тренд

Forbes
Время изучения и открытий: 7 преимуществ секса в длительных отношениях — откройте подлинную близость Время изучения и открытий: 7 преимуществ секса в длительных отношениях — откройте подлинную близость

Долгие отношения позволяют в полной мере раскрыть сексуальность в полной мере

Psychologies
Кто особенно склонен к изменам: 3 ключевые психологические черты, подталкивающие к неверности Кто особенно склонен к изменам: 3 ключевые психологические черты, подталкивающие к неверности

Почему некоторые люди изменяют, а другие — нет?

Psychologies
Бородатые свиньи помогли ботаникам открыть первую пальму с подземными цветками и плодами Бородатые свиньи помогли ботаникам открыть первую пальму с подземными цветками и плодами

Ботаники описали первую пальму, у которой цветки и плоды развиваются под землей

N+1
Как писал Борис Поплавский Как писал Борис Поплавский

Как жил поэт Борис Поплавский и чем примечательны его тексты

СНОБ
Растения «чувствуют», когда к ним прикасаются! Вот как это возможно Растения «чувствуют», когда к ним прикасаются! Вот как это возможно

Растительные клетки посылают разные сигналы, реагируя на прикосновения

ТехИнсайдер
Ответственное родительство связали с успехами детей в инженерии и математике Ответственное родительство связали с успехами детей в инженерии и математике

Ответственное родительство уменьшает разрыв в неравенстве между детьми

N+1
5 самых распространенных наказаний в отношениях 5 самых распространенных наказаний в отношениях

Допустимы ли наказания в отношениях?

Psychologies
Мифы о штрафах. Об этом не знают даже опытные водители Мифы о штрафах. Об этом не знают даже опытные водители

Можно ли нарушать ПДД с работающей «аварийкой» и другие мифы

РБК
Ремарк в Голливуде: как снимали кино по романам великого пацифиста Ремарк в Голливуде: как снимали кино по романам великого пацифиста

Кинокритик вспоминает историю экранизаций Ремарка

Правила жизни
На разных языках На разных языках

Отношение к религии у советской власти было всегда негативным

Дилетант
5 книг в жанре интеллектуальной прозы, которые стоит прочесть каждому 5 книг в жанре интеллектуальной прозы, которые стоит прочесть каждому

Качественная интеллектуальная проза, которая заставит ваш мозг работать

Maxim
Как обсуждать секс с партнером: 6 вопросов и 3 совета для диалога Как обсуждать секс с партнером: 6 вопросов и 3 совета для диалога

Эти вопросы помогут вам открыть новые возможности для сексуального опыта

Psychologies
Деревянные руки для робота: необычное изобретение Деревянные руки для робота: необычное изобретение

Теперь ученые использовали древесину для роботизированного захвата

ТехИнсайдер
Время Змееносца. Летнее небо Время Змееносца. Летнее небо

Змееносец — крупное экваториальное созвездие, пересекающее эклиптику

Наука и жизнь
Номер на одного: как поездка в одиночестве поможет пережить развод — 3 преимущества Номер на одного: как поездка в одиночестве поможет пережить развод — 3 преимущества

Поездка в одиночестве имеет немало преимуществ

Psychologies
Ты и бывший: что остается после финала? Ты и бывший: что остается после финала?

Любовь однажды заканчивается, но след от нее растягивается на годы

VOICE
Синие пенисы и пульсирующие вульвы: что такое эпидидимальная гипертензия и чем она опасна Синие пенисы и пульсирующие вульвы: что такое эпидидимальная гипертензия и чем она опасна

Как эпидидимальная гипертензия влияет на сексуальное поведение

Psychologies
Почему женщины все еще боятся маммографии: 3 главных страха Почему женщины все еще боятся маммографии: 3 главных страха

Что останавливает женщин от похода к маммологу и что делать

Psychologies
Под Суздалем нашли печать Юрия Долгорукого Под Суздалем нашли печать Юрия Долгорукого

Археологи рассказали о результатах раскопок на селище Спасское городище-7

N+1
Погребенной на кровати раннесредневековой девушке воссоздали лицо Погребенной на кровати раннесредневековой девушке воссоздали лицо

Художники восстановили внешность молодой девушки из раннего Средневековья

N+1
Не такие, как все: 5 животных, у которых кровь не красного цвета Не такие, как все: 5 животных, у которых кровь не красного цвета

От чего зависит цвет крови у животных и у кого она самого странного цвета?

ТехИнсайдер
Mercedes выпускает G500 V8 Final Edition, а AMG – чёрно-золотой G63 Grand Edition Mercedes выпускает G500 V8 Final Edition, а AMG – чёрно-золотой G63 Grand Edition

Как G-классу от Mercedes удалось стать символом роскоши и стиля?

4x4 Club
Места знать надо Места знать надо

Как города мира конкурируют за лидеров хай-тека, науки и креативных индустрий

РБК
Линия надрыва Линия надрыва

Как эмоции превращались в события в кино эпохи застоя

Weekend
Екатерина Смольникова Екатерина Смольникова

Основательница благотворительного фонда Play And Help и автор детских книг

Собака.ru
80-летний мужчина годами проживает один и тот же день из-за редкого синдрома 80-летний мужчина годами проживает один и тот же день из-за редкого синдрома

Уж лучше ошибаться здесь и сейчас, чем заново проживать одни и те же события

Psychologies
Миротворцы Миротворцы

Гражданская война, расколовшая Соединённые Штаты, продолжалась четыре года

Дилетант
Открыть в приложении