Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

6 бытовых привычек, из-за которых в доме плохо пахнет 6 бытовых привычек, из-за которых в доме плохо пахнет

Некоторые из этих вещей вы совершаете ежедневно, а они влияют на запах в доме

ТехИнсайдер
Интеллектуально развитый мозг думает медленнее, чем среднестатистический Интеллектуально развитый мозг думает медленнее, чем среднестатистический

Умные люди думают быстрее? Оказывается, не всегда

ТехИнсайдер
Велосипеды, ткацкие станки и кофемолки: что выпускали известные автомобильные бренды до машин Велосипеды, ткацкие станки и кофемолки: что выпускали известные автомобильные бренды до машин

С каких товаров начинали свой путь автомобильные гиганты?

ТехИнсайдер
Три сочных русских мужских сериала, которые вы могли пропустить Три сочных русских мужских сериала, которые вы могли пропустить

Делимся случайно найденным и полюбившимся русскими сериалами

Maxim
Недобрососедские отношения: как зумеры обесценили мечту миллениалов и что из этого получилось Недобрососедские отношения: как зумеры обесценили мечту миллениалов и что из этого получилось

Почему зумерам и миллениалами так сложно взаимодействовать друг с другом?

Правила жизни
Новая сцена Александринского театра Новая сцена Александринского театра

Команда Александринки сделала новую сцену прогрессивным междисцплинарным центром

Собака.ru
Эксперт: ИИ не отнимет рабочие места у среднего класса, но сильно изменит саму работу Эксперт: ИИ не отнимет рабочие места у среднего класса, но сильно изменит саму работу

Лишь немногие останутся без работы из-за развития ИИ

ТехИнсайдер
Что пишут о фильме «Человек-паук: Паутина вселенных»? Что пишут о фильме «Человек-паук: Паутина вселенных»?

Получилось ли у фильма «Человек-паук: Паутина вселенных» задрать планку?

Правила жизни
Синие пенисы и пульсирующие вульвы: что такое эпидидимальная гипертензия и чем она опасна Синие пенисы и пульсирующие вульвы: что такое эпидидимальная гипертензия и чем она опасна

Как эпидидимальная гипертензия влияет на сексуальное поведение

Psychologies
Категория В1: что обозначает в правах и кому она нужна Категория В1: что обозначает в правах и кому она нужна

Права категории В1: для чего они нужны

РБК
За мороженым За мороженым

Лето, солнце и пломбир в стаканчике делают нашу жизнь еще прекраснее!

Лиза
Как узнать сколько осталось трафика и сколько израсходовано Как узнать сколько осталось трафика и сколько израсходовано

Если гигабайты куда-то утекают, вот инструкция, как всё держать под контролем

CHIP
Момент истины Момент истины

За последние годы витамин D стал суперзвездой среди нутриентов

Лиза
Российские астрономы подсчитали сколько весит Млечный путь Российские астрономы подсчитали сколько весит Млечный путь

Хотите узнать, сколько весит Млечный путь?

ТехИнсайдер
«Сочетание контрактного производства и своих брендов усиливает бизнес» «Сочетание контрактного производства и своих брендов усиливает бизнес»

О перспективах рынка отечественной бытовой химии и косметики

РБК
Почему люди верят в теории заговора? Простое объяснение ученых! Почему люди верят в теории заговора? Простое объяснение ученых!

Люди склонны верить в теории заговора из-за сочетания личностных черт

ТехИнсайдер
Мечтают о деньгах и славе: куда пойдут учиться дети Волочковой, Глюкозы, Децла и других звезд Мечтают о деньгах и славе: куда пойдут учиться дети Волочковой, Глюкозы, Децла и других звезд

Повзрослевшим детям звезд предстоит выбрать жизненный путь

VOICE
Не Ариэль единой: путеводитель по русалкам в фольклоре Не Ариэль единой: путеводитель по русалкам в фольклоре

«Правила жизни» проследили культурную эволюцию полулюдей-полурыб

Правила жизни
Дневник предпринимательницы: сколько упаковки нужно для одного батона Дневник предпринимательницы: сколько упаковки нужно для одного батона

Как устроены поставки хлеба в крупные сети и сколько коробок для этого нужно

Forbes
«Малочисленные народы прекрасно интегрированы в современном обществе» «Малочисленные народы прекрасно интегрированы в современном обществе»

Об участии в современной экономике женщин коренных малочисленных народов

РБК
У мезозойской рептилии нашли признаки пубертата У мезозойской рептилии нашли признаки пубертата

Половое созревание у окаменелых амниот описали впервые

N+1
Дама сдавала в багаж Дама сдавала в багаж

Выбираем вместительный чемодан и упаковываем его так, чтобы не было перевеса

Лиза
Мигрень повысила риск преждевременного инфаркта у женщин Мигрень повысила риск преждевременного инфаркта у женщин

У женщин с мигренью риск инфаркта миокарда и инсульта выше, чем у мужчин

N+1
Сложный вопрос. Чем отличается ВИЧ от СПИДа: объясняем простыми словами Сложный вопрос. Чем отличается ВИЧ от СПИДа: объясняем простыми словами

Как передаются и чем отличаются ВИЧ и СПИД

Лиза
Скучать на даче? Некогда! Скучать на даче? Некогда!

Дачный отдых открывает массу возможностей для развития ребенка

Лиза
Как вернуть любовь мужа: 8 главных советов Как вернуть любовь мужа: 8 главных советов

Разрешить семейный кризис можно — главное, предпринять правильные шаги

Psychologies
Как будет “уют” по-китайски: тест-драйвим роскошный минивэн Voyah Dream Как будет “уют” по-китайски: тест-драйвим роскошный минивэн Voyah Dream

Необычный люкс-минивэн от китайского бренда Voyah

ТехИнсайдер
«Как в «Жигулях». Что водители рассказали о новом «Москвиче 3» «Как в «Жигулях». Что водители рассказали о новом «Москвиче 3»

Водители перечислили плюсы и минусы кроссоверов «Москвич 3»

РБК
Почему мы так любим кино про недалекое прошлое: 4 причины Почему мы так любим кино про недалекое прошлое: 4 причины

Что стоит за любовью россиян к фильмам про прошлое?

Psychologies
Кино на драйве: зачем «Формула-1» стала съемочной площадкой голливудского фильма Кино на драйве: зачем «Формула-1» стала съемочной площадкой голливудского фильма

Как и зачем «Формула-1» завоевывает мир с большого экрана

Forbes
Открыть в приложении