Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как набрать мышечную массу согласно науке: секреты рельефного тела Как набрать мышечную массу согласно науке: секреты рельефного тела

Набор мышечной массы – это не просто про штангу и куриную грудку

ТехИнсайдер
Как космические путешествия медленно убивают иммунитет человека: что ждет астронавтов будущего Как космические путешествия медленно убивают иммунитет человека: что ждет астронавтов будущего

Условия космических путешествий изменяют экспрессию генов астронавтов

ТехИнсайдер
«Осторожно, затягивает»: как ледоколы ломают лед (на самом деле) «Осторожно, затягивает»: как ледоколы ломают лед (на самом деле)

Может ли мощное судно проиграть битву со льдом?

ТехИнсайдер
Y-хромосома по-разному повлияла на исходы рака Y-хромосома по-разному повлияла на исходы рака

Как Y-хромосомы влияют на развитие колоректального рака и рака мочевого пузыря

N+1
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Эдвард Мордейк — человек с двумя лицами. Существовал ли он на самом деле? Эдвард Мордейк — человек с двумя лицами. Существовал ли он на самом деле?

Есть в биографии Эдварда Мордейка некоторые поразительные несостыковки

ТехИнсайдер
Взгляд в будущее Взгляд в будущее

Вопрос о перспективах долгосрочного экономического развития в России

Деньги
Арсений Попов Арсений Попов

Актер и главный импровизатор страны, Арсений Попов

Собака.ru
Рынок на десятки миллиардов: что такое ЦФА, как туда инвестировать и зачем это нужно Рынок на десятки миллиардов: что такое ЦФА, как туда инвестировать и зачем это нужно

Почему ЦФА могут быть интересны как инвестиционные активы

Forbes
Дом Радио Дом Радио

Творческая резиденция оркестра Musicaeterna под управлением Теодора Курентзиса

Собака.ru
Мотоциклы с коляской как лучшее средство взволновать девушку Мотоциклы с коляской как лучшее средство взволновать девушку

Когда-то мотоциклы с коляской играли важную роль в жизни людей

Maxim
Ветеринар-сексист возместит ущерб секретарше за харассмент: история и комментарий психолога Ветеринар-сексист возместит ущерб секретарше за харассмент: история и комментарий психолога

Что недопустимо на рабочем месте?

Psychologies
Милые дикие кошки, которые на самом деле опасные и кровожадные Милые дикие кошки, которые на самом деле опасные и кровожадные

Даже не вздумайте гладить этих котеек!

Maxim
Почему болит спина: 5 медицинских фактов о взаимосвязи тела и эмоций Почему болит спина: 5 медицинских фактов о взаимосвязи тела и эмоций

Почему боли в спине так тяжело диагностируются и поддаются лечению?

ТехИнсайдер
Умиротворение Умиротворение

В августе 1940 года немецкие самолеты совершили первый налёт на Великобританию

Дилетант
Людьми вырастут? Людьми вырастут?

На что похожи и на что способны пять искусственных зародышей человека

N+1
Ролевые онлайн-игры: как предотвратить подмену цифровой личности Ролевые онлайн-игры: как предотвратить подмену цифровой личности

Какими инструментами можно решить проблему подмены цифровой личности

Forbes
5 книг о медицине будущего 5 книг о медицине будущего

Как развивается медицина и что ожидает человечество в будущем

СНОБ
«Импортозамещение возможно при наличии научно-производственной базы» «Импортозамещение возможно при наличии научно-производственной базы»

О локализации оборудования и программного обеспечения для промышленности

РБК
От белого платья до личного выбора: как эмансипация изменила свадебные традиции От белого платья до личного выбора: как эмансипация изменила свадебные традиции

Как наряд невесты прошел путь от церемониального облачения до личного выбора

Forbes
Витамины для мамы Витамины для мамы

10 важных витаминов при планировании беременности

Лиза
«Людей нужно где-то кормить»: почему регионы переживают бум ресторанных франшиз «Людей нужно где-то кормить»: почему регионы переживают бум ресторанных франшиз

Как развивается российский общепит в регионах

Forbes
(Не)отцовская любовь: как понять, что ребенка подвергают сексуальному насилию дома (Не)отцовская любовь: как понять, что ребенка подвергают сексуальному насилию дома

Опасность может подстерегать детей даже в самом безопасном по определению месте

Psychologies
Опасная бессонница Опасная бессонница

Учёные предупреждают: бессонница связана с повышенным риском сердечного приступа

Здоровье
Биполярное расстройство и творчество: как они связаны Биполярное расстройство и творчество: как они связаны

Люди с биполярным расстройством личности более креативны

Psychologies
Астрономы открывают новую эру в исследовании экзопланет: эру прямых наблюдений Астрономы открывают новую эру в исследовании экзопланет: эру прямых наблюдений

Астрономы получили прямые снимки одной из самых маленьких планет

ТехИнсайдер
Антон Уткин — о том, как найти свое счастье, занимаясь чем-то эфемерным Антон Уткин — о том, как найти свое счастье, занимаясь чем-то эфемерным

Сценарист Антон Утки — почему порой горящие глаза гораздо важнее правил

РБК
Достойный жених: индийский писатель о брачных традициях и жизни в Индии 50-х годов Достойный жених: индийский писатель о брачных традициях и жизни в Индии 50-х годов

Отрывок из книги «Достойный жених» индийского поэта и романиста Викрама Сета

Forbes
Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки Эксперт объяснил, почему ИИ в одних задачах превосходит человека, а в других делает дикие ошибки

Инструмент, который может объяснить, как работают модели ИИ

ТехИнсайдер
Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети» Потому что мы — банда! Зачем смотреть фильм «Девушки, живущие в сети»

Почему фильм «Девушки, живущие в сети» заслуживает самого пристального внимания

РБК
Открыть в приложении