Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Разработаны методы генного редактирование смертельно опасных заболеваний мозга Разработаны методы генного редактирование смертельно опасных заболеваний мозга

Ученые успешно применили технологии генного редактирования для коррекции мутаций

ТехИнсайдер
Эпоха возрождения Эпоха возрождения

В Мозамбике после гражданской войны восстанавливают Национальный парк Горонгоза

Robb Report
Оригами-робота научили прижимать ноги и ходить по-крабьи Оригами-робота научили прижимать ноги и ходить по-крабьи

Инженер из Германии разработал четвероногого оригами-робота Fold Walker

N+1
5 самых распространенных наказаний в отношениях 5 самых распространенных наказаний в отношениях

Допустимы ли наказания в отношениях?

Psychologies
Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели Терапия бездельем: что такое бедроттинг и почему зумеры полюбили валяться в постели

Bed rotting: обычная лень или способ восстановить силы?

Forbes
«В Бабкине тараканить некого», или Где искать секс за МКАД «В Бабкине тараканить некого», или Где искать секс за МКАД

Отправляемся в поисках секса на Чукотку и в Таиланд

СНОБ
О чем вы врете самому себе: найдите ответ на этот вопрос и измените свою жизнь О чем вы врете самому себе: найдите ответ на этот вопрос и измените свою жизнь

Отрывок из книги эксперта по нарративной психологии Кори Игера «Чего я хочу?»

Psychologies
Узнайте о самых древних языках, на которых говорят до сих пор! Интересные факты Узнайте о самых древних языках, на которых говорят до сих пор! Интересные факты

Иврит, санскрит, тамильский и другие языки используются на протяжении тысяч лет

ТехИнсайдер
«Называть эти вещи наукой нельзя» «Называть эти вещи наукой нельзя»

Кто такой родолог и сколько он получает

Лиза
Введение инсулина в нос улучшило когнитивные функции больных с деменцией Введение инсулина в нос улучшило когнитивные функции больных с деменцией

Введение инсулина в нос улучшило когнитивные функции больных с деменцией

N+1
Икота Икота

Даже физиологи не до конца понимают, почему мозг «клинит» на дыхании

Здоровье
Таурин замедлил клеточное старение и продлил здоровую жизнь у мышей и обезьян Таурин замедлил клеточное старение и продлил здоровую жизнь у мышей и обезьян

Ученые выяснили, что с возрастом в крови значительно снижается уровень таурина

N+1
Как заставить окружающих прислушиваться к вашему мнению: 4 совета Как заставить окружающих прислушиваться к вашему мнению: 4 совета

Как же начать «звучать» убедительнее для других?

Psychologies
Дроны, тепловизоры и 3D-модели: технологии, которые спасают наши леса Дроны, тепловизоры и 3D-модели: технологии, которые спасают наши леса

Какие современные технологии помогают спасать деревья с воздуха

ТехИнсайдер
«На казенный счет изгонял бога из природы» «На казенный счет изгонял бога из природы»

Климент Тимирязев раскрыл тайну фотосинтеза и изобретал теплицу

Наука
«Накачать» точку G и увеличить влагалище: для чего нужна интимная косметология «Накачать» точку G и увеличить влагалище: для чего нужна интимная косметология

Интимная косметология: как она избавляет от дискомфорта?

Psychologies
Как арктические микроорганизмы строят себе железомарганцевый дом Как арктические микроорганизмы строят себе железомарганцевый дом

Бактерии формируют себе надежное убежище и одновременно создают запасы сырья

Наука
Зачем мы на самом деле ходим в рестораны: 5 причин Зачем мы на самом деле ходим в рестораны: 5 причин

Что нам дает прием пищи не дома, а в соответствующих заведениях?

Psychologies
Казаки летом — модно или странно? Разбираемся раз и навсегда Казаки летом — модно или странно? Разбираемся раз и навсегда

Казаки летом: как же быть с этой фэшн-дилеммой?

VOICE
Эстетика простоты Эстетика простоты

Текучая, визуально чистая архитектура, игра света и магия искусства

SALON-Interior
Символы в украшениях: как они могут повлиять на твою судьбу Символы в украшениях: как они могут повлиять на твою судьбу

Почему важно осознанно выбирать символику в украшениях?

VOICE
Каких святых на Руси считали покровителями женщин? Каких святых на Руси считали покровителями женщин?

Главной покровительницей женщин и материнства была Пресвятая Богородица

Культура.РФ
«Дегенераты у власти», или Диагноз доктора Кронфельда «Дегенераты у власти», или Диагноз доктора Кронфельда

В мае 1932 года Адольф Гитлер подал в суд за клевету на журналиста Вернера Абеля

Дилетант
Психология гиперпотребления: почему мы едим слишком много Психология гиперпотребления: почему мы едим слишком много

Что заставляет нас потреблять сверх меры и как это может отразиться на здоровье

Psychologies
Директор музыкальной экосистемы и департамента видеоконтента VK Николай Дуксин: В сфере развлечений нет «вчерашних» заслуг Директор музыкальной экосистемы и департамента видеоконтента VK Николай Дуксин: В сфере развлечений нет «вчерашних» заслуг

Директором музыкальной экосистемы VK Николай Дуксин — о музыке и артистах

СНОБ
Современные популяции бурых медведей разделились около 150-100 тысяч лет назад Современные популяции бурых медведей разделились около 150-100 тысяч лет назад

Генетики исследовали ДНК 39 современных и 12 древних бурых медведей

N+1
Почему мы теряем веру в себя и как ее вернуть? Почему мы теряем веру в себя и как ее вернуть?

Почему порой мы чувствуем, что не заслуживаем ничего хорошего?

Psychologies
«Тайны души» «Тайны души»

Социальная и культурная история психоанализа

N+1
И на земле И на земле

Готовиться к бомбардировкам британцы начали задолго до войны

Дилетант
Возраст красоты Возраст красоты

Когда и как бороться с возрастными изменениями

Лиза
Открыть в приложении