Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет Бугорки на броне древних рыб превратились в наши зубы всего за 460 миллионов лет

Как появились наши чувствительные зубы изначально из «бронежилета» вымерших рыб

ТехИнсайдер
От комичного до трагичного: кто и как играл Зигмунда Фрейда в кино От комичного до трагичного: кто и как играл Зигмунда Фрейда в кино

Кто и как играл австрийского психоаналитика на экране?

Правила жизни
Эволюция платежных сервисов в регионах: от налички до BNPL Эволюция платежных сервисов в регионах: от налички до BNPL

Потенциал платежных систем и развитие финтеха в российских регионах

Inc.
Альтруизм и эгоизм: когда полезно думать о других, а когда — о себе Альтруизм и эгоизм: когда полезно думать о других, а когда — о себе

Что же важнее — наши собственные желания или потребности другого?

Psychologies
«Кухня Древнего мира» «Кухня Древнего мира»

О сырах, которые в Древнем Риме считались скромной пищей

N+1
Что такое «куриный налог» и как он мешает продавать пикапы в Америке? Что такое «куриный налог» и как он мешает продавать пикапы в Америке?

Почему в Америке так сложно продавать пикапы и причем тут курицы?

4x4 Club
Чем опасны лидеры с уязвимым эго: 7 негативных особенностей Чем опасны лидеры с уязвимым эго: 7 негативных особенностей

Как даже хорошо скрываемая уязвимость мешает принимать верные решения

Psychologies
5 приемов уличных мошенников: знать, чтобы распознать 5 приемов уличных мошенников: знать, чтобы распознать

На что обращать внимание, чтобы не нарваться на уличного мошенника

ТехИнсайдер
Необратимость: как вернуться к себе, пережив насилие Необратимость: как вернуться к себе, пережив насилие

Что делать, чтобы найти в себе силы жить дальше после пережитого насилия?

Psychologies
Снимая святых Снимая святых

Глеб Панфилов как режиссер житий

Weekend
Воздушные порталы: где и как обновляют инфраструктуру аэропортов Воздушные порталы: где и как обновляют инфраструктуру аэропортов

Как правительство справляется с обновлением аэропортовой инфраструктуры?

ФедералПресс
Сериал «Олененок»: почему история о сталкинге так затягивает Сериал «Олененок»: почему история о сталкинге так затягивает

Как и почему сериал о сталкинге «Олененок» завоевал так много поклонников

Psychologies
Тру-крайм по-русски: как Леонид Каневский, бессменный ведущий передачи «Следствие вели…», стал культовой фигурой для зумеров Тру-крайм по-русски: как Леонид Каневский, бессменный ведущий передачи «Следствие вели…», стал культовой фигурой для зумеров

В чем феномен популярности передачи «Следствие вели…»?

Правила жизни
Татуаж ареол: как преобразить грудь с помощью перманентного макияжа Татуаж ареол: как преобразить грудь с помощью перманентного макияжа

Как с помощью перманентного макияжа можно преобразить ареолы груди

VOICE
Распространенная пищевая добавка снижает агрессивность на 30% Распространенная пищевая добавка снижает агрессивность на 30%

Добавки с рыбьим жиром, содержащие омега-3, снижают агрессивность

ТехИнсайдер
Петербург будущего Петербург будущего

Владимир Ильич Травуш проектировал самые высокие здания современной России

Собака.ru
Осушение превратило торфяные леса Индонезии в источник углекислого газа Осушение превратило торфяные леса Индонезии в источник углекислого газа

Дренаж повлиял на леса Индонезии даже хуже, чем регулярные природные засухи

N+1
3 признака в поведении, по которым легко заподозрить деменцию 3 признака в поведении, по которым легко заподозрить деменцию

Ключевые признаки, которые указывают на то, что у пациента развивается деменция

Psychologies
По капле воды: как с помощью философии кайдзен мгновенно снизить уровень стресса По капле воды: как с помощью философии кайдзен мгновенно снизить уровень стресса

Глава из книги «Путешествие на восходе солнца» о японской философии кайдзен

Forbes
Они еще и разговаривают. У кашалотов есть язык, и его можно расшифровать Они еще и разговаривают. У кашалотов есть язык, и его можно расшифровать

Коды, орнаментации и рубато — как выглядит язык кашалотов?

СНОБ
Аксенова Любовь Аксенова Любовь

Люба Аксенова — о том, почему она не «девушка Бонда»

Собака.ru
Между Оруэллом и Хаксли: 10 отличных сериалов-антиутопий Между Оруэллом и Хаксли: 10 отличных сериалов-антиутопий

Сериалы-антиутопии: от инкубаторов для детей до религиозных конфликтов

Правила жизни
Арифметика везения Арифметика везения

3 удачных и 3 опасных цифры для привлечения денег

Лиза
11 подсказок для общения с пожилыми родителями 11 подсказок для общения с пожилыми родителями

Как выстроить отношения взрослым детям со взрослыми родителями?

Psychologies
Как сохранять концентрацию: 3 рабочие стратегии Как сохранять концентрацию: 3 рабочие стратегии

Как управлять вниманием и учиться держать фокус в рабочее время и не только?

Psychologies
«Будущий интернет будущего» «Будущий интернет будущего»

Что такое Web 3.0 и когда наступит эпоха Web 4.0

РБК
Анатомия заблуждений: почему люди все еще верят в ложь, мистификацию и теории заговоров Анатомия заблуждений: почему люди все еще верят в ложь, мистификацию и теории заговоров

Отрывок из книги «Время заблуждений» — почему мы верим в ложные убеждения?

Inc.
Ложь, шум и капелька яда Ложь, шум и капелька яда

Каким цифровым «зельем» можно отравить нейросеть и к чему это приведет

РБК
Неудачный дебют: почему «Чистильщик бассейнов» не дотягивает до большого кино Неудачный дебют: почему «Чистильщик бассейнов» не дотягивает до большого кино

Каким получился комедийный детектив о злостных коррупционерах

Forbes
«Малым территориям — большое будущее» «Малым территориям — большое будущее»

Технология развития северных территорий через вовлечение местного сообщества

Позитивные изменения
Открыть в приложении