Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Исследование: мы заменяем младенцев собаками Исследование: мы заменяем младенцев собаками

Связано ли снижение показателей рождаемости с восприятием собак как замены детям

ТехИнсайдер
«Наша задача — не кости с места на место перенести, а достойно похоронить в братской могиле». Как в Московской области ищут останки пропавших без вести солдат «Наша задача — не кости с места на место перенести, а достойно похоронить в братской могиле». Как в Московской области ищут останки пропавших без вести солдат

Как поиск солдат из мальчишеского увлечения превратился в серьезную миссию

СНОБ
Работа с умом: каков потенциал генеративного ИИ для роста производительности в России Работа с умом: каков потенциал генеративного ИИ для роста производительности в России

Ученые проанализировали влияние генеративного ИИ на задачи и профессии

Forbes
«Отменить свадьбу проще, чем жить в несчастливом браке»: 17 вопросов, на которые надо ответить до росписи «Отменить свадьбу проще, чем жить в несчастливом браке»: 17 вопросов, на которые надо ответить до росписи

17 вопросов, которые нужно задать себе и партнеру перед росписью

Psychologies
10 вещей, которые нужно успеть сделать для пожилых родителей 10 вещей, которые нужно успеть сделать для пожилых родителей

Список бесценных вещей, которые вы можете сделать для ваших родителей

Maxim
Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы Что такое «Пифагоровы штаны» и как египтяне строили пирамиды: 6 вопросов о геометрии, которые мучили вас со школы

Об удивительных примерах использования геометрических знаний

ТехИнсайдер
Что такое КШМ, как он устроен и для чего предназначен Что такое КШМ, как он устроен и для чего предназначен

Все о КШМ: назначение, устройство, принцип действия

РБК
Два лучших упражнения для снижения артериального давления: попробуйте догадаться Два лучших упражнения для снижения артериального давления: попробуйте догадаться

Какие упражнения лучше всего подойдут для снижения кровяного давления

ТехИнсайдер
Как болельщики императора свергали Как болельщики императора свергали

Спортивные игры – идеальная среда для социального взрыва

Вокруг света
Что такое неглект и как с ним бороться Что такое неглект и как с ним бороться

Неглект: что такое пассивное насилие? Как оно проявляется?

РБК
Замечали цветные кружки на продуктовых упаковках? Узнайте, что это такое! Замечали цветные кружки на продуктовых упаковках? Узнайте, что это такое!

Что значит тайный язык из ярких кругов или квадратов на упаковках с едой?

ТехИнсайдер
Как самопожертвование портит отношения Как самопожертвование портит отношения

Когда можно идти на уступки, а когда это лишь навредит и вам, и отношениям

Psychologies
Точка невозврата: как распознать клиническую депрессию вовремя Точка невозврата: как распознать клиническую депрессию вовремя

Как самостоятельно диагностировать начало депрессии и вовремя принять меры

Psychologies
Анна Большова: «Сейчас я думаю: «Сколько упущено! Сколько надо было сказать Николаю Петровичу...» Анна Большова: «Сейчас я думаю: «Сколько упущено! Сколько надо было сказать Николаю Петровичу...»

Караченцов был невероятно демократичным, как бы свой парень, душа нараспашку

Коллекция. Караван историй
Ай, меня ужалили! Ай, меня ужалили!

Встретить медуз можно на любом курорте – и ожоги некоторых очень неприятны

Лиза
Как благодарность меняет мозг: 3 неожиданных вывода психологов Как благодарность меняет мозг: 3 неожиданных вывода психологов

Как работает практика благодарности и правда ли она так полезна?

Psychologies
От рака, диабета и болезней сердца: ученые назвали три специи, которые должны быть на каждой кухне От рака, диабета и болезней сердца: ученые назвали три специи, которые должны быть на каждой кухне

Эти три специи принесут колоссальную пользу вашему организму

ТехИнсайдер
Как не стать жертвой чистоты? Как не стать жертвой чистоты?

Мало кто догадывается, что средства чистоты могут стать причиной воспаления

Здоровье
Как нейросети проваливаются в «долину разочарования» и почему это хорошо Как нейросети проваливаются в «долину разочарования» и почему это хорошо

Когда большие языковые модели займут уверенную позицию и достигнут пика?

Forbes
Чайные пакетики рассказали о скорости разложения почвенного органического вещества в России Чайные пакетики рассказали о скорости разложения почвенного органического вещества в России

Зеленый чай в почве разлагается вдвое быстрее ройбуша

N+1
Двум древним египтянам диагностировали рак Двум древним египтянам диагностировали рак

Палеопатологи исследовали два черепа, хранящихся в Кембриджском университете

N+1
«Когда у тебя много детей, остается сильно меньше времени, чтобы думать о смерти». Интервью с режиссером Николаем Хомерики «Когда у тебя много детей, остается сильно меньше времени, чтобы думать о смерти». Интервью с режиссером Николаем Хомерики

Режиссер Николай Хомерики о сериале «Чистые», Петербурге, кино и смерти

СНОБ
Бум внутри периметра: можно ли удвоить долю фондового рынка в российской экономике Бум внутри периметра: можно ли удвоить долю фондового рынка в российской экономике

Быстрый рост фондового рынка возможен, считает главный экономист «Эксперта РА»

Forbes
«Бизнес крупнейших маркетплейсов каждый год растет в два раза, но это стоит все дороже» «Бизнес крупнейших маркетплейсов каждый год растет в два раза, но это стоит все дороже»

Стоит ли продавцам развивать интернет-магазины на фоне количества маркетплейсов?

Деньги
Как избавиться от тревожных мыслей: 2 полезных упражнения Как избавиться от тревожных мыслей: 2 полезных упражнения

Техника медитации и практика наблюдателя для обуздания тревожных мыслей

Psychologies
Все фильмы ужасов «Пила» от худшего до самого убойного Все фильмы ужасов «Пила» от худшего до самого убойного

Почему некоторые ленты о Пиле прекрасны, а другие хочется распилить и сжечь

Maxim
Австралийская Toyota Land Cruiser Prado выйдет со странной решёткой радиатора и дизельным мотором Австралийская Toyota Land Cruiser Prado выйдет со странной решёткой радиатора и дизельным мотором

Каким будет новый Land Cruiser Prado от Toyota Australia

4x4 Club
«Любуйтесь, мамаша, вот он, ребенок ваш»: как женщины переживают акушерское насилие «Любуйтесь, мамаша, вот он, ребенок ваш»: как женщины переживают акушерское насилие

Книга казахской писательницы Алтынай Султан об опыте беременности

Forbes
16 самых лучших и популярных аниме-сериалов 16 самых лучших и популярных аниме-сериалов

Аниме, которые стоит посмотреть взрослым

Maxim
Выход за рамки: как российскому бизнесу повысить шансы на успех за рубежом Выход за рамки: как российскому бизнесу повысить шансы на успех за рубежом

Что необходимо учитывать, чтобы вывести бизнес за пределы страны

Forbes
Открыть в приложении