Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Испорченный телефон: как защитить свое устройство от прослушки Испорченный телефон: как защитить свое устройство от прослушки

Как определить, есть ли лишние «уши» у вашего телефона и что делать, если да

ТехИнсайдер
Почему котам и собакам нравится, когда их гладят? Ведь в дикой природе этого нет Почему котам и собакам нравится, когда их гладят? Ведь в дикой природе этого нет

Почему животным нравится, когда хозяева их гладят?

ТехИнсайдер
Что такое CSS. И как подключить CSS к HTML Что такое CSS. И как подключить CSS к HTML

О CSS, инструменте, который позволяет создавать красивые и стильные веб-страницы

Цифровой океан
Типология энергетических вампиров: как не стать жертвой Типология энергетических вампиров: как не стать жертвой

Энергетические вампиры — кто они и что задумали?

Psychologies
Движение F.I.R.E. — что это такое Движение F.I.R.E. — что это такое

Идеология F.I.R.E: есть ли польза от решения «копить больше, тратить — меньше»

Psychologies
Как взять в отпуск всё, что надо, но обойтись небольшой сумкой: 8 советов опытных путешественников Как взять в отпуск всё, что надо, но обойтись небольшой сумкой: 8 советов опытных путешественников

Отпуск был бы прекрасен, если бы не предшествующие ему сборы

VOICE
Сибирь, XXI век: что будет, если в России построят больше железных дорог Сибирь, XXI век: что будет, если в России построят больше железных дорог

Драйвером роста современной России снова станут железные дороги

ТехИнсайдер
Артериальную гипертензию у подростков связали с инфарктами и инсультами во взрослом возрасте Артериальную гипертензию у подростков связали с инфарктами и инсультами во взрослом возрасте

У подростков с артериальной гипертензией высок риск инфарктов во взрослой жизни

N+1
Семейное дело: как дети режиссеров идут по стопам родителей и строят карьеру в кино Семейное дело: как дети режиссеров идут по стопам родителей и строят карьеру в кино

Профессию в киноиндустрии «наследуют» не только актеры, но и режиссеры

Forbes
«Мария Монтессори: воспитание любовью»: право детей на свободу выбора «Мария Монтессори: воспитание любовью»: право детей на свободу выбора

Фильм об итальянском педагоге, которая создала уникальную систему воспитания

Монокль
Книжные клубы знаменитостей: что читают и рекомендуют Эмма Уотсон, Риз Уизерспун и Сара Джессика Паркер Книжные клубы знаменитостей: что читают и рекомендуют Эмма Уотсон, Риз Уизерспун и Сара Джессика Паркер

Книжные клубы актрис, певиц и телеведущих и их рекомендации

СНОБ
Популярность Майнкрафта. Почему эта игра всем нравится Популярность Майнкрафта. Почему эта игра всем нравится

В чем секрет успеха игры, у которой нет главного – конечной цели?

Цифровой океан
Екатерина Великая в Москве Екатерина Великая в Москве

Екатерина Великая не любила Москву, но так ли всё однозначно?

Знание – сила
Оцифрованный фитнес Оцифрованный фитнес

Виртуальная реальность и искусственный интеллект добрались и до тренажеров

ТехИнсайдер
Малыш и море Малыш и море

Чек-лист и полезные советы, чтобы отпуск с ребенком на море был только в радость

Лиза
Король умер — да сгинет король Король умер — да сгинет король

Людовик XV и Людовик XVI: насколько один плохой монарх должен быть хуже другого

Weekend
Как сила воли влияет на наши решения Как сила воли влияет на наши решения

Как и зачем тренировать силу воли?

Psychologies
Пыльца покажет Пыльца покажет

Как растения раскрывают преступления и загадки археологии

N+1
Одна из «Девочек»: как Лина Данэм изменила женские образы на экране и пережила хейт Одна из «Девочек»: как Лина Данэм изменила женские образы на экране и пережила хейт

как актриса Лина Данэм борется со стереотипами, не боясь делать ошибки

Forbes
7 признаков того, что пора менять воздушный фильтр: знаете ли вы их 7 признаков того, что пора менять воздушный фильтр: знаете ли вы их

Своевременно менять воздушный фильтр даже важнее, чем масляный

ТехИнсайдер
Древние ДНК раскрывают тайны исчезнувшего Аварского каганата Древние ДНК раскрывают тайны исчезнувшего Аварского каганата

Что древние ДНК могут рассказать о жизни и обычаях аваров?

ТехИнсайдер
16 самых лучших и популярных аниме-сериалов 16 самых лучших и популярных аниме-сериалов

Аниме, которые стоит посмотреть взрослым

Maxim
Как выбрать хороший бинокль и не прогадать Как выбрать хороший бинокль и не прогадать

На что обращать внимание при выборе хорошего бинокля?

CHIP
Найти преступника по фрагментам дерева: как природа помогает криминалистам расследовать преступления Найти преступника по фрагментам дерева: как природа помогает криминалистам расследовать преступления

Как по биологическим следам восстановить картину преступления?

ТехИнсайдер
Почему Сеул стал столицей Южной Кореи: отрывок из книги Андрея Ланькова Почему Сеул стал столицей Южной Кореи: отрывок из книги Андрея Ланькова

Отрывок из сборника очерков об истории, культуре и бытовой жизни Южной Кореи

СНОБ
Не хочу, не буду!.. Не хочу, не буду!..

Как приучить детей к здоровой еде? Руководство для заботливых родителей

Лиза
Успешные правила Успешные правила

Андрей Малахов и психолог Нигина Абаева – о побочке соцсетей и чувстве стыда

Psychologies
«Я думала, что никогда не сделаю аборт»: отрывок из романа о разрушающем чувстве вины «Я думала, что никогда не сделаю аборт»: отрывок из романа о разрушающем чувстве вины

Отрывок из повести Клаудии Пиньейро «Элена знает»

Forbes
Путешествие с друзьями: 10 советов Путешествие с друзьями: 10 советов

Рекомендации для тех, кто хочет взять с собой хвостатых в отпуск

Новый очаг
Ученые узнали, почему реки Аляски начали ржаветь Ученые узнали, почему реки Аляски начали ржаветь

Почему реки Аляски окрасились в странный оттенок, который видно даже из космоса?

ТехИнсайдер
Открыть в приложении