Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Вместо похода к психологу: 4 домашних дела, которые помогут успокоить нервы Вместо похода к психологу: 4 домашних дела, которые помогут успокоить нервы

Как снизить уровень стресса и снять тревогу в домашних условиях?

ТехИнсайдер
Всё что вам нужно знать об обновлённом Skoda Kodiaq Всё что вам нужно знать об обновлённом Skoda Kodiaq

Что изменилось в новом поколении Skoda Kodiaq?

4x4 Club
Почему телефон быстро разряжается и как это исправить: 5 простых советов Почему телефон быстро разряжается и как это исправить: 5 простых советов

Как сделать, чтобы телефон не разряжался быстро

CHIP
История «Ночных ведьм»: женского полка, держащего в страхе немецких солдат История «Ночных ведьм»: женского полка, держащего в страхе немецких солдат

Рассказываем судьбу советских летчиц, которые наводили ужас на немецких военных

ТехИнсайдер
Стесняюсь спросить: как распознать болезнь Альцгеймера? Стесняюсь спросить: как распознать болезнь Альцгеймера?

Альцгеймер: как распознать на ранних этапах и встречается ли он у молодых?

Правила жизни
Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту Как продлить жизнь стиральной машине: 12 простых советов мастеров по ремонту

Эти советы по уходу за стиральной машиной стоит знать

VOICE
Максим Севриновский: «Я сомневаюсь до конца» Максим Севриновский: «Я сомневаюсь до конца»

Исполнитель главных ролей о том, из чего состоит актерская профессия

Монокль
Виртуальные дали Виртуальные дали

Нейросети врываются в мир кино для взрослых и позволяют нарисовать любой сюжет

Men Today
Как понять, что вы встретили своего мужчину: 5 признаков того, что он вам подходит Как понять, что вы встретили своего мужчину: 5 признаков того, что он вам подходит

Как понять, есть ли у вас как пары будущее, а когда лучше расстаться?

Psychologies
«Встретить ее с состраданием и принять»: как правильно реагировать на боль «Встретить ее с состраданием и принять»: как правильно реагировать на боль

Как умение принимать неприятные чувства может помочь вам стать счастливее

Psychologies
Канны-2024: зачем Коппола 40 лет думал о Римской империи Канны-2024: зачем Коппола 40 лет думал о Римской империи

Каким получился «Мегалополис» Фрэнсиса Форда Копполы

РБК
Сибирь, XXI век: что будет, если в России построят больше железных дорог Сибирь, XXI век: что будет, если в России построят больше железных дорог

Драйвером роста современной России снова станут железные дороги

ТехИнсайдер
Удивительный мир живой природы: как общаются между собой живые организмы Удивительный мир живой природы: как общаются между собой живые организмы

Самые необычные способы коммуникации из мира фауны

ТехИнсайдер
Как открыть карту в Казахстане в 2024 году Как открыть карту в Казахстане в 2024 году

Как оформить банковскую карту Казахстана и в каком банке это сделать проще всего

VC.RU
Почему важно читать книги: 5 неожиданных преимуществ для здоровья Почему важно читать книги: 5 неожиданных преимуществ для здоровья

Если вы до сих пор не любите читать, узнайте, какую пользу для здоровья теряете

ТехИнсайдер
Продюсер Максим Королев: В киноиндустрии огромный дефицит кадров Продюсер Максим Королев: В киноиндустрии огромный дефицит кадров

Максим Королев о том, как начинающему кинематографисту попасть в сферу

СНОБ
Роль керамического искусства в интерьере. Художник Никита Макаров — о том, как сформировать коллекцию Роль керамического искусства в интерьере. Художник Никита Макаров — о том, как сформировать коллекцию

Художник Никита Макаров — как прикладное искусство преображает повседневность

СНОБ
Почему некоторые кабриолеты называют спайдерами и при чем тут пауки Почему некоторые кабриолеты называют спайдерами и при чем тут пауки

Слово Spider кажется совершенно неуместным, когда речь заходит об автомобилях

Maxim
X, Y, Z: как работать с людьми разных поколений X, Y, Z: как работать с людьми разных поколений

Почему люди X не могут работать с зумерами и в чем преимущество «игреков»?

Psychologies
Крестоносец за решёткой Крестоносец за решёткой

Роберт Нормандский — один из первых политических узников Средневековья

Дилетант
«По закону они просто вещи»: кто и как в России спасает животных во время катастроф «По закону они просто вещи»: кто и как в России спасает животных во время катастроф

Как фонды и волонтеры вызволяют питомцев, оставленных в зоне затопления

Forbes
Авокадо Авокадо

Все о загадочном авокадо: калорийность, состав, польза

Здоровье
«Я не киллер»: психоаналитическая комедия Линклейтера с феноменальным Гленом Пауэллом «Я не киллер»: психоаналитическая комедия Линклейтера с феноменальным Гленом Пауэллом

Чем впечатляет новая работа Ричарда Линклейтера «Я не киллер»

Правила жизни
«Робею перед такими сочными красками»: почему мы боимся яркого макияжа «Робею перед такими сочными красками»: почему мы боимся яркого макияжа

Почему девушки порой стесняются даже красной помады?

Psychologies
2 признака того, что вы встречаетесь с грандиозным нарциссом 2 признака того, что вы встречаетесь с грандиозным нарциссом

Как нарцисс ведет себя в отношениях?

Psychologies
Пляжные микробы: какие опасности могут поджидать нас на песчаных пляжах Пляжные микробы: какие опасности могут поджидать нас на песчаных пляжах

Оказывается, на пляже можно встретить множество инфекционных организмов!

ТехИнсайдер
Для измерения лунотрясений разработаны лазерные сейсмические датчики Для измерения лунотрясений разработаны лазерные сейсмические датчики

Как распределенное акустическое зондирование позволит измерять лунотрясения

ТехИнсайдер
Битва техники: что лучше — отпариватель или утюг Битва техники: что лучше — отпариватель или утюг

Какой из приборов для глажки одежды поможет добиться наилучшего эффекта?

ТехИнсайдер
Дмитрий Леонтьев: BAIC X75 – машина для удовольствия Дмитрий Леонтьев: BAIC X75 – машина для удовольствия

Кроссовер BAIC X75 – тихое наслаждение

4x4 Club
Александр Пиперски: «Нейросети взломали систему человеческой коммуникации» Александр Пиперски: «Нейросети взломали систему человеческой коммуникации»

Как мы будем обмениваться информацией в век новых технологий

РБК
Открыть в приложении