Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Оправданны ли траты: почему брекеты стоят так дорого? Оправданны ли траты: почему брекеты стоят так дорого?

Почему брекеты стоят так дорого и на чем нельзя экономить при лечении

ТехИнсайдер
«Красные гиганты»: как баскетбол становился частью советской культуры и спорта «Красные гиганты»: как баскетбол становился частью советской культуры и спорта

Отрывок из книги «Красные гиганты. История советского баскетбола»

Forbes
Правда ли, что OLED-экраны мониторов и телевизоров выгорают? Правда ли, что OLED-экраны мониторов и телевизоров выгорают?

Выгорание OLED-экранов: оправданы ли страхи в действительности?

CHIP
Как удалить объект с фото онлайн — 3 простых и бесплатных способа Как удалить объект с фото онлайн — 3 простых и бесплатных способа

Как удалить ненужный объект с фото онлайн — быстро и бесплатно

CHIP
Вечная молодость: 7 легендарных внедорожников, которые выпускались более 20 лет Вечная молодость: 7 легендарных внедорожников, которые выпускались более 20 лет

Автотитаны, которые десятилетиями остаются на конвейере

4x4 Club
Что такое ВУТ, для чего он служит, принципы работы, устройство Что такое ВУТ, для чего он служит, принципы работы, устройство

Все о вакуумном усилителе: что это и для чего нужно в автомобиле

РБК
6-летняя девочка делает макияж в детский сад: как поколение альфа рискует травмировать себя 6-летняя девочка делает макияж в детский сад: как поколение альфа рискует травмировать себя

Почему поколение альфа так одержимо макияжем и чем это может им навредить?

Psychologies
Медицинский случай: у очень редких «близнецов-пауков» три ноги, четыре руки и один пенис Медицинский случай: у очень редких «близнецов-пауков» три ноги, четыре руки и один пенис

Сиамские близнецы в Индонезии родились сросшимися, как «паук»

ТехИнсайдер
10 городов с самым большим количеством миллиардеров — 2024 10 городов с самым большим количеством миллиардеров — 2024

Какие мегаполисы стали центрами притяжения для самых богатых людей мира

Forbes
Как заполучить красивый и ровный загар: 5 золотых секретов от косметолога Как заполучить красивый и ровный загар: 5 золотых секретов от косметолога

Как подготовить кожу к солнечным ваннам, чтобы получить ровный загар?

VOICE
Опиум из народа Опиум из народа

Как Дени Вильнёв деколонизировал Дюну, но не смог изменить судьбу фременов

Weekend
Как благодарность меняет мозг: 3 неожиданных вывода психологов Как благодарность меняет мозг: 3 неожиданных вывода психологов

Как работает практика благодарности и правда ли она так полезна?

Psychologies
Миллион цветных деталей Миллион цветных деталей

Весь мир играет в конструкторы «Лего» семьдесят лет и не наигрался до сих пор

Вокруг света
Канны-2024: зачем Коппола 40 лет думал о Римской империи Канны-2024: зачем Коппола 40 лет думал о Римской империи

Каким получился «Мегалополис» Фрэнсиса Форда Копполы

РБК
7 фраз, которые нельзя говорить самому себе 7 фраз, которые нельзя говорить самому себе

Некоторые установки по-настоящему токсичны, и их лучше избегать

Maxim
Книжные клубы знаменитостей: что читают и рекомендуют Эмма Уотсон, Риз Уизерспун и Сара Джессика Паркер Книжные клубы знаменитостей: что читают и рекомендуют Эмма Уотсон, Риз Уизерспун и Сара Джессика Паркер

Книжные клубы актрис, певиц и телеведущих и их рекомендации

СНОБ
Насколько добрый мой город? Насколько добрый мой город?

Репортаж с конференции «Про развитие городов и сообществ»

Позитивные изменения
«Цербер»: детектив о жестоких убийствах, которые начались в Петербурге в 1826 году «Цербер»: детектив о жестоких убийствах, которые начались в Петербурге в 1826 году

Глава из романа «Цербер» — о серии жестоких убийств, которые происходили в 1826

Forbes
Супер-Шишига: как Афган «взорвал» перспективный армейский грузовик ГАЗ-3301 Супер-Шишига: как Афган «взорвал» перспективный армейский грузовик ГАЗ-3301

Чем была примечательна армейская «Шишига»?

ТехИнсайдер
Китайский закон о сидячем образе жизни повысил физическую активность детей Китайский закон о сидячем образе жизни повысил физическую активность детей

Ученые оценили влияние закона, регулирующего время доступа детей к онлайн-играм

N+1
И/ИЛИ И/ИЛИ

Отношения народа со своим голосом в рассказе Кафки «Жозефина, или Народ мышей»

Weekend
На ее книгах вырос Стивен Кинг: как Ширли Джексон превращала свои страхи в литературу На ее книгах вырос Стивен Кинг: как Ширли Джексон превращала свои страхи в литературу

История писательницы, на романах которой вырос Стивен Кинг

Forbes
«Не слишком ли много мы думаем?»: как правильно потреблять и перерабатывать информацию «Не слишком ли много мы думаем?»: как правильно потреблять и перерабатывать информацию

Похоже, мозг не справляется с тем валом информации, который обрушивается на нас

Psychologies
Кто так строит: как «Дом-2» стал самым известным долгостроем страны Кто так строит: как «Дом-2» стал самым известным долгостроем страны

Самые громкие скандалы, самые важные имена и самые значимые вехи телепроекта

Правила жизни
Открытый просмотр Открытый просмотр

12 картин, которые подарят вам всю палитру эмоций

Men Today
Как узнать свою группу крови: какие бывают, совместимость Как узнать свою группу крови: какие бывают, совместимость

Что такое группа крови, как ее узнать и чем важен резус-фактор?

РБК
Интегратор и предвосхищатель: как Эль Лисицкий предопределил архитектуру Интегратор и предвосхищатель: как Эль Лисицкий предопределил архитектуру

Как художнику Элю Лисицкому удалось заложить основы современного искусства

РБК
Женская манипуляция. Всегда ли это нужно и как не увлечься психологическими играми Женская манипуляция. Всегда ли это нужно и как не увлечься психологическими играми

Где та тонкая грань между неэкологичными манипуляциями и женской мудростью?

Лиза
Для измерения лунотрясений разработаны лазерные сейсмические датчики Для измерения лунотрясений разработаны лазерные сейсмические датчики

Как распределенное акустическое зондирование позволит измерять лунотрясения

ТехИнсайдер
Вот и сказочке конец: как Винни-Пух стал серийным убийцей Вот и сказочке конец: как Винни-Пух стал серийным убийцей

Почему сказки становятся кровавыми хоррорами?

СНОБ
Открыть в приложении