Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Настоящие произведения искусства: топ-5 самых красивых паспортов в мире Настоящие произведения искусства: топ-5 самых красивых паспортов в мире

Развороты некоторых паспортов можно смело вывешивать в галереях. Посмотрите!

ТехИнсайдер
Борьба с течением: как за рубежом регулируют сферу кибербезопасности Борьба с течением: как за рубежом регулируют сферу кибербезопасности

Опыт стран, которые работают с утечками данных на системном уровне

Forbes
От мела к модели: как искусственный интеллект перестраивает образовательный процесс От мела к модели: как искусственный интеллект перестраивает образовательный процесс

ИИ вошел во многие сферы жизни. Не избежала его и система образования

ТехИнсайдер
Наполеон ненастоящий Наполеон ненастоящий

Новый «Наполеон»: богато снятая сказка, имеющая мало общего с реальностью

Дилетант
Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели Раскрыта cтратегия, которой следуют успешные люди на пути к большой цели

Какими качествами должны обладать эффективные лидеры и сотрудники

Inc.
Вы похудели и вес встал на одном месте? Вот почему это происходит: интересный факт! Вы похудели и вес встал на одном месте? Вот почему это происходит: интересный факт!

Почему у людей прекращается успешная потеря веса и вес выходит на плато

ТехИнсайдер
Овеянные легендами Овеянные легендами

Лучшие туристические объекты страны, включенные в Список всемирного наследия

Лиза
Топ-7 вещей раздражающих нас в автомобиле Топ-7 вещей раздражающих нас в автомобиле

Что раздражает владельцев машин премиум-класса?

4x4 Club
Почему желтеет маникюр и как избежать изменения цвета лака для ногтей Почему желтеет маникюр и как избежать изменения цвета лака для ногтей

Как предотвратить желтизну маникюра со стойким покрытием

VOICE
Что такое Ватсу: обзор популярной телесно-ориентированной практики Что такое Ватсу: обзор популярной телесно-ориентированной практики

Практика Ватсу: как она проходит и влияет на состояние человека

Psychologies
Мария Михалкова-Кончаловская: «Я пытаюсь отучиться бросаться в омут с головой» Мария Михалкова-Кончаловская: «Я пытаюсь отучиться бросаться в омут с головой»

Молодая актриса рассказала, каково принадлежать к влиятельной актерской династии

Maxim
10 вещей, по которым мы скучаем в современных автомобилях 10 вещей, по которым мы скучаем в современных автомобилях

Ностальгируем, вспоминая функции в машинах, которые так и остались в прошлом

Maxim
Душа — в теле Душа — в теле

Театр Crave — заведение таинственное, притягательное и необычное

Men Today
Ученые считают, что запахи природы влияют на здоровье и благополучие человека Ученые считают, что запахи природы влияют на здоровье и благополучие человека

Как естественные запахи могут влиять на наши эмоции, мысли и физическое здоровье

ТехИнсайдер
Как Элишка Юнкова стала гонщицей во времена, когда женщины в тайне учились водить Как Элишка Юнкова стала гонщицей во времена, когда женщины в тайне учились водить

История женщины, которой покорялись самые сложные трассы

Forbes
Стоит ли увидеть новое кино Гая Ричи «Министерство неджентльменских дел». Честная рецензия MAXIM Стоит ли увидеть новое кино Гая Ричи «Министерство неджентльменских дел». Честная рецензия MAXIM

Ричи решил снять своих «Бесславных ублюдков», что у него из этого получилось?

Maxim
Генетики пересчитали время смешения предков современных людей и неандертальцев Генетики пересчитали время смешения предков современных людей и неандертальцев

Когда произошло смешение предков современных людей с неандертальцами?

N+1
Не хочу, не буду!.. Не хочу, не буду!..

Как приучить детей к здоровой еде? Руководство для заботливых родителей

Лиза
Как наладить отношения с новыми коллегами и подчиненными: правило трех К Как наладить отношения с новыми коллегами и подчиненными: правило трех К

Как влиться в коллектив, быть в нем эффективным и на хорошем счету?

Psychologies
От «Хулиганов и ботанов» до «Эйфории»: 10 увлекательных подростковых сериалов От «Хулиганов и ботанов» до «Эйфории»: 10 увлекательных подростковых сериалов

Важные шоу о юношестве: без демогоргонов и супергероев

Правила жизни
Что делать, чтобы жить счастливее: идеи из книги «Мозг и его потребности» Что делать, чтобы жить счастливее: идеи из книги «Мозг и его потребности»

Как нейромедиаторы влияют на качество жизни?

РБК
Литературные персонажи, которые бесят всех до чертиков Литературные персонажи, которые бесят всех до чертиков

11 примеров, когда герой книги раздражает настолько, что хочется бросить чтение

Maxim
Как обрести уверенность в себе как в профессионале: 3 шага Как обрести уверенность в себе как в профессионале: 3 шага

Как выявить у себя синдром самозванца и что делать после

Psychologies
10 цитат Альфрида Лэнгле, которые вернут вашей жизни смысл 10 цитат Альфрида Лэнгле, которые вернут вашей жизни смысл

Несколько цитат известного психолога, которые помогут вернуть смысл жизни

Psychologies
«Грохот», «Триллер», «Война» и «Резня»: величайшие противостояния в истории бокса «Грохот», «Триллер», «Война» и «Резня»: величайшие противостояния в истории бокса

Самые значимые бои в истории мирового бокса

Forbes
Пять возможных шагов к экономике предложения Пять возможных шагов к экономике предложения

Правительство собирается перевести народное хозяйство на экономику предложения

Монокль
Грязные дела: как правильно выбрать буксировочный трос в машину Грязные дела: как правильно выбрать буксировочный трос в машину

Плюсы и минусы разных видов буксировочных тросов

ТехИнсайдер
Секрет молодости и худобы китайцев: удивительные преимущества употребления теплой воды Секрет молодости и худобы китайцев: удивительные преимущества употребления теплой воды

В чем польза горячей и теплой воды?

ТехИнсайдер
Можно ли есть черные бананы? Вы поразитесь ответу западных экспертов! Интересные факты Можно ли есть черные бананы? Вы поразитесь ответу западных экспертов! Интересные факты

Cтоит ли употреблять почерневшие бананы или безопаснее выбросить их в ведро

ТехИнсайдер
Идеи для девичника: как провести время с подругами Идеи для девичника: как провести время с подругами

Как организовать девичник так, чтобы он запомнился и понравился всем участникам?

Здоровье
Открыть в приложении