Как система KnowHalu помогает бороться с галлюцинацими

ТехИнсайдерHi-Tech

Разработан новый метод борьбы с галлюцинациями больших лингвистических моделей

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu

Владимир Губайловский

Галлюцинация LLM. DALLE-3

Галлюцинации становятся едва ли не главным препятствием в развитии больших лингвистических моделей. Человек хочет использовать модели, но он не может доверять.

Большие языковые модели (LLM) — это диалоговые системы на основе искусственного интеллекта, которые могут отвечать на запросы пользователей и генерировать убедительные тексты, следуя инструкциям пользователя (промптам). После появления ChatGPT, разработанной OpenAI, эти модели становятся все более популярными, и все больше компаний сейчас инвестируют в их разработку.

Но чем чаще люди используют LLM, тем большую ответственность они возлагают на модели. Если необходимо постоянно проверять ответы модели, она просто теряет смысл. Она не должна бы ошибаться, а она ошибается и так редко.

Ее ошибки получили название «галлюцинаций». Можно ли избавиться, если от всех то большинства таких ошибок, или хотя уверенно их диагностировать.

Исследователи из Университета Иллинойса в Урбане-Шампейне представили систему для обнаружения галлюцинаций в тексте, генерируемом LLM. Система получила название KnowHalu. Она описана в статье, опубликованной на сервере препринтов arXiv.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как выбрать мясорубку и не превратить кухню в филиал мясокомбината Как выбрать мясорубку и не превратить кухню в филиал мясокомбината

Как выбрать идеальную мясорубку, чтобы она не стала пылесборником на полке

ТехИнсайдер
Готовы ли мы оказать помощь: за это отвечает определенный регион мозга, который нашли ученые Готовы ли мы оказать помощь: за это отвечает определенный регион мозга, который нашли ученые

Нейробиологи установили регион мозга, ответственный за помощь другим

ТехИнсайдер
5 сверхспособностей, которые станут доступны людям уже через 5 лет по версии футурологов 5 сверхспособностей, которые станут доступны людям уже через 5 лет по версии футурологов

Какие «суперспособности» станут реальностью уже к 2030 году — и какой ценой?

Maxim
Сложное соседство: как жить в одном доме с кошкой, если у вас появилась аллергия Сложное соседство: как жить в одном доме с кошкой, если у вас появилась аллергия

Как ужиться в одной квартире с кошкой, если у вас появилась аллергия на нее?

ТехИнсайдер
«Год Черной Обезьяны»: семейная сага о первых постсоветских десятилетиях «Год Черной Обезьяны»: семейная сага о первых постсоветских десятилетиях

Отрывок из романа-размышления о том, как прошлое определяет будущее

Forbes
Как придать обивке мебели восхитительный свежий аромат: 5 лайфхаков профессиональных клинеров Как придать обивке мебели восхитительный свежий аромат: 5 лайфхаков профессиональных клинеров

Как сделать так, чтобы в гостиной всегда восхитительно пахло?

VOICE
Умение держать себя в руках Умение держать себя в руках

Как научить ребенка контролировать свои хотелки и эмоции?

Здоровье
Психопатология жизни Сальвадора Дали: что скрывается за творчеством гения Психопатология жизни Сальвадора Дали: что скрывается за творчеством гения

О взбалмошном поведении, эксцентричной личности и скандальном творчестве Дали

Psychologies
7 фильмов о великих художниках 7 фильмов о великих художниках

Выдающиеся фильмы о живописцах, от эпохи Возрождения до XX века

СНОБ
И ничего серого! И ничего серого!

Jimmy — продуманная, необычная и интересная яхта

Y Magazine
Впервые за пять лет в топ-50 самых высокооплачиваемых спортсменов мира нет женщин Впервые за пять лет в топ-50 самых высокооплачиваемых спортсменов мира нет женщин

Пока в топ самых высокооплачиваемых спортсменов мира не попала ни одна женщина

Forbes
Удовольствие или проблема. Что такое нимфомания и как ее определить Удовольствие или проблема. Что такое нимфомания и как ее определить

Нимфомания – понятие, довольно часто встречающееся в разговорах о сексуальности

Лиза
The Doors для сглаживания танинов и Дебюсси для усиления свежести. Как музыка меняет вкус вина The Doors для сглаживания танинов и Дебюсси для усиления свежести. Как музыка меняет вкус вина

Почему сомелье предпочитают проводить дегустации в тишине?

СНОБ
Эволюция смайликов: как выглядели первые эмодзи Эволюция смайликов: как выглядели первые эмодзи

Хотя кажется, что эмодзи является современной функцией, это на самом деле не так

ТехИнсайдер
«Дух соревнования вреден для торгового счета» «Дух соревнования вреден для торгового счета»

RuMS о своей победе, допущенных ошибках и трейдерском пути

Монокль
Хвостатый рейс: в США открыли авиакомпанию премиум-класса для собак Хвостатый рейс: в США открыли авиакомпанию премиум-класса для собак

В этой авиакомпании все для... собак

ТехИнсайдер
Люди, которые любят вино, чаще называют свои дни «счастливыми» Люди, которые любят вино, чаще называют свои дни «счастливыми»

Согласно опросу, месяц обязательно будет «выдающийся», если вы выпиваете вино!

ТехИнсайдер
Как самопожертвование портит отношения Как самопожертвование портит отношения

Когда можно идти на уступки, а когда это лишь навредит и вам, и отношениям

Psychologies
Акварелист-виртуоз и фаворит президента. Что нужно знать про художника Сергея Андрияку Акварелист-виртуоз и фаворит президента. Что нужно знать про художника Сергея Андрияку

Как художник Сергей Андрияку относился к искусству и почему стал известным?

СНОБ
Я — сноб: писатель Шамиль Идиатуллин Я — сноб: писатель Шамиль Идиатуллин

Писатель Шамиль Идиатуллин — о своем романе и режиме «можно, в принципе»

СНОБ
Насколько добрый мой город? Насколько добрый мой город?

Репортаж с конференции «Про развитие городов и сообществ»

Позитивные изменения
Следы на воде Следы на воде

Чем способны удивить новинки люксового яхтостроения в этом году?

RR Люкс.Личности.Бизнес.
«А вы точно врач?»: как выбрать пластического хирурга «А вы точно врач?»: как выбрать пластического хирурга

Какими качествами должен обладать хороший пластический хирург?

Правила жизни
Медленно, но верно Медленно, но верно

Стиль питания – всего лишь набор пищевых привычек, менять их нужно постепенно

Лиза
Чем накормить гения Чем накормить гения

Как помочь нашим детям хорошо сдать экзамены?

Лиза
Букет — маме, жене — цветок: новый тренд возмутил пользователей соцсетей Букет — маме, жене — цветок: новый тренд возмутил пользователей соцсетей

Кто дороже: мама или жена? Каждая занимает особое место в сердце мужчины

Psychologies
Гид в кармане Гид в кармане

7 полезных приложений для путешествий по России

Лиза
На наконечниках стрел эпохи неолита нашли остатки человеческого белка На наконечниках стрел эпохи неолита нашли остатки человеческого белка

Ученые исследовали каменные наконечники стрел возрастом около 8-9 тысяч лет

N+1
Без комплексов Без комплексов

Изучим самые распространенные женские причуды и варианты терапии

Лиза
Растительное мясо полезно для планеты, но как насчет здоровья людей? Узнайте ответ экспертов! Растительное мясо полезно для планеты, но как насчет здоровья людей? Узнайте ответ экспертов!

Польза от растительного мяса ясна, но что насчет вреда?

ТехИнсайдер
Открыть в приложении