Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ученые объяснили, как езда на велосипеде способствует снижению риска развития деменции Ученые объяснили, как езда на велосипеде способствует снижению риска развития деменции

Езда на велосипеде полезнее, чем вы думали

ТехИнсайдер
Гельголанд, роковой остров Гельголанд, роковой остров

Маленький остров Гельголанд пережил много всего

Дилетант
Как приручить маркетинг и использовать его на все 100: объясняет эксперт Дмитрий Бескромный Как приручить маркетинг и использовать его на все 100: объясняет эксперт Дмитрий Бескромный

Как развить свой продукт с помощью digital-маркетинга

VOICE
Я - плохая хозяйка: можно ли это исправить? Я - плохая хозяйка: можно ли это исправить?

Из чего складывается неумение поддерживать порядок вокруг себя?

VOICE
Как мужчины разрушают нашу самооценку: что делать и как дать отпор Как мужчины разрушают нашу самооценку: что делать и как дать отпор

Как неосторожные слова и поступки мужчин могут подрывать нашу самооценку

VOICE
В «коконе» умирающей звезды может скрываться источник гравитационных волн В «коконе» умирающей звезды может скрываться источник гравитационных волн

Ученые обнаружили найти новый небинарный источник гравитационных волн

ТехИнсайдер
Покидая Галактику: откуда летят самые быстрые звезды Млечного Пути Покидая Галактику: откуда летят самые быстрые звезды Млечного Пути

Астрономы обнаружили жертвы грандиозных космических взрывов

Forbes
Трудоголизм и лудомания: 6 видов современных поведенческих зависимостей — проверьте себя Трудоголизм и лудомания: 6 видов современных поведенческих зависимостей — проверьте себя

Существует большое количество поведенческих зависимостей, с которыми мы живем

Psychologies
Ароматические углеводороды покрасили тела Пояса Койпера в красный цвет Ароматические углеводороды покрасили тела Пояса Койпера в красный цвет

Астрономы подтвердили идею образования красной окраски тел Пояса Койпера

N+1
«Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха «Если вы никого не раздражаете, то, возможно, не делаете ничего важного»: 3 полезных факта для достижения успеха

Чем существеннее ваши достижения, тем выше вероятность разозлить окружающих

Psychologies
Тюрьмы по всему миру не зарегистрировали половину случаев туберкулеза Тюрьмы по всему миру не зарегистрировали половину случаев туберкулеза

Россия оказалась среди стран с наибольшей частотой туберкулеза среди заключенных

N+1
Чего я не знал, начиная бизнес «Стать примером для других» — Заур Цохолов о гостиничном бизнесе в дагестанском селе Чего я не знал, начиная бизнес «Стать примером для других» — Заур Цохолов о гостиничном бизнесе в дагестанском селе

Заур Цохолов о гостиничном бизнесе в дагестанском селе

Inc.
Пример для саудитов: как Китай попытался стать футбольной сверхдержавой, но не смог Пример для саудитов: как Китай попытался стать футбольной сверхдержавой, но не смог

Чем поучителен пример китайского футбольного бума

Forbes
Кардиолог назвала 3 несуществующих диагноза, которые врачи тем не менее ставят Кардиолог назвала 3 несуществующих диагноза, которые врачи тем не менее ставят

Почему врачи с образованием и долгой практикой ставят диагнозы, которых нет?

Psychologies
«Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“ «Мы располагаем технологическими и экономическими возможностями для того, чтобы покончить с бедностью» | “We Have the Technological and Economic Means to End Poverty“

Интервью с профессором Джеффри Саксом

Позитивные изменения
Вдова Георгия Буркова: «После выхода «Иронии судьбы» Жора не мог спокойно выйти на улицу» Вдова Георгия Буркова: «После выхода «Иронии судьбы» Жора не мог спокойно выйти на улицу»

Бурков трижды приезжал в Москву поступать в театральное училище, но безуспешно

Коллекция. Караван историй
Физики разобрались с танцем арахиса в пиве Физики разобрались с танцем арахиса в пиве

Эксперимент, который поможет добывать руду и обрабатывать ядерные отходы

N+1
Из бункера к звездам Из бункера к звездам

«Укрытие»: детектив, вестерн и тоталитарная антиутопия в одном сериале

Weekend
Можно ли улучшить память? Можно ли улучшить память?

Что мы запоминаем и почему?

VC.RU
Новозеландские палеонтологи описали дельфина-пилу Новозеландские палеонтологи описали дельфина-пилу

Палеонтологи описали новый вид дельфинов, живший около 25 миллионов лет назад

N+1
Диетологи предупреждают: рис таит в себе угрозу вашему здоровью Диетологи предупреждают: рис таит в себе угрозу вашему здоровью

Ряд учёных заявляет о вреде риса для здоровья человека

ТехИнсайдер
Обед с метеоритом Обед с метеоритом

Как знаменитый Челябинский метеорит оставил след на кулинарной карте региона

Лиза
Ядовитый плющ и нежная 2B — самые горячие летние образы от российских косплеерш Ядовитый плющ и нежная 2B — самые горячие летние образы от российских косплеерш

Готовимся встречать жару в компании прекрасных девушек

Maxim
Технология блокчейн делает управление роем роботов безопасным Технология блокчейн делает управление роем роботов безопасным

Как технология блокчейн обеспечивает безопасность роботов

ТехИнсайдер
Андрей Князев Андрей Князев

Эпичный камбэк «Короля и Шута» вызван сериалом-байопиком по творчеству «КИШа»

Собака.ru
Двойные стандарты в отношениях Двойные стандарты в отношениях

Как определить двойные стандарты в отношениях?

Лиза
Великая степь Великая степь

Великая степь была всегда, сколько себя помнит человечество

Вокруг света
Людьми вырастут? Людьми вырастут?

На что похожи и на что способны пять искусственных зародышей человека

N+1
Жук-бомбардир и клоп-хищнец подтвердили взаимовыгодный характер квазибейтсовской мимикрии Жук-бомбардир и клоп-хищнец подтвердили взаимовыгодный характер квазибейтсовской мимикрии

Встреча хищника с одним из этих видов снижает риск нападения на второй

N+1
5 лучших способов не «подсесть» на капли для носа: отвечает врач 5 лучших способов не «подсесть» на капли для носа: отвечает врач

Как избавиться от проблем с дыханием и не «подсесть» на капли для носа

VOICE
Открыть в приложении