Какие галлюцинации видит искусственный интеллект?

ТехИнсайдерHi-Tech

У ИИ бывают «галлюцинации», но не такие, как у человека

Владимир Губайловский

a4aa6d7bb83abda5116f5e69aff6ddba_ce_1400x934x0x0.jpg
https://bernardmarr.com/

Ученые анализируют новый феномен, возникший за последний год после распространения чат-ботов, таких как ChatGPT. Большая языковая модель может не только выдать неверную информацию, но и упорствовать, доказывая, что все так и есть. Это явление получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. На сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека.

Галлюцинации ИИ в чем-то воспроизводят галлюцинации человека, и научившись "лечить" галлюцинации на модели, мы и человеку поможем лучше понимать реальность.

Запуск все более мощных больших языковых моделей (LLM), таких как GPT-3.5 и 4.0 вызвал большой интерес за последний год. Сначала люди пришли буквально в восторг от возможностей чат-ботов, но доверие к этим моделям ослабло, когда пользователи обнаружили, что модели ошибаются, что они, как и мы, не совершенны.

Явление, когда LLM не только выдает неверную информацию, но и упорствует, доказывая, что все так и есть, получило название "галлюцинации ИИ". В настоящее время ведется интенсивная исследовательская работа по минимизации этого эффекта. Сегодня эта задача не решена. И ученые задумались о связи между галлюцинациями у ИИ и у человека. Возможно, ИИ в чем-то повторяет наш собственный опыт.

Понимая такую связь можно попытаться создавать более продвинутые системы ИИ, которые в конечном итоге помогут уменьшить количество человеческих ошибок.

Как галлюцинируют люди

4e72f4a581d0a0f204c99abcc7cd4972.jpg
bbc.com

Люди придумывают информацию. Иногда это делается намеренно, а иногда - это ошибка памяти. Такие ошибки часто является результатом своего рода "эвристики", основанной на нашем опыте. Мы заменяем длинное рассуждение ярлыком, который рождается при сжатии ошибочных данных.

Часто эти ярлыки рождаются из необходимости. В любой момент времени мы можем обработать лишь ограниченное количество информации, поступающей на наши органы чувств, и можем запомнить лишь малую часть всей информации, с которой мы сталкиваемся.

Поэтому наш мозг должен использовать заученные ассоциации, чтобы заполнить пробелы и быстро ответить на любой вопрос или затруднение, возникшее перед нами. Другими словами, наш мозг угадывает правильный ответ на основе ограниченных знаний. Это явление называется "конфабуляция" (confabulation - или попросту "болтовня") и является примером человеческого предубеждения.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Май 2025 стал одним из самых жарких за всю историю наблюдений Май 2025 стал одним из самых жарких за всю историю наблюдений

За последние 22 месяца средняя температура была на 1,5°C выше

ТехИнсайдер
Чем так важна икона «Троица» Андрея Рублева для мирового искусства? Чем так важна икона «Троица» Андрея Рублева для мирового искусства?

Почему икона стала камнем преткновения между РПЦ и музейным обществом?

Maxim
Безопасность использования ИИ в банках: что важно знать Безопасность использования ИИ в банках: что важно знать

Как именно работает искусственный интеллект в финансовом секторе

Inc.
Квадрокоптер-трансформер c ротор-колесами научился стоять на двух ногах Квадрокоптер-трансформер c ротор-колесами научился стоять на двух ногах

Инженеры разработали робота-трансформера под названием Morphobot M4

N+1
Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья Когда медицина перестает быть бумажной: как Москва лечит людей и спасает деревья

Как электронная медицина спасает сотни деревьев?

Правила жизни
За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана За кулисами счастья Абдаллы и Рании: тайны и трагедии королевской семьи Иордана

Почему король Абдалла II так ценит свой личный островок спокойствия

VOICE
Изменение климата в Европе ведет к росту вирусных заболеваний, переносимых комарами Изменение климата в Европе ведет к росту вирусных заболеваний, переносимых комарами

Тенденция к потеплению делает условия приятнее для инвазивных видов комаров

ТехИнсайдер
Алгоритм сортировки, созданный ИИ, работает в 3 раза быстрее всех придуманных математиками за столетие Алгоритм сортировки, созданный ИИ, работает в 3 раза быстрее всех придуманных математиками за столетие

Искусственный интеллект нашел самые быстрые способы сортировки

ТехИнсайдер
Денис Прытков Денис Прытков

Главный кинодебютант года влюбил всю страну в обаятельного интерна-реаниматолога

Собака.ru
Что рождается в спорах: пятиминутный путеводитель по главным грибам в истории Что рождается в спорах: пятиминутный путеводитель по главным грибам в истории

Грибы — это организмы, не раз менявшие ход истории

Правила жизни
Дорогой Кент: лучшие фильмы, сериалы и мультфильмы о Супермене Дорогой Кент: лучшие фильмы, сериалы и мультфильмы о Супермене

Лучшие фильмы, сериалы, мультфильмы о приключениях Кларка Кента и его альтер эго

Правила жизни
Тихие американцы Тихие американцы

Что ждет коренных американцев в будущем?

Вокруг света
Простые радости Простые радости

В лаконичном современном интерьере сохранены основные принципы функциональности

Идеи Вашего Дома
Поощрялись ли в старину неравные браки? Поощрялись ли в старину неравные браки?

Какими были браки и венчания в старину

Культура.РФ
Концептуальный романтизм Концептуальный романтизм

Андрей Кузькин: перформативная поэзия

Weekend
Как поклонники бизнес-тренингов построили сеть школ барабанов по франшизе на 1,2 млрд Как поклонники бизнес-тренингов построили сеть школ барабанов по франшизе на 1,2 млрд

Как устроена сеть музыкальных кружков под брендом «Не школа»?

Forbes
Цена переуступки Цена переуступки

Почему квартира по ипотеке «от застройщика» продается только с дисконтом

Деньги
Загадочный синдром Загадочный синдром

Что такое метаболический синдром и чем он так опасен?

Лиза
Не только в коктейли: 10 потрясающих методов использования кубиков льда, которые пригодятся каждому Не только в коктейли: 10 потрясающих методов использования кубиков льда, которые пригодятся каждому

Какие суперспособности есть у обычного кусочка льда?

ТехИнсайдер
Побег от реальности Побег от реальности

Как художники превратили старую ферму в арт-пространство и приют интеллектуалов

Seasons of life
Рецепторы мозга помогают разделить воображаемое и реальное Рецепторы мозга помогают разделить воображаемое и реальное

Ученые составили карту светофоров для мозга макак

ТехИнсайдер
Почему камера на 50 Мп может снимать лучше, чем сенсор на 108 Мп? Почему камера на 50 Мп может снимать лучше, чем сенсор на 108 Мп?

Почему большое количество мегапикселей не всегда выдаёт хорошие результаты?

CHIP
Почему некоторые люди вечно опаздывают и как можно избавиться от этой пагубной привычки Почему некоторые люди вечно опаздывают и как можно избавиться от этой пагубной привычки

В чем причины систематических опозданий и как можно от них избавиться?

ТехИнсайдер
5 мифов о фитнесе после родов, в которые пора перестать верить 5 мифов о фитнесе после родов, в которые пора перестать верить

Как мамам после родов вернуться к прежнему образу жизни?

VOICE
В Германии 300 человек собрались в церкви на необычную службу. Ее провел ChatGPT! В Германии 300 человек собрались в церкви на необычную службу. Ее провел ChatGPT!

Протестанты посетили церковную службу, сгенерированную искусственным интеллектом

ТехИнсайдер
Великий комбинатор фрагментов картины Великий комбинатор фрагментов картины

Александр Дашевский: живопись с перспективами

Weekend
Чего я не знала, начиная бизнес «Хочу, чтобы люди посмотрели на меня и сказали: эта девчонка смогла, и я тоже смогу» — Гузель Санжапова о развитии русской деревни Чего я не знала, начиная бизнес «Хочу, чтобы люди посмотрели на меня и сказали: эта девчонка смогла, и я тоже смогу» — Гузель Санжапова о развитии русской деревни

Гузель Санжапова — о развитии русской деревни

Inc.
«Она Стас Михайлов для девчонок»: продюсер Пашу заявил, что Анна Asti поет для «обиженных разведенок» «Она Стас Михайлов для девчонок»: продюсер Пашу заявил, что Анна Asti поет для «обиженных разведенок»

Пашу оценил популярность бывшей солистки группы Artik & Asti

VOICE
«Накачать» точку G и увеличить влагалище: для чего нужна интимная косметология «Накачать» точку G и увеличить влагалище: для чего нужна интимная косметология

Интимная косметология: как она избавляет от дискомфорта?

Psychologies
Ограниченные данные: зачем страховым компаниям знать больше о своих клиентах Ограниченные данные: зачем страховым компаниям знать больше о своих клиентах

Почему страховые компании не всегда могут собрать и обработать данные клиентов?

Forbes
Открыть в приложении