Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как нейросети помогают (или мешают) искать работу: мнение экспертов Как нейросети помогают (или мешают) искать работу: мнение экспертов

Какие риски могут возникнуть при собеседовании с ИИ?

ТехИнсайдер
Русский тур Русский тур

Как коровы из Месопотамии пришли на Русский Север, выжили и не замерзли

Вокруг света
Почему телефон быстро разряжается и как это исправить: 5 простых советов Почему телефон быстро разряжается и как это исправить: 5 простых советов

Как сделать, чтобы телефон не разряжался быстро

CHIP
Онкологические больные не отказались от сигарет и вейпов Онкологические больные не отказались от сигарет и вейпов

Курение сигарет и вейпов утяжеляет общие симптомы онкологических заболеваний

N+1
10 вещей, которые нужно успеть сделать для пожилых родителей 10 вещей, которые нужно успеть сделать для пожилых родителей

Список бесценных вещей, которые вы можете сделать для ваших родителей

Maxim
Как блогеру не попасть под статью. Юридический чек-лист Как блогеру не попасть под статью. Юридический чек-лист

Какие у блогеров есть риски и как их снизить, чтобы не попасть под статью

Inc.
Народные волнения: что такое геомагнитные бури и как они влияют на нашу жизнь Народные волнения: что такое геомагнитные бури и как они влияют на нашу жизнь

Чем они опасны и как геомагнитные поля влияют на человека

Forbes
Полина Гагарина: «Я всё больше становлюсь домоседом» Полина Гагарина: «Я всё больше становлюсь домоседом»

Певица Полина Гагарина — о секретах восстановления и своих увлечениях

Здоровье
Алексей Иорш Алексей Иорш

Алексей Иорш занимается живописью, графикой, стрит-артом и поднимает важные темы

Правила жизни
Кто охраняет Меган Маркл, Бейонсе и других звезд - самые крутые телохранители Голливуда Кто охраняет Меган Маркл, Бейонсе и других звезд - самые крутые телохранители Голливуда

Искать компанию звездам не приходится - рядом всегда будет бодигард

VOICE
Ученые разобрались в механизмах действия мутации у шотландки без боли и тревожности Ученые разобрались в механизмах действия мутации у шотландки без боли и тревожности

Ученые подобрались к новым возможностям регуляции эндоканнабиноидной системы

N+1
Почему обычно распадаются браки: 4 главные причины — узнайте, как этого не допустить Почему обычно распадаются браки: 4 главные причины — узнайте, как этого не допустить

Причиной разводов чаще всего становятся четыре стандартные проблемы

Psychologies
Пространство для рефлексии о прошлом: как Лидия Лобанова развивает Музей криптографии Пространство для рефлексии о прошлом: как Лидия Лобанова развивает Музей криптографии

Как говорить о современных технологиях и неудобном прошлом с разными возрастами

Forbes
Навигация по прутикам и верёвочкам Навигация по прутикам и верёвочкам

Необычные карты, которые делают аборигены Маршалловых островов

Наука и жизнь
Настроим фокус. Неожиданные причины ухудшения зрения (и как связана близорукость с плоскостопием) Настроим фокус. Неожиданные причины ухудшения зрения (и как связана близорукость с плоскостопием)

Приобретенная близорукость влияет не только на нашу способность видеть

Лиза
Как лучше худеть — быстро или медленно? Эксперты все объяснили! Как лучше худеть — быстро или медленно? Эксперты все объяснили!

У специалистов есть объяснение, почему спешить с похудением не нужно

ТехИнсайдер
Двойники Двойники

Почему под разными брендами встречаются такие похожие модели

Автопилот
Жизнь во лжи: кому и зачем мы врем Жизнь во лжи: кому и зачем мы врем

Почему мы, нормальные и честные, тоже врем?

VOICE
Гиены из грота Гауттари погрызли неандертальские кости около 66-65 тысяч лет назад Гиены из грота Гауттари погрызли неандертальские кости около 66-65 тысяч лет назад

Группа ученых представила результаты исследований, проходивших в гроте Гуаттари

N+1
Как выбрать купальник под тип фигуры: 8 ошибок, которые допускают все женщины - мнение стилиста Как выбрать купальник под тип фигуры: 8 ошибок, которые допускают все женщины - мнение стилиста

Пляжный сезон не за горами, и пора бы серьезно задуматься о летней "униформе"

VOICE
Взгляд на север Взгляд на север

Элина Туктамишева: «До двадцати одного года я не знала Россию»

Новый очаг
Дмитрий Шепелев нашел работу на телевидении, опровергнув слух о продаже наследства Жанны Фриске Дмитрий Шепелев нашел работу на телевидении, опровергнув слух о продаже наследства Жанны Фриске

На что живет Дмитрий Шепелев?

VOICE
Смотрим второй сезон «Доисторической планеты» Смотрим второй сезон «Доисторической планеты»

Путешествие по Земле мелового периода продолжается

N+1
Что делать, если ужалила пчела: 5 способов вылечить укус Что делать, если ужалила пчела: 5 способов вылечить укус

Как правильно достать жало пчелы из раны и обезболить укус

ТехИнсайдер
Наташа Темежникова (North x Carolina) Наташа Темежникова (North x Carolina)

Наташа Темежникова сочетает любовь к андерграунду и интерес к поп-культуре

Правила жизни
От социального прогресса до манипуляции сознанием: как работает окно Овертона От социального прогресса до манипуляции сознанием: как работает окно Овертона

Как работает концепция окна Овертона

Forbes
Иммунолог о вспышке птичьего гриппа в Москве Иммунолог о вспышке птичьего гриппа в Москве

Что за болезнь птичий грипп и опасна ли она для человека

СНОБ
Геологи посчитали глобальную толщину и плотность коры Марса Геологи посчитали глобальную толщину и плотность коры Марса

В среднем марсианская кора намного толще земной или лунной

ТехИнсайдер
«Мир, дружба, жвачка»: 5 разновидностей дружеских отношений «Мир, дружба, жвачка»: 5 разновидностей дружеских отношений

Рассмотрим несколько видов дружбы и посмотрим на их характерные черты и отличия

Psychologies
Захотелось перекусить ночью? 5 продуктов, которые можно себе позволить! Захотелось перекусить ночью? 5 продуктов, которые можно себе позволить!

Вот несколько советов для любителей ночных перекусов

ТехИнсайдер
Открыть в приложении