Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Страдания от избытка красоты: что такое синдром Стендаля Страдания от избытка красоты: что такое синдром Стендаля

Что такое синдром Стендаля и в чем он выражается

ТехИнсайдер
Томмазо Спадолини Томмазо Спадолини

Видение мира, в котором мы живем, отражается на наших проектах

Y Magazine
Изогнутый экран смартфона — это удобно? Изогнутый экран смартфона — это удобно?

Стоит ли покупать смартфоны с изогнутыми экранами?

CHIP
Современный московский Современный московский

Светлый лёгкий интерьер в квартире с нестандартной планировкой

SALON-Interior
Найден способ омолодить стареющие клетки мозга Найден способ омолодить стареющие клетки мозга

Обратить старость вспять реально, причем на это понадобится всего один день

ТехИнсайдер
Классический Defender ко дню рождения Land Rover Классический Defender ко дню рождения Land Rover

Юбилейная версия Land Rover Defender Works V8 Islay Edition

4x4 Club
Регина Тодоренко: «Чувствую себя под крылом большой птицы, которая летит вверх, покоряя новые высоты» Регина Тодоренко: «Чувствую себя под крылом большой птицы, которая летит вверх, покоряя новые высоты»

Регина Тодоренко — о съемках в «Орел и решка» и новых тревел-проектах

Караван историй
Phoenix: амбициозный проект Phoenix: амбициозный проект

Проект Phoenix основан на аккуратном «пилотируемом» подходе к обучению

ТехИнсайдер
Только для своих: как и почему изменилось восприятие дома Только для своих: как и почему изменилось восприятие дома

Что на самом деле говорят о нас тенденции в обустройстве дома?

Psychologies
Отмыть термос внутри — легко! Невероятно простой способ избавиться от чайного налета Отмыть термос внутри — легко! Невероятно простой способ избавиться от чайного налета

Убираем запах и налет из термоса

ТехИнсайдер
Сотрудничество, прощение и благодарность: 6 правил жизни счастливых пар — станьте одной из них Сотрудничество, прощение и благодарность: 6 правил жизни счастливых пар — станьте одной из них

Чем отличаются счастливые пары от нездоровых?

Psychologies
Британские ученые выяснили: по каким формулам изучать искусство Ренессанса Британские ученые выяснили: по каким формулам изучать искусство Ренессанса

Издательство Ad Marginem выпускают коллекцию книг, посвященных искусству

Forbes
Ностальгия по СССР: как менялось отношение россиян к распаду Советского Союза Ностальгия по СССР: как менялось отношение россиян к распаду Советского Союза

О том, почему ностальгия по СССР усиливается с годами

Forbes
Альтернативное будущее: 5 научно-фантастических книг, которые вас удивят Альтернативное будущее: 5 научно-фантастических книг, которые вас удивят

Необычные научно-фантастические романы: от Герберта Уэллса до GPT-4

ТехИнсайдер
Что ваш ребенок запомнит на всю жизнь: 5 советов от матери 17 детей Что ваш ребенок запомнит на всю жизнь: 5 советов от матери 17 детей

Детские чувства формируют основу того, кем мы становимся во взрослой жизни

Psychologies
Институт благородных девиц: зачем нужны школы с раздельным обучением Институт благородных девиц: зачем нужны школы с раздельным обучением

Разбираемся во всех «за» и «против» по поводу раздельного обучения в школах

Forbes
Без достоинства, но с голоском! Как итальянцев кастрировали ради пения: вы поразитесь! Без достоинства, но с голоском! Как итальянцев кастрировали ради пения: вы поразитесь!

Начиная с XVI века, в хорах использовали кастратов вместо женщин

ТехИнсайдер
Одна вокруг света: сибирское лето в Южной Америке и пляж морских львов Одна вокруг света: сибирское лето в Южной Америке и пляж морских львов

217-я серия о кругосветном путешествии москвички Ирины Сидоренко: Буэнос-Айрес

Forbes
В древнеримских некрополях Бейрута нашли останки мигрантов В древнеримских некрополях Бейрута нашли останки мигрантов

Биоархеологи провели анализ костей и зубов, раскопанных в некрополях Бейрута

N+1
Киты пахнут лекарствами — что делать? Как химики из МГУ чукотским охотникам помогали Киты пахнут лекарствами — что делать? Как химики из МГУ чукотским охотникам помогали

Коренной народ Севера столкнулся с неожиданной проблемой

Вокруг света
За что сидел в тюрьме Реджеп Тайип Эрдоган За что сидел в тюрьме Реджеп Тайип Эрдоган

Рассказываем, почему и за что Реджеп Тайип Эрдоган получил тюремный срок

Maxim
Почему на Руси носили кокошники? Почему на Руси носили кокошники?

Марьяна Скуратовская рассказала, как появился старинный русский головной убор

Культура.РФ
Харрисон Форд побеждает нацистов: каким получилось прощание с «Индианой Джонсом» Харрисон Форд побеждает нацистов: каким получилось прощание с «Индианой Джонсом»

«Индиана Джонс и Колесо судьбы» — идеальное прощание с любимым героем

Forbes
Инструктаж от стилиста: как выбрать платье на лето, чтобы спрятать животик Инструктаж от стилиста: как выбрать платье на лето, чтобы спрятать животик

Фасоны платьев, в которых ты будешь чувствовать себя отлично и уверенно

VOICE
Все из детства Все из детства

6 установок, которые программируют нас на болезни с ранних лет

Лиза
7 ошибок в споре с рассерженным человеком 7 ошибок в споре с рассерженным человеком

Как вести себя с рассерженными людьми, чтобы не усугубить ситуацию?

Psychologies
Аккумуляторная независимость Аккумуляторная независимость

TI решил расспросить экспертов о том, какова сейчас ситуация с литием в России

ТехИнсайдер
Вам по зубам. Что выбрать — брекеты или элайнеры? Вам по зубам. Что выбрать — брекеты или элайнеры?

Чем отличаются брекеты от элайнеров и в чем плюсы и минусы обоих методов

СНОБ
От таро до дизайна человека: 5 самых популярных антинаучных практик — и почему они не имеют смысла От таро до дизайна человека: 5 самых популярных антинаучных практик — и почему они не имеют смысла

Есть ли реальные основания для обращения за советом к хироманту или астрологу?

Psychologies
Недоверие и контроль: 5 нездоровых шаблонов отношений, вызванных детскими травмами Недоверие и контроль: 5 нездоровых шаблонов отношений, вызванных детскими травмами

Типичные сценарии отношений, которые складываются из-за неблагополучия в детстве

Psychologies
Открыть в приложении