Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Когда в автомобиле пригодится плед: 10 неочевидных ситуаций Когда в автомобиле пригодится плед: 10 неочевидных ситуаций

Советы по использованию пледа в автопоездке

ТехИнсайдер
Принять внутрь: 3 главных компонента для сохранения здоровья и красоты Принять внутрь: 3 главных компонента для сохранения здоровья и красоты

Какие витамины и добавки нужны практически всем?

Правила жизни
Ланч-боксы с подогревом: как они работают и стоит ли брать Ланч-боксы с подогревом: как они работают и стоит ли брать

Как работает ланч-бокс с подогревом и стоит ли вообще его покупать?

CHIP
Удаление небных миндалин оказалось эффективнее медикаментозного лечения хронического тонзиллита Удаление небных миндалин оказалось эффективнее медикаментозного лечения хронического тонзиллита

Лечение хронического тонзиллита помогает снизить риск его системных осложнений

N+1
Используй ложку и телефон: 20 способов доставить себе удовольствие Используй ложку и телефон: 20 способов доставить себе удовольствие

Двадцать разных способов мастурбации на любой вкус и цвет

Cosmopolitan
Правила жизни Ильи Кабакова Правила жизни Ильи Кабакова

Правила жизни советского и американского художника-концептуалиста Ильи Кабакова

Правила жизни
Пока смерть не разлучит: сказочная история любви Дианы Гурцкая и Петра Кучеренко Пока смерть не разлучит: сказочная история любви Дианы Гурцкая и Петра Кучеренко

Вспоминаем, какой была история любви Дианы Гурцкой и Петра Кучеренко

VOICE
Роман Мурадов Роман Мурадов

Роман Мурадов сочетает оригинальную рисовку с литературностью

Правила жизни
Особенный ребенок Особенный ребенок

Как на ранних стадиях распознать, что с ребенком что-то не так

Лиза
6 звезд, которые носят незаметные парики или волосы на заколках: разоблачение стилиста 6 звезд, которые носят незаметные парики или волосы на заколках: разоблачение стилиста

Какие бьюти-хитрости используют звезды, чтобы их прически выглядели роскошно?

VOICE
«Тольяттиазот» откроет новый путь российским удобрениям «Тольяттиазот» откроет новый путь российским удобрениям

«Тольяттиазот» строит первый перевалочный комплекс для аммиака и карбамида

Агроинвестор
Почему советские джинсы так и не стали модными: причина тебя точно удивит! Почему советские джинсы так и не стали модными: причина тебя точно удивит!

Почему же за импортные джинсы люди были готовы отдать всю зарплату?

VOICE
Не дай взять себя в клещи Не дай взять себя в клещи

Резкое потепление привело к раннему пробуждению клещей. Как себя обезопасить?

Лиза
Отступление авангарда Отступление авангарда

Как Николай Суетин и Илья Чашник оказались молодыми художниками не вовремя

Weekend
10 странных фактов о теле человека, которые мало кто знает 10 странных фактов о теле человека, которые мало кто знает

Человек светится в темноте, производит алкоголь и несет килограммы бактерий

Maxim
Компания амазонок: самые громкие женские имена в истории русского авангарда Компания амазонок: самые громкие женские имена в истории русского авангарда

Художницы-авангардистки не считали себя феминистками

Правила жизни
«Убывающий мир» «Убывающий мир»

Отрывок из книги «Убывающий мир» Алексея Конакова

N+1
Антагонист обонятельных рецепторов защитил людей от неприятного запаха Антагонист обонятельных рецепторов защитил людей от неприятного запаха

Антагонист обонятельных рецепторов конкурентно ингибировал соединения серы

N+1
«Монастырь и тюрьма» «Монастырь и тюрьма»

Места заключения в Западной Европе и в России от Средневековья до модерна

N+1
От Комсомольца и Большевика до Октябрьской революции: 10 самых больших островов России От Комсомольца и Большевика до Октябрьской революции: 10 самых больших островов России

Десять крупнейших островов России

Вокруг света
«Как сказать мужчине, чего мне хочется?»: 3 совета сексолога «Как сказать мужчине, чего мне хочется?»: 3 совета сексолога

Как откровенно разговаривать со своим партнером?

Psychologies
От «Вестника парижских мод» до «Работницы»: женская пресса в дореволюционной России От «Вестника парижских мод» до «Работницы»: женская пресса в дореволюционной России

Forbes Woman рассказывает об эволюции женских СМИ в России

Forbes
Промокнуть за $80: в Дубае создали улицу, на которой всегда будет идти дождь Промокнуть за $80: в Дубае создали улицу, на которой всегда будет идти дождь

Эмираты представили туристам еще одно необычное развлечение

Вокруг света
Уроки сербского Уроки сербского

Милош Бикович — о тех уроках, которые ему преподнесла жизнь

Men Today
Пять китайских автомобилей, за которые брендам теперь стыдно. Список Пять китайских автомобилей, за которые брендам теперь стыдно. Список

Как изменились китайские автомобили с момента прихода в Россию

РБК
Я — сноб: дизайнер Евгения Линович Я — сноб: дизайнер Евгения Линович

Евгения Линович о том, как она проведет лето и на что ей не хватает времени

СНОБ
Целлюлозные губки с наночастицами очистили воду от свинца Целлюлозные губки с наночастицами очистили воду от свинца

Материаловеды разработали фильтры для воды на основе целлюлозных губок

N+1
Аккреционный диск черной дыры воссоздали без стенок в лаборатории Аккреционный диск черной дыры воссоздали без стенок в лаборатории

Британские и американские физики создали лабораторный аналог аккреционного диска

N+1
Почему сносят диковинный Дом Советов в Калининграде Почему сносят диковинный Дом Советов в Калининграде

Печальная история уникального здания, которое похоже на голову робота

Maxim
36 вопросов, которые надо задать друг другу, чтобы влюбиться 36 вопросов, которые надо задать друг другу, чтобы влюбиться

Список из 36 вопросов, задав которые друг другу, люди влюбляются

VOICE
Открыть в приложении