Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему некоторые таблетки лучше не запивать молоком Почему некоторые таблетки лучше не запивать молоком

Пять лекарств, которые не следует смешивать с молочными продуктами

ТехИнсайдер
Иберийские неандертальцы оказались мобильнее носителя мадленской культуры Иберийские неандертальцы оказались мобильнее носителя мадленской культуры

Биоархеологи проанализировали изотопный состав стронция в зубах неандертальцев

N+1
3D-печать домов, роботы-диагносты, космические двигатели и сверхпрочные ткани: как российские стартапы создают будущее 3D-печать домов, роботы-диагносты, космические двигатели и сверхпрочные ткани: как российские стартапы создают будущее

Подборка историй людей, которые двигают прогресс

ТехИнсайдер
Возвращение к нормальности: почему налоговый период перестал поддерживать рубль Возвращение к нормальности: почему налоговый период перестал поддерживать рубль

В феврале, марте и апреле курс рубля не показывает положительной динамики

Forbes
Прививка от аллергии АСИТ — как она работает? Прививка от аллергии АСИТ — как она работает?

Вместо того чтобы смягчать симптомы аллергии, можно устранить причину

СНОБ
Эспрессо на мелком помоле оказался невкусным из-за положительной обратной связи Эспрессо на мелком помоле оказался невкусным из-за положительной обратной связи

Почему при слишком мелком помоле эспрессо получается невкусным?

N+1
Пять китайских автомобилей, за которые брендам теперь стыдно. Список Пять китайских автомобилей, за которые брендам теперь стыдно. Список

Как изменились китайские автомобили с момента прихода в Россию

РБК
Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион Как эволюционная случайность навсегда изменила мозг человека: один шанс на миллион

Почему ДНК людей за короткий эволюционный промежуток времени вдруг изменилась?

ТехИнсайдер
Фотоэмиссия электронов с кончика металлической иглы оказалась аттосекундной Фотоэмиссия электронов с кончика металлической иглы оказалась аттосекундной

Измерили время, которое занимает у электрона отрыв от кончика металлической иглы

N+1
Топ-10 лучших пикапов Chevrolet Топ-10 лучших пикапов Chevrolet

Перед вами лучшие грузовики, когда-либо носившие эмблему Chevrolet

4x4 Club
«Мне говорили, что снимать таких героев аморально» «Мне говорили, что снимать таких героев аморально»

Алексей Суховей о своем документальном сериале «Сироты»

Weekend
Посмотрите на самый большой рынок, которым заведуют женщины! Угадаете, где он находится? Посмотрите на самый большой рынок, которым заведуют женщины! Угадаете, где он находится?

Особенный рынок "Има Кейтель" — на нем работают только женщины

ТехИнсайдер
Сергей Бурунов: «Я так горжусь, что в нашей стране столько талантливых людей» Сергей Бурунов: «Я так горжусь, что в нашей стране столько талантливых людей»

Один из самых популярных актеров нашего ТВ о своих хобби и работе

Лиза
Почему сейчас кино Ингмара Бергмана может быть нам близко, как никогда раньше Почему сейчас кино Ингмара Бергмана может быть нам близко, как никогда раньше

Почему не нужно бояться фильмов Ингмара Бергмана?

Правила жизни
12 лучших современных черно-белых фильмов 12 лучших современных черно-белых фильмов

Монохромная гамма еще не ушла из кинематографа

Maxim
Зачем вам нужна «психическая броня», и что это такое: стоит узнать! Зачем вам нужна «психическая броня», и что это такое: стоит узнать!

Мы можем подготовиться, чтобы более эффективно справляться с трудностями в жизни

ТехИнсайдер
Как ничто стало нечто и почему это так важно? Как ничто стало нечто и почему это так важно?

Изобретение нуля

Наука и жизнь
Я — сноб: дизайнер Евгения Линович Я — сноб: дизайнер Евгения Линович

Евгения Линович о том, как она проведет лето и на что ей не хватает времени

СНОБ
«Трава, сухостой, бурелом»: почему регулярно горит Курганская область «Трава, сухостой, бурелом»: почему регулярно горит Курганская область

Почему пожары в Курганской области стали такими масштабными

Forbes
Время отдыха Время отдыха

11 ритуалов, которые помогут прийти в себя после рабочего дня

Лиза
13 лучших комедий эпохи видеокассет 13 лучших комедий эпохи видеокассет

Вспоминаем фильмы, на которых выросли все современные комики

Maxim
«Дон Масимо»: Максим Горький на Капри «Дон Масимо»: Максим Горький на Капри

Как жил знаменитый писатель Максим Горький в Италии?

Караван историй
Как распознать манипуляции со стороны партнера и остановить их Как распознать манипуляции со стороны партнера и остановить их

Что делать, если вы столкнулись с манипуляцией со стороны партнера?

Psychologies
Не имей сто рублей, а имей сто друзей и будь здоров: 7 причин, почему дружба так важна Не имей сто рублей, а имей сто друзей и будь здоров: 7 причин, почему дружба так важна

Зачем вообще нужны друзья?

ТехИнсайдер
Бизоны зализали друг другу раны Бизоны зализали друг другу раны

Бизоны способны заботиться друг о друге

N+1
Травмы и падения Карла III: к каким видам спорта неравнодушен новый британский монарх Травмы и падения Карла III: к каким видам спорта неравнодушен новый британский монарх

Какие виды спорта выбрал для себя Карл III будучи еще принцем Чарльзом

Forbes
«Собрания мыслепреступников»: уже несколько лет в Нью-Йорке каждый месяц проходят закрытые встречи клуба пострадавших от «культуры отмены» «Собрания мыслепреступников»: уже несколько лет в Нью-Йорке каждый месяц проходят закрытые встречи клуба пострадавших от «культуры отмены»

Что происходит в стенах «Собраний мыслепреступников»?

Правила жизни
Почему на Руси носили кокошники? Почему на Руси носили кокошники?

Марьяна Скуратовская рассказала, как появился старинный русский головной убор

Культура.РФ
«Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью «Все страхи Бо»: как видит мир тревожный человек, воспитанный нарциссической матерью

Добро пожаловать в мир Бо!

Psychologies
Школьник обманом привлёк миллионы на компанию по чистке ковров, а «прогорел» из-за украденных у секретарши $600 Школьник обманом привлёк миллионы на компанию по чистке ковров, а «прогорел» из-за украденных у секретарши $600

Барри Минкоу хотел стать «General Motors в мире клининга» обманным путём

VC.RU
Открыть в приложении