Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как в СССР создавали самолет для Сталина – дедушку «Борта №1» Как в СССР создавали самолет для Сталина – дедушку «Борта №1»

Как безопасно доставить через пол-континента вождя народов, боящегося летать

ТехИнсайдер
Почему порой мы ощущаем «бабочек в животе» и что на самом деле означает это чувство? Почему порой мы ощущаем «бабочек в животе» и что на самом деле означает это чувство?

Что, с точки зрения науки, заставляет нас чувствовать бабочек внутри себя?

ТехИнсайдер
IT-разработка «внутри» или готовое решение: что выбрать IT-разработка «внутри» или готовое решение: что выбрать

Стоит ли IT-компании разрабатывать ПО с нуля или лучше купить готовое решение?

Inc.
И снова здравствуйте: что не так с новым фильмом Уэса Андерсона «Город астероидов» И снова здравствуйте: что не так с новым фильмом Уэса Андерсона «Город астероидов»

Почему громкое имя и звездный каст не спасут новый проект Уэса Андерсона

Правила жизни
Шаги на чердаке: жуткая история о нераскрытом убийстве в Хинтеркайфеке Шаги на чердаке: жуткая история о нераскрытом убийстве в Хинтеркайфеке

Более 100 лет назад на ферме Андреаса Грубера произошла страшная трагедия

ТехИнсайдер
Успевать все и оставаться королевой: 5 лайфхаков бизнесвумен, которые сделают твою жизнь лучше Успевать все и оставаться королевой: 5 лайфхаков бизнесвумен, которые сделают твою жизнь лучше

Как играючи управлять бесконечным круговоротом дел и не забывать о красоте

VOICE
Эволюция русалочки: нужен ли под водой темный цвет кожи Эволюция русалочки: нужен ли под водой темный цвет кожи

Существует ли эволюционная выгода для русалок от темной кожи под водой?

СНОБ
Геологи посчитали глобальную толщину и плотность коры Марса Геологи посчитали глобальную толщину и плотность коры Марса

В среднем марсианская кора намного толще земной или лунной

ТехИнсайдер
«Ты, что желаешь иметь повсюду с собой мои книжки». Как появились книги «Ты, что желаешь иметь повсюду с собой мои книжки». Как появились книги

Как книги влияли на людей в разные эпохи и почему важнее форма, а не содержание

СНОБ
5 примеров того, как научные открытия влияли на искусство 5 примеров того, как научные открытия влияли на искусство

Как научные открытия находили свое отражение в изобразительном искусстве

СНОБ
13 неочевидных правил успешного человека: проверьте себя 13 неочевидных правил успешного человека: проверьте себя

Как еще можно определить, что вы уже вполне успешный человек?

Maxim
Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии Волшебное сокровище? Небольшой клад с тысячелетними монетами нашли в лесу Италии

Расследование выявило 175 римских монет возрастом 2000 лет

ТехИнсайдер
Настроим фокус. Неожиданные причины ухудшения зрения (и как связана близорукость с плоскостопием) Настроим фокус. Неожиданные причины ухудшения зрения (и как связана близорукость с плоскостопием)

Приобретенная близорукость влияет не только на нашу способность видеть

Лиза
Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры Почему белые воротнички в Китае теряют сон и уходят в охранники и курьеры

Образованных китайцев с амбициями оказалось больше, чем рабочих мест для них

Forbes
В Синьцзяне нашли одно из древнейших в мире верховых седел В Синьцзяне нашли одно из древнейших в мире верховых седел

Это седло лежало на тазовых костях женщины, жившей в I тысячелетии до н. э.

N+1
Кольчатых червей уличили в синтезе растительного аналога холестерина Кольчатых червей уличили в синтезе растительного аналога холестерина

Ученые обнаружили, что морские кольчатые черви способны к синтезу ситостерина

N+1
«Оппенгеймер. Триумф и трагедия американского Прометея» «Оппенгеймер. Триумф и трагедия американского Прометея»

Биография создателя ядерной бомбы

N+1
6 продуктов с высоким содержанием коллагена для здоровья суставов и гладкой кожи 6 продуктов с высоким содержанием коллагена для здоровья суставов и гладкой кожи

Коллаген - очень важный белок для нашего организма

ТехИнсайдер
Почему обычно распадаются браки: 4 главные причины — узнайте, как этого не допустить Почему обычно распадаются браки: 4 главные причины — узнайте, как этого не допустить

Причиной разводов чаще всего становятся четыре стандартные проблемы

Psychologies
Как правильно выбрать масло, и когда его нужно менять Как правильно выбрать масло, и когда его нужно менять

Свобода выбора моторного масла зависит от того, насколько форсирован ваш мотор

4x4 Club
«Смерть в большом городе». Почему человек боится умереть и как с этим жить «Смерть в большом городе». Почему человек боится умереть и как с этим жить

Почему человечеству так и не удалось победить страх смерти

СНОБ
Александр Уткин Александр Уткин

Александр Уткин в своих работах переплетает супергероику с классикой

Правила жизни
4 недели на исполнение мечты: почему марафоны желаний не работают 4 недели на исполнение мечты: почему марафоны желаний не работают

Почему люди массово верят в чудеса? И почему такие чудеса невозможны?

Psychologies
От легенды о Харламове до сказки о Рокки: лучшие художественные фильмы о спорте От легенды о Харламове до сказки о Рокки: лучшие художественные фильмы о спорте

20 лучших спортивных фильмов, которые стоит пересмотреть в межсезонье

Forbes
Родителям на заметку! Разговор с младенцем влияет на силу нервных сигналов в мозге Родителям на заметку! Разговор с младенцем влияет на силу нервных сигналов в мозге

Ученые обнаружили связь между уровнями речи взрослых и младенческим «миелином»

ТехИнсайдер
Зина Портнова: как 15-летняя партизанка убила сотню немецких офицеров и умерла от страшных пыток так никого и не выдав Зина Портнова: как 15-летняя партизанка убила сотню немецких офицеров и умерла от страшных пыток так никого и не выдав

Как пятнадцатилетняя Зина Портнова оказалась в оккупации, но не сдалась

ТехИнсайдер
Анатомия газлайтинга: как развиваются такие отношения — подробная хронология Анатомия газлайтинга: как развиваются такие отношения — подробная хронология

Как люди попадают в ловушку газлайтеров?

Psychologies
Какие тайны скрывают названия автопроизводителей Какие тайны скрывают названия автопроизводителей

Времена, когда компании брали фамилию основателя, давно прошли

4x4 Club
800-летние руины: древний рыцарский замок под Калининградом начал принимать туристов 800-летние руины: древний рыцарский замок под Калининградом начал принимать туристов

К обзору о том, как провести время в Калининграде, добавился еще один пункт

Вокруг света
Вот почему богатые люди не носят чехлы на телефонах. Интересный факт! Вот почему богатые люди не носят чехлы на телефонах. Интересный факт!

Отказ от чехла для телефона — это, вероятно, последний символ скрытого богатства

ТехИнсайдер
Открыть в приложении