Ученые проверили надежность ответов, которые дают генеративные поисковые системы

ТехИнсайдерHi-Tech

Проверяйте ответы ChatGPT: его надежность пока на низком уровне

Владимир Губайловский

85c3bc8f65f53d9d658df938d7439b17_ce_1920x1280x0x0.jpg
Public Domain

ChatGPT, кажется, уже повсюду. Его используют программисты, веб-дизайнеры, писатели, музыканты, переводчики и многочисленные компании всех видов деятельности. Но он ошибается! И к тому же «умело» маскирует ошибки. Нужно быть аккуратным.

Ученые Стэнфордского университета проверили надежность ответов, которые дают генеративные поисковые системы, в том числе ChatGPT. Выводы ученые довольно тревожные. Чат-боты отвечают гладко, но за "фасадом достоверности", прячутся многочисленные ошибки: только около половины предложений были полностью подкреплены цитатами, а четверть цитат не имели надежных ссылок.

ChatGPT доступен для общего пользования всего полгода, но у него более 100 миллионов пользователей по всему миру. Он является самым быстро растущим приложением в истории и обрабатывает более 10 миллионов запросов в день. Практически ежедневно мы слышим, что он способен перевернуть все - от бизнес-моделей до личных привычек.

Но некоторые исследователи высказывают серьезные опасения по поводу ChatGPT. Наиболее заметным стало письмо, подписанное в марте более чем 1000 экспертов, в котором они призывали ввести мораторий на расширение технологии ИИ до тех пор, пока ее риски и опасности не будут лучше изучены.

Скептики в основном сосредоточены на возможности манипулирования ИИ во вредоносных целях или описывают возможные сценарии, в которых модели ИИ самостоятельно предпринимают злонамеренные действия. Другие ученые сосредоточены на более насущной проблеме: точности.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Почему голубые пейзажи вызывают ностальгию и улучшают психическое самочувствие Почему голубые пейзажи вызывают ностальгию и улучшают психическое самочувствие

Как ностальгия влияет на наше психическое благополучие

ТехИнсайдер
Ваш курьер уже в пути! Как дроны доставляют грузы в места, где нет дорог? Ваш курьер уже в пути! Как дроны доставляют грузы в места, где нет дорог?

Беспилотники, доставляющие грузы без дорог – по воздуху

ТехИнсайдер
Цифровое око правосудия. Как роботы помогают искать преступников в России Цифровое око правосудия. Как роботы помогают искать преступников в России

Смогут ли роботы заменить следователей и нужно ли это?

Inc.
«Честно признаться, начался ад»: Арсений Бородин рассказал о романе с Настей Ивлеевой «Честно признаться, начался ад»: Арсений Бородин рассказал о романе с Настей Ивлеевой

Певец Арсений Бородин разоткровенничался об отношениях с Настей Ивлеевой

VOICE
Как стать лучшим мужчиной в постели девушки: секс-эксперт Трейси Кокс поделилась секретами Как стать лучшим мужчиной в постели девушки: секс-эксперт Трейси Кокс поделилась секретами

Что служит причиной неудовлетворенности женщины и как это исправить

Maxim
Как прожить свой страх осознанно: книги и фильмы от психолога Как прожить свой страх осознанно: книги и фильмы от психолога

Что значит «экологично побояться» и для чего это нужно?

Psychologies
«Мерзлая земля»: каким получился сериал, основанный на реальных событиях в Хакасии «Мерзлая земля»: каким получился сериал, основанный на реальных событиях в Хакасии

Тру-крайм «Мерзлая земля» основан на реальных событиях в Хакасии

Forbes
Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях» Режиссер Александр Сокуров —  Forbes: «Режимное государство нуждается в гениях»

Какую задачу решают власти, устраивая массовые гонения на деятелей культуры?

Forbes
Жизнь от кутюр: как Валентин Юдашкин стал главным модельером России Жизнь от кутюр: как Валентин Юдашкин стал главным модельером России

Какую роль сыграл Валентин Юдашкин в советско-российской моде

Forbes
Mary Gu: Не надо молчать Mary Gu: Не надо молчать

Mary Gu впервые рассказала подробности своего развода

ЖАРА Magazine
Не очень молодой рассерженный Не очень молодой рассерженный

История Линдсея Андерсона и английского «свободного кино»

Weekend
6 книг в жанре фэнтези, от которых невозможно оторваться 6 книг в жанре фэнтези, от которых невозможно оторваться

Книги жанра фэнтези, которые ценители не должны оставить без внимания

ТехИнсайдер
«Россия в глобальном конфликте XVIII века» «Россия в глобальном конфликте XVIII века»

Семилетняя война и российское общество

N+1
Охота на ведьм: за что женщин отправляли на костры и причем тут рыжие и красивые Охота на ведьм: за что женщин отправляли на костры и причем тут рыжие и красивые

За что невинных женщин бросали в темницы, пытали и сжигали на кострах

Forbes
Подвеска евразийки Подвеска евразийки

Как из костяного украшения вытащили ДНК его владелицы

N+1
Сканеры отпечатков пальцев на 10 смартфонах удалось взломать методом перебора Сканеры отпечатков пальцев на 10 смартфонах удалось взломать методом перебора

Ученые нашли уязвимости в смартфонах шести крупных компаний

N+1
«Русалочьи кошельки» с T-образными гребнями приписали новому виду акул «Русалочьи кошельки» с T-образными гребнями приписали новому виду акул

Ихтиологи выяснили, кому принадлежат необычные яйца с T-образными гребнями

N+1
Особенный ребенок Особенный ребенок

Как на ранних стадиях распознать, что с ребенком что-то не так

Лиза
Тайна королевского приюта: как секреты из прошлого родителей влияют на жизнь их детей Тайна королевского приюта: как секреты из прошлого родителей влияют на жизнь их детей

Джастин выросла в богатой семье. Отец — юрист. Мать – домохозяйка

Forbes
Наталия Деянова, Systeme Electric: Логотип — это только вершина айсберга Наталия Деянова, Systeme Electric: Логотип — это только вершина айсберга

Как преемникам уходящих с рынка компаний грамотно провести трансформацию бренда

СНОБ
Скрывать корни, помнить про Рамадан и учить испанский: лайфхаки для пиара за рубежом Скрывать корни, помнить про Рамадан и учить испанский: лайфхаки для пиара за рубежом

Каково это — начинать PR с нуля на новом рынке

Forbes
«Выпустить ярость, не причинив вреда»: 6 способов справиться с агрессией «Выпустить ярость, не причинив вреда»: 6 способов справиться с агрессией

Как взять под контроль эмоции?

Psychologies
Бритва не понадобится: как предотвратить появление катышков на одежде Бритва не понадобится: как предотвратить появление катышков на одежде

Как предотвратить появление катышков в нашей жизни?

VOICE
Почему римляне не сумели приручить ни одно новое животное? Разбирается биолог Почему римляне не сумели приручить ни одно новое животное? Разбирается биолог

Тим Флэннери проследил историю европейского континента

Вокруг света
Хорошо забытое старое Хорошо забытое старое

Брюква, толокно и другие продукты, которые мы больше не едим, а зря

Лиза
Он усадил ее тело на заднее сиденье автомобиля и отвез в Пубол: безумная любовь Сальвадора Дали к русской эмигрантке Он усадил ее тело на заднее сиденье автомобиля и отвез в Пубол: безумная любовь Сальвадора Дали к русской эмигрантке

Несмотря на непримечательную внешность, Елена Дьяконова, Гала, производила фурор

ТехИнсайдер
Следите за руками: 13 деталей «Тайной вечери» да Винчи, которые неверно трактует Дэн Браун Следите за руками: 13 деталей «Тайной вечери» да Винчи, которые неверно трактует Дэн Браун

Какие детали сокрыты в известной фреске «Тайная вечеря» Леонардо да Винчи

Вокруг света
Непрерывную речь декодировали по фМРТ Непрерывную речь декодировали по фМРТ

Неинвазивный декодер восстановил текст из корковых семантических представлений

N+1
Гострайтер принца Гарри рассказал о процессе написания автобиографии «Запасной» Гострайтер принца Гарри рассказал о процессе написания автобиографии «Запасной»

Дж. Р. Мерингер, работавший с принцем Гарри, рассказал о мемуарах «Запасной»

Forbes
С поля на собственную полку С поля на собственную полку

Зачем агропроизводителям нужна своя розница

Агроинвестор
Открыть в приложении