GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Стремечко назвали идеальной костью для палеогеномного исследования Стремечко назвали идеальной костью для палеогеномного исследования

Почему при анализе древней ДНК нужно отдавать предпочтение стремечку

N+1
«Мы будем целоваться?»: принцессе Диане предлагали сыграть в «Телохранителе-2» «Мы будем целоваться?»: принцессе Диане предлагали сыграть в «Телохранителе-2»

Диане Спенсер сулили блестящую карьеру в Голливуде

Cosmopolitan
Эти ошибки допускают все, и только 35% людей пользуются беспроводными наушниками правильно Эти ошибки допускают все, и только 35% людей пользуются беспроводными наушниками правильно

Ошибки, которые ухудшают качество звука и срок службы наушников

ТехИнсайдер
Почему нельзя надевать чужие кольца и еще 5 нелепых суеверий, которые сбываются Почему нельзя надевать чужие кольца и еще 5 нелепых суеверий, которые сбываются

Откуда пошли самые популярные суеверия и почему они сбываются?

Cosmopolitan
Загадочная смерть Дороти Хант, жены одного из ключевых участников Уотергейтского скандала Загадочная смерть Дороти Хант, жены одного из ключевых участников Уотергейтского скандала

Трагедия Дороти Хант и ее связь с Уотергейтским скандалом

ТехИнсайдер
Революция в биологии: как ученые нашли эукариоты без митохондрий Революция в биологии: как ученые нашли эукариоты без митохондрий

Разве жизнь может развиваться только одним способом?

Популярная механика
30 идеальных новогодних поздравлений для друзей, коллег и самых близких 30 идеальных новогодних поздравлений для друзей, коллег и самых близких

Коллекция новогодних пожеланий

Cosmopolitan
Эмили все еще в Париже: второй сезон сериала про моду, Францию и любовь на троих Эмили все еще в Париже: второй сезон сериала про моду, Францию и любовь на троих

Каким получился второй сезон сериала «Эмили в Париже»

Cosmopolitan
Археологи нашли в Турции разрушенное серией цунами древнее поселение Археологи нашли в Турции разрушенное серией цунами древнее поселение

Минойского извержение разрушило поселение Чешме-Багларараси в Западной Анатолии

N+1
Все не так, как на самом деле Все не так, как на самом деле

Не все то эко, что им называют. 10 наиболее живучих «зеленых» сказок

Playboy
Прогресс или угроза: стоит ли нам бояться искусственного интеллекта Прогресс или угроза: стоит ли нам бояться искусственного интеллекта

Какие опасности несут в себе искусственный интеллект, цифровизация и роботизация

Популярная механика
Окно за границу: какие меры помогут раскрыть экспортный потенциал российской промышленности Окно за границу: какие меры помогут раскрыть экспортный потенциал российской промышленности

Как развивать экспорт российской продукции?

СНОБ
От рабыни-славянки до султанши: история знаменитой красавицы Хюррем От рабыни-славянки до султанши: история знаменитой красавицы Хюррем

Прошло несколько сотен лет, но интерес людей к этой Хюррем не угасает

Cosmopolitan
Неизвестные гоночные мотоциклы 1990-х Неизвестные гоночные мотоциклы 1990-х

Кастомные частные мотоциклы в мотогонках Гран-При 1990-х

Популярная механика
Расплата для разлучниц: судьба советских актрис, которые увели чужих мужей Расплата для разлучниц: судьба советских актрис, которые увели чужих мужей

Опыт знаменитых советских актрис, которые увели чужих мужей

Cosmopolitan
Олег Нестеров — о шведском столе контента, влюбленности и Альфреде Шнитке Олег Нестеров — о шведском столе контента, влюбленности и Альфреде Шнитке

Олег Нестеров о советской киномузыке и свободе, рождающейся из ограничений

РБК
Теплое оружие: лютейшие клинки, которые не запрещены законом Теплое оружие: лютейшие клинки, которые не запрещены законом

Почему одни клинки считаются холодным оружием, а другие нет?

Maxim
Земля и Марс сформировались из материала внутренней части Солнечной системы Земля и Марс сформировались из материала внутренней части Солнечной системы

Ученые сравнили изотопный состав Земли, Марса и метеоритов

Популярная механика
Ученые рассказали, почему содержательные разговоры с коллегами лучше светских бесед Ученые рассказали, почему содержательные разговоры с коллегами лучше светских бесед

Почему люди избегают содержательных бесед вне своего привычного круга общения

Inc.
Эксперт по лидерству дала 6 советов для выступающих на английском языке Эксперт по лидерству дала 6 советов для выступающих на английском языке

Советы по ораторскому мастерству для выступающих на английском языке

Inc.
Переиграл и уничтожил Переиграл и уничтожил

Евгений Понасенков — как должен одеваться истинный денди и как жить дальше

Собака.ru
Чистый вкус Чистый вкус

Минимализм показывает вкус продукта как свидетельство его высокого качества

Bones
Прототип мобильного приложения: что это и для чего нужен Прототип мобильного приложения: что это и для чего нужен

Прототип — самый простой, быстрый и наглядный способ объяснить идею

Популярная механика
Слова и дни Слова и дни

Михаил Идов о том, как он решает кроссворды

Weekend
Как здорово, что все мы здесь сегодня собрались: «Человек-паук: Нет пути домой» против ностальгии Как здорово, что все мы здесь сегодня собрались: «Человек-паук: Нет пути домой» против ностальгии

Почему новый «Человек-паук» — мощная и яркая картина?

Esquire
Редкие фото юной Дэрил Ханны — прекрасной и опасной «медсестры» из «Убить Билла» Редкие фото юной Дэрил Ханны — прекрасной и опасной «медсестры» из «Убить Билла»

Дэрил Ханна вечно юна, длиннонога и прекрасна!

Maxim
Кто обитает в Большом мусорном пятне: путешествие на горах пластика Кто обитает в Большом мусорном пятне: путешествие на горах пластика

Морские животные осваивают мусорный биом, созданный деятельностью человека

Популярная механика
Продолжаем мотосезон Продолжаем мотосезон

Зимой мотосезон не заканчивается!

Men’s Health
Гадание на воске: как гадать и расшифровать значение фигур Гадание на воске: как гадать и расшифровать значение фигур

Гадание на воске дошло до нас практически в неизменном с древних времен виде

Cosmopolitan
«Краткая история Европы» «Краткая история Европы»

Отрывок из книги «Краткая история Европы» — о победе науки над церковью

N+1
Открыть в приложении