GPT-3 научили нейросеть собирать информацию из разных источников

N+1Hi-Tech

GPT-3 научили искать ответы в интернете и подкреплять их ссылками на источники

Григорий Копиев

OpenAI

Разработчики из OpenAI научили нейросеть GPT-3 отвечать на вопросы так, как это часто делают люди: спрашивая у поисковика, собирая информацию из нескольких источников и давая в итоговом тексте ссылки на них. Исследование показало, что ответы такой нейросети нравятся людям больше, чем лучшие ответы на те же вопросы на Reddit. Краткое описание и интерактивные примеры опубликованы на сайте OpenAI, там же доступна статья с подробностями обучения и тестирования.

В 2017 году исследователи из Google представили архитектуру нейросетей, которую назвали трансформером. Ее ключевой особенностью стала реализация механизма внимания, позволяющая нейросети учитывать все слова в даваемом ей предложении и понимать их важность. Затем исследователи из OpenAI создали на ее основе нейросеть GPT и два ее преемника (GPT-2 и GPT-3), последний из которых научился генерировать тексты, которые часто сложно отличить от написанных человеком. Как и в случае с дипфейками, это вызвало в научном сообществе дискуссии о том, какие опасности несет в себе такая технология. В частности, из-за особенностей работы генеративные нейросети могут создавать правдоподобный, но ложный с точки зрения фактов текст.

Исследователи из OpenAI решили сделать GPT-3 более «прозрачной» и научили ее не только генерировать ответы, но и приводить ссылки на источники. Они создали для GPT-3 интерактивную среду — фактически текстовый браузер, работающий через API поисковика Bing. Среда показывает результаты выдачи по поисковому запросу с заголовками и абзацем текста, а также позволяет открыть нужную ссылку, пролистать страницу

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Экологи усомнились в существовании «эскалатора вымирания» Экологи усомнились в существовании «эскалатора вымирания»

Экологи проверили правдоподобность популярной гипотезы об эскалаторе вымирания

N+1
Круче микроскопа: как отсканировать рельеф молекулы Круче микроскопа: как отсканировать рельеф молекулы

Что модно рассмотреть через атомный силовой микроскоп?

Популярная механика
Джуны нужны: неочевидные преимущества молодых айтишников и почему их не заменит ИИ Джуны нужны: неочевидные преимущества молодых айтишников и почему их не заменит ИИ

Работодателям имеет смысл вкладываться в развитие начинающих IT-специалистов

Inc.
«Как ломаются спагетти и другие задачи по физике» «Как ломаются спагетти и другие задачи по физике»

Отрывок из книги «Как ломаются спагетти и другие задачи по физике»

N+1
Обратное плацебо: что такое эффект ноцебо и как он мешает нам жить Обратное плацебо: что такое эффект ноцебо и как он мешает нам жить

Чем вреден эффект ноцебо и можно ли от него избавиться?

ТехИнсайдер
Обыкновенная генетта Обыкновенная генетта

Генетта — это редкость, экзотика. Чего это она вдруг «обыкновенная»?

Weekend
15 самых древних шуток и анекдотов 15 самых древних шуток и анекдотов

15 самых древних юморесок, дошедших до наших дней.

Maxim
Открытие сезона Открытие сезона

Зарина Догузова, руководитель Ростуризма, посетила с рабочим визитом Кузбасс

Отдых в России
Число Гуччи Число Гуччи

История семьи и бренда Гуччи в метрах, сыновьях, тюремных сроках и киллерах

Weekend
Как кумир миллионов Моргенштерн стал врагом для страны Как кумир миллионов Моргенштерн стал врагом для страны

Как честность Моргенштерна сыграла с ним злую шутку

Cosmopolitan
Как убрать синяки под глазами и почему они появляются Как убрать синяки под глазами и почему они появляются

Как появляются темные круги под глазами

РБК
Торжественно клянусь: Хейли Бибер и другие звезды о новогодних обещаниях Торжественно клянусь: Хейли Бибер и другие звезды о новогодних обещаниях

Многие не только загадывают желания, но и дают себе обещания в Новогоднюю ночь

РБК
Издают ли северные сияния звуки, которые мы можем услышать? Ответ не так прост Издают ли северные сияния звуки, которые мы можем услышать? Ответ не так прост

Почему люди говорят, что северное сияние «свистит»?

Популярная механика
«Синдром Плюшкина»: безобидная причуда или личностное расстройство? «Синдром Плюшкина»: безобидная причуда или личностное расстройство?

«Синдром Плюшкина», или «хоардинг» — чем опасен и как лечить?

Psychologies
Олег Нестеров — о шведском столе контента, влюбленности и Альфреде Шнитке Олег Нестеров — о шведском столе контента, влюбленности и Альфреде Шнитке

Олег Нестеров о советской киномузыке и свободе, рождающейся из ограничений

РБК
Non/fiction 23: гид по международной ярмарке интеллектуальной литературы Non/fiction 23: гид по международной ярмарке интеллектуальной литературы

16 книг, которые нельзя пропустить

СНОБ
Миллион на любимом деле: как я в декрете и без образования создала бизнес Миллион на любимом деле: как я в декрете и без образования создала бизнес

Иногда хобби можно превратить в прибыльный бизнес

Cosmopolitan
Палеогенетики обнаружили важность родства при захоронениях в длинном кургане раннего неолита Палеогенетики обнаружили важность родства при захоронениях в длинном кургане раннего неолита

Палеогенетики исследовали останки захороненных в кургане эпохи раннего неолита

N+1
Как учатся современные дети в России и что происходит с отечественной системой образования? Заменит ли дистанционное обучение офлайн? Отвечают учителя Как учатся современные дети в России и что происходит с отечественной системой образования? Заменит ли дистанционное обучение офлайн? Отвечают учителя

Esquire расспросил учителей о настоящем и будущем школьного образования

Esquire
Резонансы Фешбаха увидели в атомно-ионной смеси Резонансы Фешбаха увидели в атомно-ионной смеси

Физикам удалось увидеть формирование резонансов Фешбаха

N+1
На Рюриковом городище нашли фрагменты чешского стеклянного сосуда с росписью На Рюриковом городище нашли фрагменты чешского стеклянного сосуда с росписью

Ученые нашли чешские артефакты второй половине XVI века

N+1
ВАЗ: лучшие электромобили советского периода ВАЗ: лучшие электромобили советского периода

В советское и постсоветское время ВАЗ был лидером электромобилестроения

Популярная механика
Когда жалованье стало зарплатой и кем были стилисты в середине XX века Когда жалованье стало зарплатой и кем были стилисты в середине XX века

Жалованье и зарплата. Перемены в жизни слов

РБК
Мультишеф Мультишеф

Вопрос не в том, что ты делаешь что-то не то, главное — зачем вообще это делаешь

Bones
Hybrid theory: как совмещение реального и цифрового меняет формат работы Hybrid theory: как совмещение реального и цифрового меняет формат работы

Разбираемся, почему традиционный формат работы больше не работает

Inc.
Поспорим о вкусах Поспорим о вкусах

Спорим о вкусах с рестораторами из разных часовых поясов

Bones
Если завтра в поход. Пора ли нам начинать бояться большой войны Если завтра в поход. Пора ли нам начинать бояться большой войны

Станет ли взаимный страх тормозом для лидеров стран?

СНОБ
Гарри Поттеру пора читать другие книги, а Кэрри Брэдшоу — вернуться в реальность: Андрей Подшибякин — о буме реюнионов и манипуляции нашей ностальгией Гарри Поттеру пора читать другие книги, а Кэрри Брэдшоу — вернуться в реальность: Андрей Подшибякин — о буме реюнионов и манипуляции нашей ностальгией

Бесконечные ремейки и реюнионы напоминают встречу со старыми одноклассниками

Esquire
Итальянский опыт Итальянский опыт

Мы попросили шеф-поваров — преподавателей академии поделиться своими рецептами

Bones
Азиатские штучки Азиатские штучки

Паназиатская кухня: почему её так сложно уместить под крышей одного ресторана?

Bones
Открыть в приложении