Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Лунные костюмы Лунные костюмы

Зачем потребовалось перекрашивать скафандр и что нового предложили конструкторы?

ТехИнсайдер
Новое русское бьюти: кто сейчас формирует отечественную индустрию косметики Новое русское бьюти: кто сейчас формирует отечественную индустрию косметики

На российском рынке косметики произошли значительные изменения

Forbes
В чем разница между оливками и маслинами. Дело не только в цвете В чем разница между оливками и маслинами. Дело не только в цвете

Что такое маслины и чем они отличаются от зеленых оливок?

ТехИнсайдер
Как выглядит кожа женщины, сбросившей 71 килограмм: почему лучше не набирать вес, чем потом худеть Как выглядит кожа женщины, сбросившей 71 килограмм: почему лучше не набирать вес, чем потом худеть

Как выглядит девушка, похудевшая на 71 килограмм

VOICE
Химия любви Химия любви

Как связаны любовь, секс и здоровье

Новый очаг
Ложимся на крыло? Ложимся на крыло?

Парусные суперъяхты могли бы легко решить проблему декарбонизации

Y Magazine
Как ездить на АТ и не страдать? Как ездить на АТ и не страдать?

Что такое АТ-шины и как на них ездить?

4x4 Club
«Огненные» скрепы «Огненные» скрепы

10 мая 1933 года, в нацистской Германии прошла «Акция против негерманского духа»

Дилетант
Кто делает российские электробусы, водоробусы и беспилотники Кто делает российские электробусы, водоробусы и беспилотники

Как создаются инновационные продукты Группы ГАЗ

Эксперт
Как люди отреагировали на смерть Сталина? Прочтите эти воспоминания! Как люди отреагировали на смерть Сталина? Прочтите эти воспоминания!

Тревога, радость и всенародное горе — как люди восприняли кончину Сталина

ТехИнсайдер
Не только гладить вещи: 7 удивительных лайфхаков с утюгом — вы будете поражены! Не только гладить вещи: 7 удивительных лайфхаков с утюгом — вы будете поражены!

Рассказываем, как извлечь бо́льшую выгоду из обычного утюга

ТехИнсайдер
10 самых больших акул в мире 10 самых больших акул в мире

Каких акул стоит опасаться больше всего?

ТехИнсайдер
Как бывший инженер «Газпрома» и юристка зарабатывают на балете для взрослых 257 млн руб. в год. История Levita Как бывший инженер «Газпрома» и юристка зарабатывают на балете для взрослых 257 млн руб. в год. История Levita

История студии балета и растяжки Levita

Inc.
6 типичных ошибок в публичных выступлениях 6 типичных ошибок в публичных выступлениях

Как сделать свое выступление запоминающимся, ярким и полезным?

Psychologies
Лекарство от депрессии Лекарство от депрессии

Как Вторая мировая сделала из США сверхдержаву

Деньги
Что такое прокрастинация и как с ней бороться: практические советы от предпринимателя Что такое прокрастинация и как с ней бороться: практические советы от предпринимателя

Чем прокрастинация отличается от лени?

Psychologies
Премию Абеля присудили за работы по дифференциальным уравнениям в частных производных Премию Абеля присудили за работы по дифференциальным уравнениям в частных производных

Премия Абеля: вклад в теорию регулярности нелинейных дифференциальных уравнений

N+1
В коллайдере удалось зафиксировать «неуловимые» частицы В коллайдере удалось зафиксировать «неуловимые» частицы

Новая работа представляет собой первое прямое наблюдение коллайдерных нейтрино

ТехИнсайдер
Ходим парой Ходим парой

Почему женская дружба может быть одной из самых важных вещей на свете

Лиза
Бесполезные советы Бесполезные советы

7 популярных лайфхаков в уборке, которые на самом деле не работают

Лиза
Лучшая научно обоснованная диета для похудения Лучшая научно обоснованная диета для похудения

Как похудеть с умом?

ТехИнсайдер
7 страшно интересных фактов о фильмах «Мумия» 7 страшно интересных фактов о фильмах «Мумия»

Настала пора вспомнить ошеломительных «Мумий» с Бренданом Фрейзером

Maxim
Как соблазнять голосом: 3 упражнения Как соблазнять голосом: 3 упражнения

Голос — неотъемлемая часть сексуального образа

Psychologies
Как улучшить фотографии нейросетью? Основные методы ИИ-обработки изображений Как улучшить фотографии нейросетью? Основные методы ИИ-обработки изображений

Несколько способов улучшения качества фотографий с помощью нейронной сети

Цифровой океан
Москву окольцевали Москву окольцевали

В Москве запущена Большая кольцевая линия метро — длиннейшее метрокольцо в мире

Эксперт
Скандал с отцом 8-летней фигуристки: почему родители унижают детей-спортсменов — история Мирославы и Михаила Лебедевых Скандал с отцом 8-летней фигуристки: почему родители унижают детей-спортсменов — история Мирославы и Михаила Лебедевых

Почему родители готовы жертвовать здоровьем ребенка ради чемпионства?

Psychologies
Пивной путч. Фальстарт Пивной путч. Фальстарт

1923 год выдался для Германии очень беспокойным

Дилетант
Время пришло: как часовые и ювелирные бренды осваивают NFT-вселенную Время пришло: как часовые и ювелирные бренды осваивают NFT-вселенную

Можно ли балансировать между реальным и виртуальным продуктом

Forbes
7 книг, которые помогут лучше понимать Тарантино 7 книг, которые помогут лучше понимать Тарантино

Книжный гид по творческой вселенной Квентина Тарантино

Правила жизни
Какой у тебя SQ? Какой у тебя SQ?

Сексуальный интеллект: что это такое, зачем его прокачивать?

Лиза
Открыть в приложении