Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

История сверхъестественного, или Как Хэллоуин стал праздником нечисти История сверхъестественного, или Как Хэллоуин стал праздником нечисти

Историк Лоуренс Самюэль рассказывает об истории сверхъестественного в мире

Psychologies
«Лишний»: что такое моббинг и какие у него бывают последствия «Лишний»: что такое моббинг и какие у него бывают последствия

Высмеивание, распускание слухов, социальная изоляция — приметы моббинга

Psychologies
Гормон-шило Гормон-шило

Новые открытия о нашем главном гормоне – тестостероне

Maxim
Дискаунтер с элементами шика Дискаунтер с элементами шика

Федеральный ретейлер «Магнит» запускает сеть жестких дискаунтеров «Первый выбор»

Эксперт
Минет: идеи и навыки для большего удовольствия Минет: идеи и навыки для большего удовольствия

Чему учат на тренингах по технике секса?

Psychologies
Кофеин снижает ожирение и риск развития диабета. Но есть нюансы Кофеин снижает ожирение и риск развития диабета. Но есть нюансы

Ученые отметили, что напитки с кофеином могут привести к снижению ожирения

ТехИнсайдер
Был беженцем, стал звездой: виражи судьбы Ке Хью Квана — первого актера вьетнамского происхождения с Был беженцем, стал звездой: виражи судьбы Ке Хью Квана — первого актера вьетнамского происхождения с

Биография вьетнамского актера Ке Хью Квана достойна экранизации

VOICE
«Советская повседневность» «Советская повседневность»

Отрывок из книги «Советская повседневность: нормы и аномалии»

N+1
Лидия Метельская Лидия Метельская

Лидия Метельская строит параллельный мир Meowshka из белоснежных котиков

Собака.ru
5 полезных продуктов, которые вызывают переедание: на них сложно похудеть 5 полезных продуктов, которые вызывают переедание: на них сложно похудеть

Некоторые здоровые продукты очень коварны — и лишь разжигают наш аппетит

VOICE
Планета людей Планета людей

Там, где она бывает, в домах топятся печи и сохнет шерсть, а хозяева пекут хлеб

Seasons of life
От первого лица: 5 зарубежных книг о женщинах, которые стоит прочитать От первого лица: 5 зарубежных книг о женщинах, которые стоит прочитать

Автобиографические книги наших современниц

Правила жизни
Свежий взгляд на французскую классику: отрывок из книги Свежий взгляд на французскую классику: отрывок из книги

Глава из книги «Прощай, грусть!» — анализ драмы «Сирано де Бержерак»

СНОБ
Большая распаковка: почему невозможно отказаться от пластика в России Большая распаковка: почему невозможно отказаться от пластика в России

Можно ли ограничить производство в России товаров из пластика?

Forbes
Когда летние шины выгоднее всего покупать: секрет хитрых водителей Когда летние шины выгоднее всего покупать: секрет хитрых водителей

Хитрые водители разделяют покупку и установку шин

ТехИнсайдер
Нитками вместо красок Нитками вместо красок

Журнал и картины Веры — нежные, чуть наивные, живые — соединились

Seasons of life
Он пробыл 16 часов в желудке кашалота и остался жив: удивительная история Джеймса Бартли Он пробыл 16 часов в желудке кашалота и остался жив: удивительная история Джеймса Бартли

В 1891 году моряк английского судна Джеймс Бартли был проглочен огромным китом

ТехИнсайдер
«Валсарб»: отрывок из книги о девочке, которая хранит чужую память «Валсарб»: отрывок из книги о девочке, которая хранит чужую память

Отрывок из книги «Валсарб» — о девочке, которая слышит голоса умерших людей

Forbes
«Что увидела Кассандра»: истории женщин, балансирующих на грани нервного срыва «Что увидела Кассандра»: истории женщин, балансирующих на грани нервного срыва

Несколько обычных историй, которые случаются постоянно

Forbes
От Роберта Сапольски до Эрика Берна: семь книг о работе мозга и памяти От Роберта Сапольски до Эрика Берна: семь книг о работе мозга и памяти

Книги, которые помогут разобраться в работе мозга

Forbes
«Кит» с Бренданом Фрейзером: как режиссер Аронофски находит силу в правде «Кит» с Бренданом Фрейзером: как режиссер Аронофски находит силу в правде

Почему фильм «Кит» интересен не только как актерский перформанс

Forbes
Ученые из Кембриджа: достаточно 11 минут в день, чтобы снизить риск ранней смерти Ученые из Кембриджа: достаточно 11 минут в день, чтобы снизить риск ранней смерти

Каждую десятую раннюю смерть можно было бы предотвратить

Inc.
Женился на родной дочери, убил своего сына: история Стивена Пладла Женился на родной дочери, убил своего сына: история Стивена Пладла

Алиса была уверена, что её муж рано или поздно убьет ее ребенка

VOICE
Чего хотят 13-летние. Как многодетная мать строит бизнес на желании подростков выразить себя Чего хотят 13-летние. Как многодетная мать строит бизнес на желании подростков выразить себя

Как воплотить детскую мечту о творчестве и помочь собственным детям

Inc.
Три города-курорта России, куда лето приходит раньше календаря Три города-курорта России, куда лето приходит раньше календаря

Заждались лета? Добро пожаловать в Крым и на Кубань

Караван историй
Премию Абеля присудили за работы по дифференциальным уравнениям в частных производных Премию Абеля присудили за работы по дифференциальным уравнениям в частных производных

Премия Абеля: вклад в теорию регулярности нелинейных дифференциальных уравнений

N+1
Правила жизни Честера Беннингтона Правила жизни Честера Беннингтона

Правила жизни музыканта Честера Беннингтона

Правила жизни
Овцеводство поддержат по-новому Овцеводство поддержат по-новому

Новая программа овцеводства должна учесть специфику развития отрасли

Агроинвестор
Отпуск в Китае? Вот куда нужно съездить. Строим планы на лето! Отпуск в Китае? Вот куда нужно съездить. Строим планы на лето!

Вот что стоит посмотреть в Китае во время вашего отпуска

ТехИнсайдер
Чадра, платок и смех: как выглядит повседневная жизнь женщины в Иране Чадра, платок и смех: как выглядит повседневная жизнь женщины в Иране

Как живут женщины в стране, где 40 лет назад произошла Исламская революция

Forbes
Открыть в приложении