Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Страшная песенка про пять минут Страшная песенка про пять минут

Почему часы — атрибут смерти и воплощение быстротечности жизни?

Вокруг света
В шаге от диабета В шаге от диабета

Что такое предиабет, чем он опасен и как его лечить

Лиза
Как накачать руки без гирь, штанги и гантелей Как накачать руки без гирь, штанги и гантелей

6 упражнений для твоего тела, которые можно делать без тренажерного зала

Maxim
Зеленый бриллиант: почему зеленку не применяют нигде в мире, кроме стран СНГ Зеленый бриллиант: почему зеленку не применяют нигде в мире, кроме стран СНГ

Для чего на самом деле нужна зеленка?

ТехИнсайдер
Секс не ради секса: почему мы соглашаемся? Секс не ради секса: почему мы соглашаемся?

В постели с мужчинами мы иногда оказываемся не только из-за чистой страсти

VOICE
Землетрясения в России: самые опасные районы Землетрясения в России: самые опасные районы

Какие регионы России наиболее сейсмоопасные, а какие — наименее?

Maxim
Убойный растворитель: 7 гениальных способов применить уайт-спирит в быту Убойный растворитель: 7 гениальных способов применить уайт-спирит в быту

Как еще можно применить уайт-спирит в быту

ТехИнсайдер
8 бьюти-советов твоих лучших подруг, от которых косметологи в ужасе 8 бьюти-советов твоих лучших подруг, от которых косметологи в ужасе

Стоит ли прислушиваться к чужим советам о том, как добиться идеальной кожи?

Лиза
Четыре рассказа из шляпной коробки Четыре рассказа из шляпной коробки

«Рассказы из шляпной коробки»: сюжет каждого сложился внезапно

Правила жизни
Войти в сад Войти в сад

Четыре года назад Антон Шуранов открыл крошечную студию цветов на «Аэропорте»

Seasons of life
И хочется, и надо, но лень не дает... И хочется, и надо, но лень не дает...

14 нескучных мотиваций для похудения

Лиза
Испытание морем Испытание морем

Увидеть далекие арктические острова – об этом мечтают многие путешественники

Отдых в России
Как поставить живые обои на ПК? Как поставить живые обои на ПК?

Украсить свой рабочий стол красивой анимацией очень просто

CHIP
Вспоминаем Саманту Смит — девочку, которая всполошила весь СССР своим приездом Вспоминаем Саманту Смит — девочку, которая всполошила весь СССР своим приездом

Как Саманта Смит посетила СССР в апогей холодной войны и ядерной паранойи

Maxim
Отложенный успех: как Брендан Фрейзер вернулся в большое кино и выиграл «Оскар» Отложенный успех: как Брендан Фрейзер вернулся в большое кино и выиграл «Оскар»

Как Брендан Фрейзер вернулся в большое кино после более десятилетнего перерыва

Forbes
Пресс Пресс

Почему пресс при прокачке может складываться в "домик" и чем это грозит

VOICE
Ребенок блогера-сыроеда Максима Лютого умер от истощения. Почему люди «экспериментируют» на детях? Ребенок блогера-сыроеда Максима Лютого умер от истощения. Почему люди «экспериментируют» на детях?

Почему родители навязывают детям свой взгляд на питание?

Psychologies
«Я ношу только то, что делает меня лучше» «Я ношу только то, что делает меня лучше»

Самая итальянская русская актриса Юлия Высоцкая стала амбассадором Geox в России

OK!
Сопротивление, сожаление и принятие: как выражается наша потребность в свободе Сопротивление, сожаление и принятие: как выражается наша потребность в свободе

Отрывок из книги «Больше чем желание» о стремлении к свободе и его проявлениях

Forbes
И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного И ты, бот: почему в утечке данных пользователей ChatGPT нет ничего удивительного

OpenAI сообщила об утечке персональных данных пользователей чат-бота ChatGPT

Forbes
10 женщин, возглавляющих IT-подразделения в крупнейших международных компаниях 10 женщин, возглавляющих IT-подразделения в крупнейших международных компаниях

Список самых перспективных директоров по информационным технологиям

Forbes
Александр Сокуров: «Власть не от Бога» Александр Сокуров: «Власть не от Бога»

Фильм «Молох» — не о Гитлере и не о немецком нацизме

Дилетант
Какую воду лучше пить: с газом или без? Какую воду лучше пить: с газом или без?

Что произойдёт с организмом, если обычную воду полностью заменить газированной?

ТехИнсайдер
Как картины и фотографии усиливают эффект пропаганды и создают мифы о правителях Как картины и фотографии усиливают эффект пропаганды и создают мифы о правителях

Глава из книги «Взгляд историка: как фотографии и изображения создают историю»

Forbes
Отрывок из книжного сериала Антон Секисова «Комната Вагинова» Отрывок из книжного сериала Антон Секисова «Комната Вагинова»

Жизнь в петербургской коммуналке глазами Антона Секисова

СНОБ
Да, шеф Да, шеф

«Медведь» — кулинарное душевное драмеди со звездой «Бесстыжих»

ЖАРА Magazine
19 элементарных лайфхаков, которые сэкономят тебе часы на кухне 19 элементарных лайфхаков, которые сэкономят тебе часы на кухне

Советы о самом насущном — картошке, чесноке и пельмешках из морозилки!

Maxim
30 лет спустя Mercedes-Benz вспоминает свой первый G-класс с двигателем V8 30 лет спустя Mercedes-Benz вспоминает свой первый G-класс с двигателем V8

Именно он заложил основу последующего триумфа знакового внедорожника

4x4 Club
5 причин почитать «Орбиту смерти» канадского астронавта Криса Хэдфилда 5 причин почитать «Орбиту смерти» канадского астронавта Криса Хэдфилда

На русском вышел роман «Орбита смерти», написанный астронавтом Крисом Хэдфилдом

ТехИнсайдер
Интерьер Интерьер

Курс светотерапии в гостях у медиахудожников Евгении Годуновой и Юрия Пелина

Собака.ru
Открыть в приложении