Чем хороша новая версия популярного бота от OpenAI GPT-4

ForbesHi-Tech

Четвертое измерение: что умеет новая языковая модель от OpenAI GPT-4

Манвел Аветисян

Фото Silas Stein / picture alliance via Getty Images

С момента появления ChatGPT в интернете уже разошлись мемы с вакансией «выключателя», который должен вытащить вилку из розетки, если ИИ внутри модели оживет. Директор по развитию прикладных проектов Института искусственного интеллекта AIRI Манвел Аветисян рассказывает о том, что сейчас умеет новая версия основы популярного бота GPT-4 и как релиз новинки от OpenAI отразится на нашей жизни.

Эволюция языковых моделей

Бурное развитие умных языковых ботов началось с довольно простой мысли: в виде текста можно представить огромное количество задач, а значит, можно научить модели ИИ эти задачи решать. В 2017 году появились трансформерные архитектуры, способные обучаться на больших объемах текстов. Чуть позже ученые совместили обучение с подкреплением (Reinforcement learning, RL, технология, которая позволяет «хвалить» программу за правильные действия и «наказывать» за неправильные) с большими языковыми моделями, такими, как GPT-3 (Large Language Models, LLM). Получился ChatGPT.

Представьте себе игру в шахматы: подкрепление в ней — это результат игры. Компьютерному агенту на основе искусственного интеллекта необходимо научиться делать ходы, которые приведут к победе. Люди способны действовать с подкреплением, удаленным на годы вперед, например, долго и усердно трудиться в школе и университете, чтобы получить первую зарплату. Компьютеру сложно выполнять длинные последовательности действий для достижения итогового результата, и разработчикам приходится учить ИИ «заглядывать вперед» при выборе следующего шага. Исследователи начали обучать модели, способные отвечать на вопросы человека и интегрировать в них огромные объемы человеческой обратной связи.

Среди основных прорывов, полученных исследователями в последнее время, можно отметить:

  • Toolformer, LLM от Meta (признана в России экстремистской организацией и запрещена): исследователи научили большие языковые модели обращаться к внешним инструментам (веб-поиску, переводчику, калькулятору).
  • LLaMA, LLM от Meta (признана экстремистской организацией на территории РФ): ученые доказали, что объем данных для обучения модели важнее, чем ее сложность. Более легкие по вычислительным ресурсам модели с большими выборками обучающих данных обошли большие модели в качестве решения прикладных задач.
  • ChatGPT на Bing научился указывать источники тех или иных фактов, которые он приводит в ответе на вопрос.

Плюсы и минусы нового движка

GPT-4 — последняя из больших языковых моделей семейства GPT от OpenAI: GPT-2, GPT-3 и GPT-3.5, которая легла в основу первой версии популярного бота ChatGPT. Модель состоит из большого количества нейросетей, которые умеют обрабатывать, понимать, анализировать, интерпретировать и генерировать тексты на естественном языке. Несмотря на то что четвертая версия модели понимает 28 языков, включая малоресурсные валлийский язык и урду (близкий к хинди язык индоевропейской семьи), наилучшие результаты по-прежнему можно получить, используя для создания промптов (так называются фразы-запросы к модели) английский.

GPT-4 прошел проверку эффективности на множестве экзаменов — как академических, так и профессиональных. Порой работы модели превосходили результаты большинства параллельно тестируемых людей. Например, на смоделированном экзамене для адвокатов (Uniform Bar Examination) GPT-4 оказалась среди 10% лучших участников теста, в то время как ChatGPT оказался среди худших 10%. Кроме того, согласно данным технического отчета OpenAI, сгенерированные GPT-4 ответы нравились тестовой группе пользователей в 70,2% случаев чаще, чем ответы GPT-3.5. Впрочем, по словам самих создателей, разница между ответами от двух версий бота может показаться незаметной в процессе работы с интерфейсом.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

7 причин, почему у тебя до сих пор нет кубиков пресса, хотя ты его качаешь 7 причин, почему у тебя до сих пор нет кубиков пресса, хотя ты его качаешь

Основные причины, почему у тебя нет кубиков пресса

Playboy
Суверенитет против общества: бывают ли «хорошие» законы об иностранных агентах Суверенитет против общества: бывают ли «хорошие» законы об иностранных агентах

Существует ли некое «хорошее» законодательство об иноагентах?

Forbes
Ударница Ударница

Кто эта хрупкая блондинка? Модель? Актриса? А вот и нет!

Maxim

Как Гизелла Перл решила помочь беременным узницам концлагеря

ТехИнсайдер
Почему можно оживить замороженных лягушек, но не людей? Почему можно оживить замороженных лягушек, но не людей?

Как лягушкам удается возвращаться к жизни после «превращения в ледышки»?

ТехИнсайдер
Когда артерии в опасности Когда артерии в опасности

Сосудистый хирург рассказывает, что влияет на здоровье артерий

Здоровье
Ребёнок не хочет учиться читать? Измените подход! Ребёнок не хочет учиться читать? Измените подход!

Как привить ребенку любовь к чтению?

Здоровье
Равные зарплаты и декретный отпуск для отцов: как IKEA добилась гендерного равенства Равные зарплаты и декретный отпуск для отцов: как IKEA добилась гендерного равенства

IKEA добилась гендерного равенства среди руководителей на международном уровне

Forbes
Вторая половина жизни: истории поздних браков Руперта Мердока и других миллиардеров Вторая половина жизни: истории поздних браков Руперта Мердока и других миллиардеров

Истории миллиардеров, которые решились на новые отношения в зрелом возрасте

Forbes
Древнейшие остатки ихтиозавра найдены в Арктике. Они меняют историю динозавров Древнейшие остатки ихтиозавра найдены в Арктике. Они меняют историю динозавров

Вероятно, ихтиозавры заселили море еще до великого вымирания

ТехИнсайдер
In vino veritas, или Женский взгляд на вино: как итальянки занимаются виноделием, попутно разрушая стереотипы In vino veritas, или Женский взгляд на вино: как итальянки занимаются виноделием, попутно разрушая стереотипы

Предубеждения и традиции не помеха на пути к должности CEO в любимой профессии

Правила жизни
Голливудские бизнес-кейсы: как примеры из кино помогают в управлении командой Голливудские бизнес-кейсы: как примеры из кино помогают в управлении командой

Культовые картины также могут стать отличным руководством по управлению командой

Forbes
7 редких экспонатов Музея-квартиры Николая Голованова 7 редких экспонатов Музея-квартиры Николая Голованова

Удивительные предметы из коллекции музыканта Николая Голованова

Культура.РФ
История Эрже — бельгийского художника и создателя Тинтина История Эрже — бельгийского художника и создателя Тинтина

Комиксы о Тинтине принесли Эрже не только всемирную славу

Правила жизни
Как образуются песчаные дюны и почему они вообще существуют Как образуются песчаные дюны и почему они вообще существуют

Ученые до сих пор не понимают, от чего зависят формы песчаных дюн

ТехИнсайдер
Полет на Маркс Полет на Маркс

Авангардистам редко удавалось осуществить свои утопические фантазии на практике

Правила жизни
Найти свою половинку в Эмиратах: две истории с (не)счастливым концом Найти свою половинку в Эмиратах: две истории с (не)счастливым концом

Каковы шансы обрести в Эмиратах близкие отношения и построить семью?

Psychologies
15 фактов о сериале «Уэнсдэй» 15 фактов о сериале «Уэнсдэй»

Чему Дженне Ортеге училась для роли и как снимали сцены с отрубленной рукой?

ЖАРА Magazine
Карту на стол Карту на стол

Искусствовед рассказывает, по какой схеме развивался русский авангард

Правила жизни
Версальское унижение Версальское унижение

Документ, подписанный в 1919 году в Версале, положил конец Первой мировой войне

Дилетант
Тетя Ася и Тиви Паркер: что стало с героями культовых рекламных роликов Тетя Ася и Тиви Паркер: что стало с героями культовых рекламных роликов

Вспомним самые классные рекламные ролики из 90-х и нулевых. Что стало с героями?

VOICE
Не психолог и не коуч: кто такой наставник Не психолог и не коуч: кто такой наставник

Что входит в задачи наставника?

Psychologies
Самые странные русские обряды: зачем запекать ребенка в печи, запрягать баб и ехать хоронить мух? Самые странные русские обряды: зачем запекать ребенка в печи, запрягать баб и ехать хоронить мух?

Какой поговоркой можно охарактеризовать русский народ?

ТехИнсайдер
Супергероиня, преподавательница, мать: семь сериалов про женщин-адвокатов Супергероиня, преподавательница, мать: семь сериалов про женщин-адвокатов

Сериалы, где женщины-адвокаты являются если не основными, то важными персонажами

Forbes
Как основатель Bolt нанял мошенника для создания криптопроекта Movement DAO Как основатель Bolt нанял мошенника для создания криптопроекта Movement DAO

Райан Бреслоу ввязался в судебное разбирательство по поводу предполагаемой кражи

Forbes
8 полезных лайфхаков, которыми пользовались все советские хозяйки: что делать со старыми газетами 8 полезных лайфхаков, которыми пользовались все советские хозяйки: что делать со старыми газетами

Газета ещё может пригодиться в быту и стать незаменимым помощником!

ТехИнсайдер
Худрук театра «Шалом» Олег Липовецкий: Потерять себя гораздо страшнее, чем должность Худрук театра «Шалом» Олег Липовецкий: Потерять себя гораздо страшнее, чем должность

Олег Липовецкий — о творческом пути, региональных театрах и сценической правде.

СНОБ
«Меня заставили раздеться до лифчика»: Евгения Медведева оконфузилась в аэропорту «Меня заставили раздеться до лифчика»: Евгения Медведева оконфузилась в аэропорту

Фигуристка Евгения Медведева выступила с редкими откровениями

VOICE
Ученые подтвердили, что с потеплением усилятся наводнения и засухи Ученые подтвердили, что с потеплением усилятся наводнения и засухи

Как глобальное потепление влияет на наводнения?

ТехИнсайдер
Как пчелы делают мед: все секреты процесса получения природного десерта Как пчелы делают мед: все секреты процесса получения природного десерта

Мы все очень любим этот продукт, однако как пчелам удается его получить?

ТехИнсайдер
Открыть в приложении