Мог ли чат GPT появиться в России и почему Китай скоро обгонит США

НаукаHi-Tech

«Криворукие гуманоиды», или Поговори со мной, машина!

Директор Центра прикладного искусственного интеллекта Сколтеха, руководитель научной группы AIRI Евгений Бурнаев рассказывает, мог ли чат GPT появиться в России, почему Китай скоро обгонит США и может ли ИИ разгадать загадки человеческого мозга.

Беседовала Елена Кудрявцева

Профессор Бурнаев — научный руководитель медиапроекта Сколтеха по популяризации AI-технологий Kapitsa.AI (проект реализуется при грантовой поддержке Минобрнауки РФ).

Что было придумано такого в ChatGPT, чего не было до этого? Почему вдруг такой взрыв интереса?

— Как обычно, это сочетание нескольких факторов. Первый фактор — очень специальная архитектура нейросети, то есть, по сути, очень специальная конструкция вычислительного алгоритма. Используется так называемый механизм внимания — специальный класс алгоритмов, который позволяет оценивать, насколько сильно какие‑то слова в предложении зависят от контекста. Механизм внимания был известен уже давно, однако в процессе проведения экспериментов было замечено, что если использовать очень большие нейросети (с большим числом параметров), которые позволяют делать оценку внимания для текстов большого размера и настраивать параметры нейросетей по огромным выборкам данных, то в результате получаются модели, которые на качественно новом уровне могут извлекать смыслы из текстов. Это второй фактор. Конечно, при этом требуются значительные вычислительные мощности.

Сотрудники компании OpenAI, которые первыми заметили эту тенденцию, продолжили активно инвестировать в данное направление. Третье — был предложен и использован для обучения ChatGPT новый алгоритм с подкреплением на основе обратной связи от пользователя. Для этого требуются значительные средства для получения специальным образом подготовленной выборки данных в виде вопросов и ответов людей на них. В итоге модель ChatGPT на регулярной основе получала обратную связь от пользователей, что позволяло автоматически улучшать ее работу.

Пример прогноза вероятности возникновения лесного пожара на четыре дня вперед, Иркутская область, сетка 21x21 км, май 2022 года

— Как это выглядело в реальности?

— Они наняли столько‑то сотен определенным образом подготовленных людей, сначала тренировали их, как правильно составлять вот эти пары вопросов‑ответов — определенные вопросы и детальные ответы на них. Более того, некоторые из ответов были развернутые, представленные в виде рассуждений.

— То есть логически?

— Эта цепочка рассуждений в конце приводит к ответу на поставленный вопрос. Все указанные факторы, описанные выше приемы оказались очень важными и полезными, кардинально повышающим качество, они позволили «дойти последнюю милю». Примерно так же было с системой распознавания лиц. Долгое время качество распознавания, условно, не превышало 85%. Вроде бы с формальной точки зрения точность в 85% выглядит неплохо, но этого совсем недостаточно для приложений.

На практике нужна точность гораздо больше 95%. Преодоление этой разницы требовало наиболее значительных усилий. Как только удалось это сделать за счет новых алгоритмов, сразу стало возможным строить системы распознавания, которые работали в разы лучше прежних, и их использование в различных бизнес‑приложениях стало экономически оправданным. Так и в случае языковых моделей. Языковые модели предыдущего поколения неплохо работали в каких‑то достаточно узких инженерных задачах. За счет сочетания факторов, которые я описал выше, удалось кардинально повысить качество и выйти на новый уровень понимания естественного языка.

Ненужные люди

— Все как раз прогнозируют какой‑то передел структуры рынка, замену ИИ большого количества специальностей, переживают инженеры, художники, журналисты.

— Это, конечно, больная тема, но на самом деле эти процессы, на мой взгляд, не слишком быстрые. Конечно, если речь идет о, например, стоковых рисунках для презентаций, то да, я согласен, генеративная модель может вместо художника такой рисунок легко сгенерировать. Но для результатов более высокого уровня пока еще требуется участие профессионала.

— OpenAI довольно неплохо привлекла к себе внимание, уволив и взяв обратно на работу Сэма Альтмана, который якобы хотел предупредить человечество о том, что ИИ достиг какого‑то опасного порога развития.

— Действительно, в прессе стали появляться сообщения, что фактически уже создан интеллект, который всех скоро поработит, займет рабочие места и т. д. Например, даже лауреат Нобелевской премии Кристофер Писсаридес посоветовал абитуриентам не стремиться изучать естественные науки, технические дисциплины и математику. Он считает, что в будущем будут гораздо выше цениться «эмпатические» и творческие навыки, которые помогут процветать в мире доминирования искусственного интеллекта. На мой взгляд такие советы — это, конечно, крайность.

Займет ли ИИ рабочие места? Конечно, займет! А потом создаст в два раза больше рабочих мест, чтобы разгрести все то, что ИИ же и наворотил, а точнее, «криворукие гуманоиды» с его помощью. Действительно, программный модуль на основе ИИ, вообще говоря, имеет ненулевую вероятность выдать ошибочный прогноз. Соответственно, такого рода модуль может, с одной стороны, повысить эффективность принятия решений, но с другой стороны требуется встраивать его в ИТ‐системы надлежащим образом, принимая во внимание эту особенность — что некоторые прогнозы, пусть даже и очень небольшая их часть, могут быть ошибочными. В случае если речь идет о какой‐то ИТ‐системе для управления критической инфраструктурой, появление таких ошибок может быть фатальным. Соответственно, очень важно наличие высококвалифицированных специалистов экспертов в ИИ, которые могут надлежащим образом оценить все риски и верифицировать решение на основе ИИ. Помимо этого, требуется вовлечение квалифицированных разработчиков со знанием основ ИИ, которые смогут правильным образом встроить модуль на основе ИИ в ИТ‑систему с учетом всех его особенностей.

— Зато вылезают какие‑то опасности, о которых мы раньше и не подозревали.

— Понятно, что искусственный интеллект можно встраивать в военные изделия. Но, опять‑таки, кажется, что это просто всего лишь еще одна дополнительная техническая возможность, которой раньше не было. Если мы уже начали говорить про технику, то сначала тракторов не было, потом они появились. Хорошая вещь? Конечно, стало проще выращивать пшеницу. Но трактора — это еще и танки. С ИИ примерно такая же история будет, в моем понимании. Стали появляться дипфейки — стали появляться и методы, и сервисы на их основе для выявления дипфейков.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новая дисциплина Новая дисциплина

Чемпионка мира, чемпионка Европы, призер Олимпийских игр – Евгения Медведева

Maxim
Затянувшаяся грусть: что такое «ловушка печали» и как из нее выбраться Затянувшаяся грусть: что такое «ловушка печали» и как из нее выбраться

«Ловушка печали»: что это такое, как вовремя ее распознать?

ТехИнсайдер
Крутятся диски Крутятся диски

Утилизация отработавшей свое компьютерной техники оказалась выгодным делом

Наука
Туда и обратно Туда и обратно

Как в классических детективах переплетаются персонажи и личности авторов

P.I.C. Partner In Crime
Мне нужна твоя работа и мотоцикл Мне нужна твоя работа и мотоцикл

Все чаще “вкалывают роботы”. Счастлив ли человек?

Men Today
Дом у моря Дом у моря

Белоснежная вилла для летнего отдыха, со всех сторон открытая к морю

RR Люкс.Личности.Бизнес.
Солнце над столицей Солнце над столицей

73-метровое колесо обозрения, возведенное к 850-летию Москвы, долго не простояло

Популярная механика
Я — сноб: театральный режиссер Сергей Тонышев Я — сноб: театральный режиссер Сергей Тонышев

Режиссер Сергей Тонышев о любви, страхе быть искренним и Нижнем Новгороде

СНОБ
Статус или свобода: как разные поколения зарабатывают и тратят деньги Статус или свобода: как разные поколения зарабатывают и тратят деньги

Чем отличаются представления о ценности денег у разных поколений?

Psychologies
Елена Мольченко об Александре Фатюшине: «Он снялся более чем в пятидесяти картинах, а зрители его запомнили по роли хоккеиста Гурина» Елена Мольченко об Александре Фатюшине: «Он снялся более чем в пятидесяти картинах, а зрители его запомнили по роли хоккеиста Гурина»

Учитель называл его «рязанским Марлоном Брандо»

Караван историй
Ковровая вышивка Ковровая вышивка

Текстильная техника ковровой вышивки была популярна пару десятков лет назад

Новый очаг
Недетские вопросы: чему равняется масса облака, и почему оно не падает на Землю? Недетские вопросы: чему равняется масса облака, и почему оно не падает на Землю?

Если облака такие тяжелые, почему они не падают на Землю?

ТехИнсайдер
Часовое искусство Часовое искусство

О работах художников, для которых часы стали главным объектом творчества

RR Люкс.Личности.Бизнес.
Все не так с Кевином Все не так с Кевином

«Ночной замес»: образцовый хоррор о подростках и маньяке в ТЦ

Weekend
Продюсер Евгений Тимащук: Церемонию открытия Олимпийских игр в Париже оцениваю на тройку Продюсер Евгений Тимащук: Церемонию открытия Олимпийских игр в Париже оцениваю на тройку

Организатор спортивных мероприятий о критике церемонии открытия Олимпиады-2024

СНОБ
Толстые отложения углекислоты на ведомом полушарии Ариэля не отменили идею подповерхностного океана Толстые отложения углекислоты на ведомом полушарии Ариэля не отменили идею подповерхностного океана

«Джеймс Уэбб» обнаружил на Ариэле толстые отложения углекислотного льда

N+1
Чемоданное настроение Чемоданное настроение

Елена Подкаминская — сильно необычный путешественник из самых необычных

OK!
Вездесущий клещ Вездесущий клещ

Нина Тикунова поделилась своим видением клещевой проблемы в России и в мире

Наука
Город без плана Город без плана

Новосибирск: конторы, фавелы и оперный театр

Weekend
В гостях у Angry Birds В гостях у Angry Birds

О чем щебечет западный край страны – Куршская коса?

2Xplore
Что не так в системе Сатурна и что такое «Титан» Что не так в системе Сатурна и что такое «Титан»

Когда и почему система Сатурна стала неправильной?

Наука и техника
Проблема поколения? Исследование: молодежь на работе страдает из-за одиночества и недооцененности Проблема поколения? Исследование: молодежь на работе страдает из-за одиночества и недооцененности

Почему молодые работники испытывают чувство одиночества на работе?

ТехИнсайдер
Преступление-загадка! Как в Бангкоке нашли 6 мертвецов, которых отравили цианидом Преступление-загадка! Как в Бангкоке нашли 6 мертвецов, которых отравили цианидом

Как именно отравились цианидом трое мужчин и женщин в комнате, запертой изнутри?

ТехИнсайдер
ДНК как вещдок, или без вины виноватый ДНК как вещдок, или без вины виноватый

К каким катастрофическим ошибкам может привести неверное толкование ДНК в суде

P.I.C. Partner In Crime
Зло с закрытыми глазами: как и почему люди становятся убийцами Зло с закрытыми глазами: как и почему люди становятся убийцами

Отрывок из книги Харальда Вельцера «Обыкновенные убийцы»

Inc.
Голь на выдумки хитра (часть 2) Голь на выдумки хитра (часть 2)

Как советские женщины проявляли смекалку в погоне за красотой и модой

Лиза
Как погибли и воскресли реки Европы – и при чем здесь Олимпийские игры 2024 Как погибли и воскресли реки Европы – и при чем здесь Олимпийские игры 2024

Какой вода была раньше в Сене и других реках Европы

ТехИнсайдер
Фитнес-сладости: правда ли, что с ними можно похудеть? Фитнес-сладости: правда ли, что с ними можно похудеть?

Так ли ПП-сладости хороши для здоровья, как нам их рекламируют?

Psychologies
Остров спокойствия Остров спокойствия

Serenissima 1 — плод сотрудничества турецкой верфи и итальянского дизайн-бюро

Y Magazine
Варочные панели: чем отличаются базовые модели от продвинутых Варочные панели: чем отличаются базовые модели от продвинутых

Чем отличаются варочные панели? Что учесть при её выборе?

CHIP
Открыть в приложении