Мог ли чат GPT появиться в России и почему Китай скоро обгонит США

НаукаHi-Tech

«Криворукие гуманоиды», или Поговори со мной, машина!

Директор Центра прикладного искусственного интеллекта Сколтеха, руководитель научной группы AIRI Евгений Бурнаев рассказывает, мог ли чат GPT появиться в России, почему Китай скоро обгонит США и может ли ИИ разгадать загадки человеческого мозга.

Беседовала Елена Кудрявцева

Профессор Бурнаев — научный руководитель медиапроекта Сколтеха по популяризации AI-технологий Kapitsa.AI (проект реализуется при грантовой поддержке Минобрнауки РФ).

Что было придумано такого в ChatGPT, чего не было до этого? Почему вдруг такой взрыв интереса?

— Как обычно, это сочетание нескольких факторов. Первый фактор — очень специальная архитектура нейросети, то есть, по сути, очень специальная конструкция вычислительного алгоритма. Используется так называемый механизм внимания — специальный класс алгоритмов, который позволяет оценивать, насколько сильно какие‑то слова в предложении зависят от контекста. Механизм внимания был известен уже давно, однако в процессе проведения экспериментов было замечено, что если использовать очень большие нейросети (с большим числом параметров), которые позволяют делать оценку внимания для текстов большого размера и настраивать параметры нейросетей по огромным выборкам данных, то в результате получаются модели, которые на качественно новом уровне могут извлекать смыслы из текстов. Это второй фактор. Конечно, при этом требуются значительные вычислительные мощности.

Сотрудники компании OpenAI, которые первыми заметили эту тенденцию, продолжили активно инвестировать в данное направление. Третье — был предложен и использован для обучения ChatGPT новый алгоритм с подкреплением на основе обратной связи от пользователя. Для этого требуются значительные средства для получения специальным образом подготовленной выборки данных в виде вопросов и ответов людей на них. В итоге модель ChatGPT на регулярной основе получала обратную связь от пользователей, что позволяло автоматически улучшать ее работу.

Пример прогноза вероятности возникновения лесного пожара на четыре дня вперед, Иркутская область, сетка 21x21 км, май 2022 года

— Как это выглядело в реальности?

— Они наняли столько‑то сотен определенным образом подготовленных людей, сначала тренировали их, как правильно составлять вот эти пары вопросов‑ответов — определенные вопросы и детальные ответы на них. Более того, некоторые из ответов были развернутые, представленные в виде рассуждений.

— То есть логически?

— Эта цепочка рассуждений в конце приводит к ответу на поставленный вопрос. Все указанные факторы, описанные выше приемы оказались очень важными и полезными, кардинально повышающим качество, они позволили «дойти последнюю милю». Примерно так же было с системой распознавания лиц. Долгое время качество распознавания, условно, не превышало 85%. Вроде бы с формальной точки зрения точность в 85% выглядит неплохо, но этого совсем недостаточно для приложений.

На практике нужна точность гораздо больше 95%. Преодоление этой разницы требовало наиболее значительных усилий. Как только удалось это сделать за счет новых алгоритмов, сразу стало возможным строить системы распознавания, которые работали в разы лучше прежних, и их использование в различных бизнес‑приложениях стало экономически оправданным. Так и в случае языковых моделей. Языковые модели предыдущего поколения неплохо работали в каких‑то достаточно узких инженерных задачах. За счет сочетания факторов, которые я описал выше, удалось кардинально повысить качество и выйти на новый уровень понимания естественного языка.

Ненужные люди

— Все как раз прогнозируют какой‑то передел структуры рынка, замену ИИ большого количества специальностей, переживают инженеры, художники, журналисты.

— Это, конечно, больная тема, но на самом деле эти процессы, на мой взгляд, не слишком быстрые. Конечно, если речь идет о, например, стоковых рисунках для презентаций, то да, я согласен, генеративная модель может вместо художника такой рисунок легко сгенерировать. Но для результатов более высокого уровня пока еще требуется участие профессионала.

— OpenAI довольно неплохо привлекла к себе внимание, уволив и взяв обратно на работу Сэма Альтмана, который якобы хотел предупредить человечество о том, что ИИ достиг какого‑то опасного порога развития.

— Действительно, в прессе стали появляться сообщения, что фактически уже создан интеллект, который всех скоро поработит, займет рабочие места и т. д. Например, даже лауреат Нобелевской премии Кристофер Писсаридес посоветовал абитуриентам не стремиться изучать естественные науки, технические дисциплины и математику. Он считает, что в будущем будут гораздо выше цениться «эмпатические» и творческие навыки, которые помогут процветать в мире доминирования искусственного интеллекта. На мой взгляд такие советы — это, конечно, крайность.

Займет ли ИИ рабочие места? Конечно, займет! А потом создаст в два раза больше рабочих мест, чтобы разгрести все то, что ИИ же и наворотил, а точнее, «криворукие гуманоиды» с его помощью. Действительно, программный модуль на основе ИИ, вообще говоря, имеет ненулевую вероятность выдать ошибочный прогноз. Соответственно, такого рода модуль может, с одной стороны, повысить эффективность принятия решений, но с другой стороны требуется встраивать его в ИТ‐системы надлежащим образом, принимая во внимание эту особенность — что некоторые прогнозы, пусть даже и очень небольшая их часть, могут быть ошибочными. В случае если речь идет о какой‐то ИТ‐системе для управления критической инфраструктурой, появление таких ошибок может быть фатальным. Соответственно, очень важно наличие высококвалифицированных специалистов экспертов в ИИ, которые могут надлежащим образом оценить все риски и верифицировать решение на основе ИИ. Помимо этого, требуется вовлечение квалифицированных разработчиков со знанием основ ИИ, которые смогут правильным образом встроить модуль на основе ИИ в ИТ‑систему с учетом всех его особенностей.

— Зато вылезают какие‑то опасности, о которых мы раньше и не подозревали.

— Понятно, что искусственный интеллект можно встраивать в военные изделия. Но, опять‑таки, кажется, что это просто всего лишь еще одна дополнительная техническая возможность, которой раньше не было. Если мы уже начали говорить про технику, то сначала тракторов не было, потом они появились. Хорошая вещь? Конечно, стало проще выращивать пшеницу. Но трактора — это еще и танки. С ИИ примерно такая же история будет, в моем понимании. Стали появляться дипфейки — стали появляться и методы, и сервисы на их основе для выявления дипфейков.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Новая дисциплина Новая дисциплина

Чемпионка мира, чемпионка Европы, призер Олимпийских игр – Евгения Медведева

Maxim
Дело о рыбаках и рыбке Дело о рыбаках и рыбке

Преступная деятельность в Минрыбхозе СССР

Дилетант
«Не делайте больших перерывов в умственной работе» «Не делайте больших перерывов в умственной работе»

Самые яркие цитаты легендарной исследовательницы мозга Натальи Бехтеревой

Наука
«Количество параллелей неправдоподобно огромное» «Количество параллелей неправдоподобно огромное»

Александр Родионов о сериале «Чистые», проститутках и хулиганах в 1903 году

Weekend
Куда пропала правобережная мурома Куда пропала правобережная мурома

Находки с правого берега Оки позволили по-новому взглянуть на мурому

Наука
Есть ли у вас порнозависимость? Изучите чек-лист из 5 пунктов Есть ли у вас порнозависимость? Изучите чек-лист из 5 пунктов

Порнозависимость: почему она возникает и как её выявить?

Psychologies
С того цвета С того цвета

«Правила жизни» разбираются в истории цвета

Правила жизни
Летняя любовь: правила счастливого романа Летняя любовь: правила счастливого романа

Считается, что будущего у курортных романов нет, но перспективы в них не главное

Новый очаг
Наша прекрасная Анастасия Заворотнюк Наша прекрасная Анастасия Заворотнюк

Карьера, обретение личного счастья и роковая болезнь Анастасии Заворотнюк

Лиза
Почему слышен хруст при повороте руля и как это исправить Почему слышен хруст при повороте руля и как это исправить

Хруст при повороте руля — тревожный знак. Но где именно кроется неисправность?

РБК
Жизнь в плену имени Жизнь в плену имени

Марк Юний Брут: история и жизнь того, кто лишил жизни Гая Юлия Цезаря

Дилетант
Профессия: вивисектор Профессия: вивисектор

Замкнутый круг насилия: ревизия фильмографии мастера страшных парадоксов

Weekend
Ребенок с большей вероятностью унаследует диабет, если он есть у его отца Ребенок с большей вероятностью унаследует диабет, если он есть у его отца

Как семейный анамнез влияет на развитие сахарного диабета первого типа у детей

ТехИнсайдер
1000 км до рассвета 1000 км до рассвета

Покорители Северного полюса делятся секретами выживания в экстремальных условиях

2Xplore
Русская азбука Русская азбука

Вещи, составляющие код национальной идентичности условного жителя России

2Xplore
Как погибли и воскресли реки Европы – и при чем здесь Олимпийские игры 2024 Как погибли и воскресли реки Европы – и при чем здесь Олимпийские игры 2024

Какой вода была раньше в Сене и других реках Европы

ТехИнсайдер
Все умерли Все умерли

10 героев сериалов, которых прикончили их безжалостные авторы

Weekend
Город под землей: как строилось Московское метро Город под землей: как строилось Московское метро

Московское метро началось с одной линии протяженностью всего девять километров

ТехИнсайдер
Простые советы, чтобы исправить сколиоз! Вот какие упражнения назвал эксперт Простые советы, чтобы исправить сколиоз! Вот какие упражнения назвал эксперт

Упражнения для людей со сколиозом, которые помогут с ним справиться

ТехИнсайдер
В АКРА оценили длительность перегрева российской экономики В АКРА оценили длительность перегрева российской экономики

Перегрев экономики в России может пойти на спад уже в ближайшие месяцы

Forbes
Как прокачать тормоза правильно и когда это нужно: инструкция Как прокачать тормоза правильно и когда это нужно: инструкция

Подробная инструкция замены тормозной жидкости и ее нюансы

РБК
Равняйсь! Равняйсь!

Неправильный прикус у детей: как исправить

Лиза
Больше чем муза Ницше и ученица Фрейда: как Лу Саломе стала влиятельным философом Больше чем муза Ницше и ученица Фрейда: как Лу Саломе стала влиятельным философом

История писательницы, философа и психоаналитика Лу Саломе

Forbes
«Красная книга – это не просто книжка с картинками» «Красная книга – это не просто книжка с картинками»

Чем ценны суслики, почему важно их изучать и зачем надо их охранять

Наука
Ученые узнали, какой тип клетчатки помогает худеть Ученые узнали, какой тип клетчатки помогает худеть

Что, если ключ к похудению все это время лежал в вашей тарелке для завтрака?

ТехИнсайдер
Планета БИБЛИОРАН Планета БИБЛИОРАН

Что скрывается за тяжелыми дверями библиотеки Российской Академии наук?

Знание – сила
Горы, способные стереть с лица земли целые города: познавательные факты о вулканах Горы, способные стереть с лица земли целые города: познавательные факты о вулканах

Что мы знаем о вулканах?

ТехИнсайдер
Поговорим начистоту Поговорим начистоту

Ритуал очищения кожи летом должен быть особым

Лиза
Семейная история Семейная история

Почему верфь, известная судами для нужд военных, перешла к выпуску парусных яхт?

Y Magazine
«Привет, как дела»: как понять все о мужчине по его сообщениям в мессенджере «Привет, как дела»: как понять все о мужчине по его сообщениям в мессенджере

Что переписка в мессенджере может рассказать о мужчине?

VOICE
Открыть в приложении