Мог ли чат GPT появиться в России и почему Китай скоро обгонит США

НаукаHi-Tech

«Криворукие гуманоиды», или Поговори со мной, машина!

Директор Центра прикладного искусственного интеллекта Сколтеха, руководитель научной группы AIRI Евгений Бурнаев рассказывает, мог ли чат GPT появиться в России, почему Китай скоро обгонит США и может ли ИИ разгадать загадки человеческого мозга.

Беседовала Елена Кудрявцева

Профессор Бурнаев — научный руководитель медиапроекта Сколтеха по популяризации AI-технологий Kapitsa.AI (проект реализуется при грантовой поддержке Минобрнауки РФ).

Что было придумано такого в ChatGPT, чего не было до этого? Почему вдруг такой взрыв интереса?

— Как обычно, это сочетание нескольких факторов. Первый фактор — очень специальная архитектура нейросети, то есть, по сути, очень специальная конструкция вычислительного алгоритма. Используется так называемый механизм внимания — специальный класс алгоритмов, который позволяет оценивать, насколько сильно какие‑то слова в предложении зависят от контекста. Механизм внимания был известен уже давно, однако в процессе проведения экспериментов было замечено, что если использовать очень большие нейросети (с большим числом параметров), которые позволяют делать оценку внимания для текстов большого размера и настраивать параметры нейросетей по огромным выборкам данных, то в результате получаются модели, которые на качественно новом уровне могут извлекать смыслы из текстов. Это второй фактор. Конечно, при этом требуются значительные вычислительные мощности.

Сотрудники компании OpenAI, которые первыми заметили эту тенденцию, продолжили активно инвестировать в данное направление. Третье — был предложен и использован для обучения ChatGPT новый алгоритм с подкреплением на основе обратной связи от пользователя. Для этого требуются значительные средства для получения специальным образом подготовленной выборки данных в виде вопросов и ответов людей на них. В итоге модель ChatGPT на регулярной основе получала обратную связь от пользователей, что позволяло автоматически улучшать ее работу.

Пример прогноза вероятности возникновения лесного пожара на четыре дня вперед, Иркутская область, сетка 21x21 км, май 2022 года

— Как это выглядело в реальности?

— Они наняли столько‑то сотен определенным образом подготовленных людей, сначала тренировали их, как правильно составлять вот эти пары вопросов‑ответов — определенные вопросы и детальные ответы на них. Более того, некоторые из ответов были развернутые, представленные в виде рассуждений.

— То есть логически?

— Эта цепочка рассуждений в конце приводит к ответу на поставленный вопрос. Все указанные факторы, описанные выше приемы оказались очень важными и полезными, кардинально повышающим качество, они позволили «дойти последнюю милю». Примерно так же было с системой распознавания лиц. Долгое время качество распознавания, условно, не превышало 85%. Вроде бы с формальной точки зрения точность в 85% выглядит неплохо, но этого совсем недостаточно для приложений.

На практике нужна точность гораздо больше 95%. Преодоление этой разницы требовало наиболее значительных усилий. Как только удалось это сделать за счет новых алгоритмов, сразу стало возможным строить системы распознавания, которые работали в разы лучше прежних, и их использование в различных бизнес‑приложениях стало экономически оправданным. Так и в случае языковых моделей. Языковые модели предыдущего поколения неплохо работали в каких‑то достаточно узких инженерных задачах. За счет сочетания факторов, которые я описал выше, удалось кардинально повысить качество и выйти на новый уровень понимания естественного языка.

Ненужные люди

— Все как раз прогнозируют какой‑то передел структуры рынка, замену ИИ большого количества специальностей, переживают инженеры, художники, журналисты.

— Это, конечно, больная тема, но на самом деле эти процессы, на мой взгляд, не слишком быстрые. Конечно, если речь идет о, например, стоковых рисунках для презентаций, то да, я согласен, генеративная модель может вместо художника такой рисунок легко сгенерировать. Но для результатов более высокого уровня пока еще требуется участие профессионала.

— OpenAI довольно неплохо привлекла к себе внимание, уволив и взяв обратно на работу Сэма Альтмана, который якобы хотел предупредить человечество о том, что ИИ достиг какого‑то опасного порога развития.

— Действительно, в прессе стали появляться сообщения, что фактически уже создан интеллект, который всех скоро поработит, займет рабочие места и т. д. Например, даже лауреат Нобелевской премии Кристофер Писсаридес посоветовал абитуриентам не стремиться изучать естественные науки, технические дисциплины и математику. Он считает, что в будущем будут гораздо выше цениться «эмпатические» и творческие навыки, которые помогут процветать в мире доминирования искусственного интеллекта. На мой взгляд такие советы — это, конечно, крайность.

Займет ли ИИ рабочие места? Конечно, займет! А потом создаст в два раза больше рабочих мест, чтобы разгрести все то, что ИИ же и наворотил, а точнее, «криворукие гуманоиды» с его помощью. Действительно, программный модуль на основе ИИ, вообще говоря, имеет ненулевую вероятность выдать ошибочный прогноз. Соответственно, такого рода модуль может, с одной стороны, повысить эффективность принятия решений, но с другой стороны требуется встраивать его в ИТ‐системы надлежащим образом, принимая во внимание эту особенность — что некоторые прогнозы, пусть даже и очень небольшая их часть, могут быть ошибочными. В случае если речь идет о какой‐то ИТ‐системе для управления критической инфраструктурой, появление таких ошибок может быть фатальным. Соответственно, очень важно наличие высококвалифицированных специалистов экспертов в ИИ, которые могут надлежащим образом оценить все риски и верифицировать решение на основе ИИ. Помимо этого, требуется вовлечение квалифицированных разработчиков со знанием основ ИИ, которые смогут правильным образом встроить модуль на основе ИИ в ИТ‑систему с учетом всех его особенностей.

— Зато вылезают какие‑то опасности, о которых мы раньше и не подозревали.

— Понятно, что искусственный интеллект можно встраивать в военные изделия. Но, опять‑таки, кажется, что это просто всего лишь еще одна дополнительная техническая возможность, которой раньше не было. Если мы уже начали говорить про технику, то сначала тракторов не было, потом они появились. Хорошая вещь? Конечно, стало проще выращивать пшеницу. Но трактора — это еще и танки. С ИИ примерно такая же история будет, в моем понимании. Стали появляться дипфейки — стали появляться и методы, и сервисы на их основе для выявления дипфейков.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Квантовое превосходство Квантовое превосходство

«Квантовый компьютер – атомная бомба XX века»

ТехИнсайдер
Детство без психотравм Детство без психотравм

Что такое психологическая травма, и всякий ли стресс опасен для ребёнка?

Здоровье
Мы из будущего Мы из будущего

Кто же такие эти промт-дизайнеры или AI-тренеры?

ТехИнсайдер
«Король Лир» и еще три новых фильма из Якутии, победивших на фестивалях «Король Лир» и еще три новых фильма из Якутии, победивших на фестивалях

Зачем смотреть «Короля Лира» и другие якутские фестивальные хиты?

СНОБ
Первая физико-географическая экспедиция С.О. Макарова Первая физико-географическая экспедиция С.О. Макарова

Как капитан 2 ранга и моряк до мозга костей ходил в экспедицию по степи

Наука и техника
9 признаков, указывающих на неверность супруга 9 признаков, указывающих на неверность супруга

Скрывая свою неверность, люди, как правило, ведут себя примерно одинаково

Psychologies
Ум как следствие любви Ум как следствие любви

Эволюция выбирает сильнейших и умнейших – чтобы делать их еще сильнее и умнее

Вокруг света
Городская веранда Городская веранда

Что нужно знать при остеклении балкона или лоджии

Лиза
Аннигиляция в вопросах и ответах Аннигиляция в вопросах и ответах

Что такое аннигиляция?

Наука и жизнь
Переход на многоличности Переход на многоличности

Олег Устинов: искусство как мистификация

Weekend
Чем угрожает живым цифровое бессмертие ушедших Чем угрожает живым цифровое бессмертие ушедших

Индустрия «цифрового бессмертия» — это не далекое будущее, это наше настоящее

ТехИнсайдер
Триллионы долларов за грамм: 7 самых дорогих материалов в мире Триллионы долларов за грамм: 7 самых дорогих материалов в мире

Алмазы, лекарства и даже песок с Луны — вещества, которые стоят миллионы

ТехИнсайдер
Фанатские теории по «Назад в будущее», которые все меняют Фанатские теории по «Назад в будущее», которые все меняют

Док хотел покончить с собой, Марти мертв и куда пропали ховерборды?

Maxim
Правила хранения джина, виски и водки Правила хранения джина, виски и водки

Почему водка иногда теряет свой вкус и откуда в виски появляются ноты резины?

СНОБ
Три единицы нового поколения Три единицы нового поколения

Детальный обзор второго корпуса моторной яхты Majesty 111

Y Magazine
Погибших от чумы горожан из Буржа похоронили в сельской местности Погибших от чумы горожан из Буржа похоронили в сельской местности

Ученые проанализировали останки 97 человек из средневекового сельского некрополя

N+1
«Злобные маленькие письма»: как брань приводит женщин к внутренней свободе «Злобные маленькие письма»: как брань приводит женщин к внутренней свободе

Почему фильм «Злобные маленькие письма» только притворяется детективом

Forbes
Горячий привет Горячий привет

Почему чай так популярен и как правильно выбрать заварку

Лиза
«Количество параллелей неправдоподобно огромное» «Количество параллелей неправдоподобно огромное»

Александр Родионов о сериале «Чистые», проститутках и хулиганах в 1903 году

Weekend
Птицы против убийц! Как гуси работают охранниками в тюрьме в Бразилии Птицы против убийц! Как гуси работают охранниками в тюрьме в Бразилии

Так называемые агенты-гуси патрулируют периметр тюрьмы Сан-Педро-де-Алькантара

ТехИнсайдер
Преодоление трагедии: что такое интергенерационная травма и как она проявляется Преодоление трагедии: что такое интергенерационная травма и как она проявляется

Как другие страны справлялись с историческими травмами

Forbes
Как выбрать телевизор: советы от специалиста Как выбрать телевизор: советы от специалиста

​​​​​​​Выбор телевизора — процесс, который требует комплексного подхода

ТехИнсайдер
Джеймс Уэбб сделал снимок холодного газового гиганта в 6 раз больше Юпитера Джеймс Уэбб сделал снимок холодного газового гиганта в 6 раз больше Юпитера

Астрономы сделали снимок планеты в шесть раз массивнее Юпитера

ТехИнсайдер
Пресс-конференция Пресс-конференция

Как убрать «спасательный круг», получить осиную талию и заметные кубики?

Собака.ru
Птицам стыдно? Ученые выяснили, что курицы могут краснеть! Вот почему это происходит Птицам стыдно? Ученые выяснили, что курицы могут краснеть! Вот почему это происходит

Куры способны краснеть — и не только. Вот что выяснили ученые!

ТехИнсайдер
Икряники Икряники

Cезон оладий из икры – время весеннего ледохода

КАНТРИ Русская азбука
Почему же вымерли мамонты и можно ли их возродить: любопытные факты о животном, которое когда-то бродило по Земле Почему же вымерли мамонты и можно ли их возродить: любопытные факты о животном, которое когда-то бродило по Земле

Все мы знаем, кто такие мамонты, но не каждому известны подробности их жизни

ТехИнсайдер
Картошка фри и оплата наличкой: что поможет в развитии IT-бизнеса в Латинской Америке Картошка фри и оплата наличкой: что поможет в развитии IT-бизнеса в Латинской Америке

На что обратить внимание IT-компаниям при выходе на рынок в Латинской Америке

Forbes
Семейная история Семейная история

Почему верфь, известная судами для нужд военных, перешла к выпуску парусных яхт?

Y Magazine
«Самое главное — не идти на компромисс с собственной совестью» «Самое главное — не идти на компромисс с собственной совестью»

Как устроен рынок производства полуфабрикатов и готовой еды

Монокль
Открыть в приложении