Мог ли чат GPT появиться в России и почему Китай скоро обгонит США

НаукаHi-Tech

«Криворукие гуманоиды», или Поговори со мной, машина!

Директор Центра прикладного искусственного интеллекта Сколтеха, руководитель научной группы AIRI Евгений Бурнаев рассказывает, мог ли чат GPT появиться в России, почему Китай скоро обгонит США и может ли ИИ разгадать загадки человеческого мозга.

Беседовала Елена Кудрявцева

Профессор Бурнаев — научный руководитель медиапроекта Сколтеха по популяризации AI-технологий Kapitsa.AI (проект реализуется при грантовой поддержке Минобрнауки РФ).

Что было придумано такого в ChatGPT, чего не было до этого? Почему вдруг такой взрыв интереса?

— Как обычно, это сочетание нескольких факторов. Первый фактор — очень специальная архитектура нейросети, то есть, по сути, очень специальная конструкция вычислительного алгоритма. Используется так называемый механизм внимания — специальный класс алгоритмов, который позволяет оценивать, насколько сильно какие‑то слова в предложении зависят от контекста. Механизм внимания был известен уже давно, однако в процессе проведения экспериментов было замечено, что если использовать очень большие нейросети (с большим числом параметров), которые позволяют делать оценку внимания для текстов большого размера и настраивать параметры нейросетей по огромным выборкам данных, то в результате получаются модели, которые на качественно новом уровне могут извлекать смыслы из текстов. Это второй фактор. Конечно, при этом требуются значительные вычислительные мощности.

Сотрудники компании OpenAI, которые первыми заметили эту тенденцию, продолжили активно инвестировать в данное направление. Третье — был предложен и использован для обучения ChatGPT новый алгоритм с подкреплением на основе обратной связи от пользователя. Для этого требуются значительные средства для получения специальным образом подготовленной выборки данных в виде вопросов и ответов людей на них. В итоге модель ChatGPT на регулярной основе получала обратную связь от пользователей, что позволяло автоматически улучшать ее работу.

Пример прогноза вероятности возникновения лесного пожара на четыре дня вперед, Иркутская область, сетка 21x21 км, май 2022 года

— Как это выглядело в реальности?

— Они наняли столько‑то сотен определенным образом подготовленных людей, сначала тренировали их, как правильно составлять вот эти пары вопросов‑ответов — определенные вопросы и детальные ответы на них. Более того, некоторые из ответов были развернутые, представленные в виде рассуждений.

— То есть логически?

— Эта цепочка рассуждений в конце приводит к ответу на поставленный вопрос. Все указанные факторы, описанные выше приемы оказались очень важными и полезными, кардинально повышающим качество, они позволили «дойти последнюю милю». Примерно так же было с системой распознавания лиц. Долгое время качество распознавания, условно, не превышало 85%. Вроде бы с формальной точки зрения точность в 85% выглядит неплохо, но этого совсем недостаточно для приложений.

На практике нужна точность гораздо больше 95%. Преодоление этой разницы требовало наиболее значительных усилий. Как только удалось это сделать за счет новых алгоритмов, сразу стало возможным строить системы распознавания, которые работали в разы лучше прежних, и их использование в различных бизнес‑приложениях стало экономически оправданным. Так и в случае языковых моделей. Языковые модели предыдущего поколения неплохо работали в каких‑то достаточно узких инженерных задачах. За счет сочетания факторов, которые я описал выше, удалось кардинально повысить качество и выйти на новый уровень понимания естественного языка.

Ненужные люди

— Все как раз прогнозируют какой‑то передел структуры рынка, замену ИИ большого количества специальностей, переживают инженеры, художники, журналисты.

— Это, конечно, больная тема, но на самом деле эти процессы, на мой взгляд, не слишком быстрые. Конечно, если речь идет о, например, стоковых рисунках для презентаций, то да, я согласен, генеративная модель может вместо художника такой рисунок легко сгенерировать. Но для результатов более высокого уровня пока еще требуется участие профессионала.

— OpenAI довольно неплохо привлекла к себе внимание, уволив и взяв обратно на работу Сэма Альтмана, который якобы хотел предупредить человечество о том, что ИИ достиг какого‑то опасного порога развития.

— Действительно, в прессе стали появляться сообщения, что фактически уже создан интеллект, который всех скоро поработит, займет рабочие места и т. д. Например, даже лауреат Нобелевской премии Кристофер Писсаридес посоветовал абитуриентам не стремиться изучать естественные науки, технические дисциплины и математику. Он считает, что в будущем будут гораздо выше цениться «эмпатические» и творческие навыки, которые помогут процветать в мире доминирования искусственного интеллекта. На мой взгляд такие советы — это, конечно, крайность.

Займет ли ИИ рабочие места? Конечно, займет! А потом создаст в два раза больше рабочих мест, чтобы разгрести все то, что ИИ же и наворотил, а точнее, «криворукие гуманоиды» с его помощью. Действительно, программный модуль на основе ИИ, вообще говоря, имеет ненулевую вероятность выдать ошибочный прогноз. Соответственно, такого рода модуль может, с одной стороны, повысить эффективность принятия решений, но с другой стороны требуется встраивать его в ИТ‐системы надлежащим образом, принимая во внимание эту особенность — что некоторые прогнозы, пусть даже и очень небольшая их часть, могут быть ошибочными. В случае если речь идет о какой‐то ИТ‐системе для управления критической инфраструктурой, появление таких ошибок может быть фатальным. Соответственно, очень важно наличие высококвалифицированных специалистов экспертов в ИИ, которые могут надлежащим образом оценить все риски и верифицировать решение на основе ИИ. Помимо этого, требуется вовлечение квалифицированных разработчиков со знанием основ ИИ, которые смогут правильным образом встроить модуль на основе ИИ в ИТ‑систему с учетом всех его особенностей.

— Зато вылезают какие‑то опасности, о которых мы раньше и не подозревали.

— Понятно, что искусственный интеллект можно встраивать в военные изделия. Но, опять‑таки, кажется, что это просто всего лишь еще одна дополнительная техническая возможность, которой раньше не было. Если мы уже начали говорить про технику, то сначала тракторов не было, потом они появились. Хорошая вещь? Конечно, стало проще выращивать пшеницу. Но трактора — это еще и танки. С ИИ примерно такая же история будет, в моем понимании. Стали появляться дипфейки — стали появляться и методы, и сервисы на их основе для выявления дипфейков.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Крадущийся тигр, возбудившийся дракон Крадущийся тигр, возбудившийся дракон

Рассказываем, какую роль играет секс в Японии и Китае

СНОБ
Действие бездействия Действие бездействия

Почему «Три сестры» стали образцовой пьесой Нового времени

Weekend
Квантовое превосходство Квантовое превосходство

«Квантовый компьютер – атомная бомба XX века»

ТехИнсайдер
Почему в смарт-часах нельзя купаться в море Почему в смарт-часах нельзя купаться в море

Что означает сертифицированная защита от воды у смарт-часов?

CHIP
Немного об измерении очень больших объектов Немного об измерении очень больших объектов

Километр в секунду – как пользоваться этой единицей длины?

Наука и техника
Delta IV: конец истории Delta IV: конец истории

Последний пуск ракеты-носителя семейства Delta IV

Наука и техника
Следствие ведут биохимики Следствие ведут биохимики

Здесь хранятся уникальные артефакты, связанные с событиями последних веков...

ТехИнсайдер
Ядерная энергетика. От истоков к перспективам Ядерная энергетика. От истоков к перспективам

Прошлое, настоящее и будущее ядерной энергетики

Наука и техника
Варочные панели: чем отличаются базовые модели от продвинутых Варочные панели: чем отличаются базовые модели от продвинутых

Чем отличаются варочные панели? Что учесть при её выборе?

CHIP
Вещи превратятся в тряпочку: 5 видов одежды, которую строго настрого запрещено стирать вместе с остальным бельем Вещи превратятся в тряпочку: 5 видов одежды, которую строго настрого запрещено стирать вместе с остальным бельем

Какие вещи нельзя стирать вместе с остальным грязным бельем?

ТехИнсайдер
Пять ошибок Пять ошибок

Как Брут из властителя Рима превратился в государственного преступника?

Дилетант
Как нравиться людям Как нравиться людям

12 шагов, чтобы стать приятным собеседником

Лиза
Город без плана Город без плана

Новосибирск: конторы, фавелы и оперный театр

Weekend
Красненькая пошла Красненькая пошла

Как отвращение к насилию превратило Сэма Пекинпа в «кровавого Сэма»

Weekend
Что делают пилоты, если самолет попадает в зону турбулентности: неожиданный ответ Что делают пилоты, если самолет попадает в зону турбулентности: неожиданный ответ

Может ли тряска привести к авиакатастрофе?

ТехИнсайдер
Лайфхак для отпуска! Вот какие вещи можно забрать с собой из гостиничного номера Лайфхак для отпуска! Вот какие вещи можно забрать с собой из гостиничного номера

Какие вещи можно, а какие нельзя забирать как сувенир из отеля

ТехИнсайдер
Людмила Иванова: «Нет, мне не плохо... Я так живу» Людмила Иванова: «Нет, мне не плохо... Я так живу»

О Людмиле Ивановой рассказывает главный редактор Анжелика Пахомова

Коллекция. Караван историй
В США врачи научились находить «идеальные» эмбрионы: почему их обвиняют в евгенике В США врачи научились находить «идеальные» эмбрионы: почему их обвиняют в евгенике

Технология Orchid позволяет обнаружить заболевания еще на стадии эмбриона

Psychologies
Северо-восторг Северо-восторг

Открываем в России невероятные места (и учимся выговаривать их названия)

VOICE
Чем угрожает живым цифровое бессмертие ушедших Чем угрожает живым цифровое бессмертие ушедших

Индустрия «цифрового бессмертия» — это не далекое будущее, это наше настоящее

ТехИнсайдер
Смотрины для родинки Смотрины для родинки

Разбираемся, какие родинки опасны, а какие совершенно безобидны

Лиза
Не покупай это: 11 хитрых способов, которыми рестораны и кафе заставляют нас тратить больше денег Не покупай это: 11 хитрых способов, которыми рестораны и кафе заставляют нас тратить больше денег

Бесплатная корзинка с хлебом бывает только в мышеловке

VOICE
Город под землей: как строилось Московское метро Город под землей: как строилось Московское метро

Московское метро началось с одной линии протяженностью всего девять километров

ТехИнсайдер
Как вернуться в ресурсное состояние после неудач: 3 простых шага Как вернуться в ресурсное состояние после неудач: 3 простых шага

Что означает удача на самом деле? И как вернуть ее после серии провалов?

Psychologies
Как на ноутбуке сделать запись экрана: несколько простых способов Как на ноутбуке сделать запись экрана: несколько простых способов

Как записать экран на ноутбуке Windows?

CHIP
Ученые проследили развитие млекопитающих за 66 миллионов лет Ученые проследили развитие млекопитающих за 66 миллионов лет

​​​​​​​Ученые изучили летопись окаменелостей за последние 66 миллионов лет

ТехИнсайдер
Рационализаторская и изобретательская деятельность: влияние на инновации и производство Рационализаторская и изобретательская деятельность: влияние на инновации и производство

Особенности и отличия рационализаторской и изобретательской деятельности

Наука и техника
Как ученый сбежал из СССР через океан… вплавь. Удивительная одиссея Станислава Курилова Как ученый сбежал из СССР через океан… вплавь. Удивительная одиссея Станислава Курилова

Как ученому Станиславу Курилову удалось вплавь сбежать из Советского Союза?

ТехИнсайдер
Владимир Лифшиц Владимир Лифшиц

Биография Владимира Лифшица дает ответ на мучительные вопросы современности

Дилетант
Первая мировая война: от первого лица — дневниковые записи и письма с фронта Первая мировая война: от первого лица — дневниковые записи и письма с фронта

Что чувствовали и думали самые разные люди, участвовавшие в Первой Мировой

Знание – сила
Открыть в приложении