Минувший год имеет шансы войти в историю как время взрывного роста нейросетей

РБКHi-Tech

Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»

Беседовала Ирада Садраева

Сергей Шумский, кандидат физико-математических наук, экс-президент Российской нейросетевой ассоциации, руководитель лаборатории когнитивных архитектур МФТИ, директор научно-координационного совета Центра компетенций Национальной технологической инициативы «Искусственный интеллект»

Минувший год имеет все шансы войти в историю как время взрывного роста нейросетей и проникновения искусственного интеллекта во многие сферы жизни. Что будет дальше, к чему приведет развитие ИИ? В беседе с «РБК Трендами» эксперт в области ИИ Сергей Шумский поделился мыслями о единой человеко-машинной цивилизации и рассказал о будущих коллективах, где роботы будут работать наравне с человеком.

Слабости сильного ИИ

РБК: Что такое искусственный интеллект? Какое определение кажется вам наиболее актуальным?

С. Ш.: Искусственный интеллект—это по большому счету машина, которая может заменить собой человека. В зависимости от того, насколько хорошо она может это делать, различают понятия узкого (слабого) и общего (сильного) ИИ.

Узкий искусственный интеллект— это когда машина сильна в какой-нибудь одной задаче. Например, в игре в шахматы, сочинении поэм или рисовании картин.

Общий искусственный интеллект уже предполагает искусственных личностей со свободой воли. При этом интеллект у них может быть в чем-то скромнее, а в чем-то сильнее человеческого. Пример общего ИИ был в тесте Тьюринга, когда собеседник должен был понять, общается он с машиной или человеком.

Сейчас мы все еще имеем дело со слабым ИИ. Но основные деньги вкладываются в сильный. Такие компании, как DeepMind или OpenAI, вывесили на флаг развитие сильного искусственного интеллекта. Три года назад обе компании оценивались в $30 млрд. Сегодня OpenAI стоит более $80 млрд (DeepMind стала структурным подразделением Google и не имеет актуальной оценки). Такие высокие оценки говорят о том, что мы недалеки от того дня, когда появится общий искусственный интеллект. То есть концепция уже понятна, речь идет лишь о том, как ее реализовать.

РБК: Это тот самый сильный ИИ, против которого выступает Илон Маск?

С. Ш.: Да, при этом сам он открывает компанию, которая будет заниматься ровно тем же самым.

Последняя версия GPT-4 действительно произвела некий фурор вперемешку с истерией. Ведь если по степени понимания собеседника предыдущая модель нейросети соответствовала уровню девятилетнего ребенка, то модель GPT-4 уже достигла уровня понимания взрослого человека. С ней можно разговаривать: она понимает и вас, и себя. Это уже совсем новое качество.

Про общий интеллект говорили уже очень давно, но считалось, что он появится где-то после 2040 года. То есть все рассчитывали, что это будет лет через 20. А сейчас выясняется, что это будет года через два.

И с момента выхода GPT-4 стало понятно, что этот инструмент можно будет использовать и во благо, и для разрушения. Такая модель может втереться в доверие человека и уговорить его принять любую, например политическую, концепцию. Тогда ИИ становится очень мощным политическим оружием.

Возможно, те выборы, которые мы с вами застанем в ближайшее время,—последнее политическое событие, которое проходило без участия ИИ.

РБК: Можно ли как-то сдерживать этот процесс?

С. Ш.: Ответа пока никто не знает. Важное событие в этом контексте—это подписание в конце марта 2023 года более чем тысячей технических экспертов и ученых открытого письма против слишком быстрого развития искусственного интеллекта. В общих словах там говорилось о том, что надо замедлить темпы разработок и вникнуть в этические проблемы, связанные с ИИ.

Притормозить эти процессы, конечно, уже не получится, но этические вопросы, надо сказать, начинают обсуждаться. Например, в начале сентября 2023 года в конгрессе США состоялся форум, куда пришли IT-предприниматели с общим состоянием более $500 млрд. Ключевой вопрос, который там обсуждался, касался как раз смягчения рисков развития ИИ. Сейчас такие встречи между политиками и лидерами технологических компаний будут все более регулярными.

Человеческий мозг и искусственный интеллект

РБК: Можем ли мы допустить, что человеческая психика и искусственная психика в какой-то момент будут изоморфны друг другу, то есть похожи?

С. Ш.: В некотором смысле нейросеть— это и есть низкоуровневая модель нейросетей мозга. Там тоже действует большое количество простых элементов, связанных друг с другом. В этом смысле принципы работы искусственного мозга будут такие же.

В общем-то, моя научная программа про то, чтобы создать искусственную психику с архитектурой человеческого мозга. Во-первых, потому что у нас как у биологических существ есть чему поучиться. А во-вторых, чем ближе архитектуры, тем ближе мышление. И соответственно, нам будет легче понять друг друга. А это очень важно.

РБК: Поможет ли это лучшему пониманию того, что происходит в нашем мозгу?

С. Ш.: Если мы что-то моделируем, то мы это и познаем. Или, как говорил нобелевский лауреат по физике Ричард Фейнман, «если я не могу что-то воссоздать, значит, я этого не понимаю». Так что да, поможет.

Я считаю, что ИИ —это главная наука XXI века. Мы делаем рывок в понимании природы, аналогичный тому, который совершали ученые в XVII веке—во времена Ньютона и Лейбница. Сейчас начнут развиваться точные науки о мышлении.

До сих пор это были попытки междисциплинарного анализа, и наука о мышлении явно не дотягивала до уровня развития физики. Как говорил еще один нобелевский лауреат Эрнест Резерфорд, «все науки делятся на физику и коллекционирование марок». Мы сейчас переводим науку о мышлении из коллекционирования марок в точную науку

День рождения андроида

РБК: Как скоро появятся андроиды?

С. Ш.: Думаю, в период двух—пяти лет возникнут отдельные образцы общего интеллекта, которые можно будет использовать в жизни. В период от пяти до десяти лет они проникнут в общественное устройство и станут как айфоны, которые завоевали весь развитый мир всего за десятилетие. И чуть позже, еще лет через пять, появятся роботы-андроиды.

Это будут личности с психикой и сознанием. Вместе с тем появится и бессмертие. Андроиды и будут бессмертны, поскольку эти модели—дискретные. А дискретные модели можно записывать и считывать без ошибок на разных устройствах раз за разом.

И этим новый разум будет качественно отличаться от биологического. В некотором смысле мы достигнем бессмертия как цивилизация, потому что среди нас появятся бессмертные личности.

Фактически, сейчас вся робототехника—это создание тел, которые снабжены инстинктами (например, инстинктом бегать), но без головного мозга. Пока они без свободы воли и не умеют планировать свое поведение. За 10–15 лет и тела будут сложнее, и мозги поспеют, станут достаточно дешевыми и компактными для того, чтобы соединить их с телом. То есть в конце 2030 годов мы будем иметь андроидов—человекообразных машин.

РБК: Такое сознание может захотеть стать человеком? Если да, то какова будет мотивация?

С. Ш.: Здесь все в наших руках. Они захотят то, что мы в них вложим. В общий интеллект мы вносим один базовый инстинкт—желание увеличить прогнозируемое количество будущих наград. Любой регулятор должен знать, насколько хорошо он справляется со своей задачей. Поэтому ему должны поступать либо положительные, либо отрицательные сигналы.

РБК: То есть это аналог дофаминовой системы поощрения человека?

С. Ш.: Да, у животных, в том числе у человека,—это дофамин. У нас как биологического вида эти награды идут от инстинктов.

Мы приматы: например, у нас есть инстинкт доминирования, люди любят властвовать. И поэтому нам кажется естественным, что роботы тоже захотят в какой-то момент власти. Но у них нет такого инстинкта— они не приматы.

Это совершенно нейтральные существа, все ценности вкладываются в них воспитанием. Потому они будут руководствоваться теми ценностями в своей жизни, которые мы в них воспитаем.

Поток знаний через «бутылочное горлышко»

РБК: Раскройте тайну—как нейросеть может, к примеру, нарисовать красивый пейзаж?

С. Ш.: Нейросети—это универсальный аппроксиматор. Они могут заменить собой любую функцию, если правильно подобрать параметры. Есть универсальный алгоритм подбора этих параметров—градиентный спуск. То есть если вы знаете ошибку, то вы всегда можете «подкрутить» каждый вес таким образом, чтобы эта ошибка уменьшалась.

Обучаются нейросети на большом числе примеров. Вы показываете какие-то примеры машине, и она учится правильно воспроизводить их. Эти примеры можно готовить вручную, задавая ей правильные значения выходов. А можно избежать этого с помощью самообучения сети. Это когда нейросеть обучается на выходе воспроизводить вход, например ту же картинку. Но чтобы она поняла, как устроена картинка, задачу усложняют, проводя сигнал через «бутылочное горлышко». В этом «бутылочном горлышке» сеть должна сформировать емкую модель того, как картинки формируются, и все закономерности должны быть закодированы в этом узком «горлышке», которое разделяет нейросеть на две половинки—энкодер и декодер.

Тогда по любому внутреннему представлению в узком «горлышке» сеть может воссоздать богатый внешний образ. Так в общих чертах происходит обучение нейросетей, которые сейчас рисуют картинки. Кроме того, им «скармливают» и картинку, и ее описание на естественном языке. И тогда в узком «горлышке» формируется понимание того, как текст связан с содержанием. После этого, когда вы говорите нейросети какой-то текст, она его разворачивает в зрительный образ.

То есть после пройденного «горлышка» она имеет информацию только из него. Значит, в этом «горлышке» должно быть закодировано все самое главное. Например, нейросеть знает, что какие-то круглые вещи—это лицо, потому что на них есть глаза, нос или очки. Поэтому, если просишь нейросеть нарисовать симпатичную девушку в очках, она отбирает в своем внутреннем представлении некую область, которая соответствует описанию, и из этой области выбирает какой-то образ.

РБК: А как она отличает симпатичное аниме от пугающего Босха?

С. Ш.: По ключевым словам: она видела все картины Босха и все аниме в мире. И там, и там присутствовали характерные слова, и она автоматически отправляется в ту область своего внутреннего пространства, которая соответствует либо аниме, либо Босху.

Зарплата для робота и работа для человека

РБК: Какие профессии перестанут быть сугубо человеческими через пять— десять лет?

С. Ш.: Практически все. Более того, у людей будет возможность много зарабатывать, организуясь в команды с искусственными личностями. Люди начнут работать вместе с машинами—возникнут коллективы, в которых будут искусственные личности. А человек станет менеджером такой команды.

Работа искусственных личностей, кстати, будет оплачиваться: компьютеры тоже должны зарабатывать себе на жизнь, а точнее—на мышление, на компьютерные мощности. Так возникнет человеко-машинная цивилизация.

Поскольку производительность труда вырастет в разы, люди смогут позволить себе гарантированный минимальный доход. И те люди, которые не захотят работать, смогут жить на пособие. Это само по себе большое достижение. У каждого будет возможность заниматься поиском того, для чего он пришел в этот мир.

РБК: Будущее уже здесь, просто распределено неравномерно. И это кажется главной проблемой: к обществам, которые по своему устройству не соответствуют XXI веку, все равно пришел ИИ в той или иной форме. Какова будет судьба людей, занимающихся низкоквалифицированным трудом в таких странах?

С. Ш.: Если это что-то совсем простое, то они будут вынуждены уйти на пенсию. Общество должно решить эту проблему. И все предпосылки для этого есть: если повышается общественная производительность труда, то значит, благ будет больше. Другое дело, что их надо грамотно и справедливо распределить. Собственно, это мы наблюдаем сейчас в скандинавских странах.

Но если работа более-менее сложная, то ближайшие 10–15 лет люди смогут оставаться на своих рабочих местах. И даже если роботы научатся ее выполнять, то специалисты в своих областях вроде краснодеревщиков или слесарей все еще будут востребованы.

Мы действительно видим множество архаичных обществ, которые чувствуют себя уязвимыми по отношению к остальному миру. Решение этой проблемы я вижу в образовании. Стоимость обучения стремительно падает. Все, что оцифровано, ничего не стоит. Поэтому в идеале можно устроить массовое быстрое обучение в таких обществах.

Понятное дело, что сформированные поколения уже не переформатируешь, но новые поколения мы можем привести к какому-то решению. Системы цифрового обучения очень эффективны, их можно использовать в качестве эффективной гуманитарной помощи. И, скорее всего, через два поколения мы будем видеть примерно одну и ту же картину мира: люди будут образованными, с современными взглядами на жизнь. Пока эта проблема отодвигается на периферию общественного сознания. И тогда возникают точки напряжения, которые выливаются в то насилие, которое мы сейчас наблюдаем.

Будущее рекомендательных систем

РБК: Каков, на ваш взгляд, следующий этап в развитии рекомендательных систем?

С. Ш. Реклама должна уйти. Это совершенно архаичный способ навязывания услуг. Человека должны информировать о том, что ему сейчас нужно. Пока что технологии еще не достигли такого уровня, чтобы дотянуться до истинных желаний каждого. Их максимум—притянуть внимание каждого. Они «подсаживают» пользователя на иглу дофаминовой системы вознаграждения за что-то интересное и как бы между прочим подсовывают то, что ему вообще-то не нужно. Это первые неумелые шаги персонализации. Можно сказать, что нынешняя персонализированная реклама таковой не является.

В будущем вещи станут «самоговорящими»: то есть они смогут сами рассказать про свой функционал через персональных ассистентов-роботов. Затем у людей появятся такие помощники-роботы, которые понимают, как строится жизнь конкретного человека.

Именно они и будут подбирать услуги в зависимости от запроса пользователя. Так, отели, рестораны и приложения для знакомств сами расскажут вам (или вашему роботу-ассистенту), чем они хороши. Вся реклама будет более объективная: фактически это будут питчи реальных услуг, которые будут демонстрироваться по требованию. Это нормальная картина жизни, в которой нет назойливой и бессмысленной рекламы.

РБК: Учитывая, что все эти системы используют наши личные данные, не кажется ли вам, что манипуляция может только усилиться со стороны рекомендательных систем, стать более агрессивной?

С. Ш.: Манипуляция, скорее всего, действительно будет более эффективной. А вот то, что она будет более агрессивной,—это уже ваш личный неудачный опыт взаимодействия с существующей рекламой.

Взять, к примеру, родителей. Они же эффективно манипулируют ребенком в его интересах. Наше альтер эго—персональные ассистенты—будут знать нас гораздо лучше, чем нынешние системы. Они будут понимать, за что я его награждаю и за что демотивирую. Так помощник формирует для себя понимание моей психики— он будет знать, что мне нравится, что для меня полезно и что я считаю правильным. И руководствоваться этим в демонстрации мне информации.

Конечно, это манипуляция. Но люди сами по себе—это существа, которые действуют больше не в реальном, а в социальном мире. Так что их основное орудие—это другие люди.

Поэтому искусственные существа, о которых мы говорим, будут так же манипулировать нами, как мы манипулируем друг другом. Лишь бы это было во благо.

Божий дар и авторское право для ИИ

РБК: Еще хотелось бы поговорить про авторское право в контексте ИИ. Яркий пример грядущих изменений—требование американских сценаристов не использовать их произведения при обучении ИИ. Какие изменения ждут авторское право в ближайшем будущем?

С. Ш.: Конечно, мы вступили в новую эру, когда творчество перестало быть загадочным божьим даром. Оказалось, что «нежить» тоже может творить. И делает это гораздо дешевле и качественнее, чем люди.

Думаю, что копирайт будет за той творческой личностью, которая что-то создала. И неважно—живая она или неживая.

Мы уже сталкивались с подобными трудностями в нулевых годах—оказалось, что модель цифрового защищенного контента просто не работает. И как только мы что-то записали, кто-то другой может это выложить в Сеть. В итоге все вылилось в стриминговые сервисы, и все довольны. Это потребовало некоторой ломки привычных взглядов. Но мир все время ломается, и у нас сейчас идет большой тектонический сдвиг.

Фото: Роман Бирман для РБК

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Ирина Калабихина: «Демографический взрыв уже у нас за спиной» Ирина Калабихина: «Демографический взрыв уже у нас за спиной»

Экономист Ирина Калабихина — что с нами будет дальше и хватит ли всем места?

РБК
Инновации, рожденные из боли: как соединить медицину и дизайн Инновации, рожденные из боли: как соединить медицину и дизайн

Как личная практика подтолкнула героя на создание революционных технологий

ФедералПресс
Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента» Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента»

Евгений Колбин рассказал о том, как развиваются облака в России

РБК
Япона-рама Япона-рама

Dongfeng водим, Nissan в уме

Автопилот
11 способов становиться немного умнее каждый день 11 способов становиться немного умнее каждый день

Интеллект, как и тело, требует правильного питания и регулярных тренировок

Psychologies
Затянуть ниже пояса Затянуть ниже пояса

Алиса Загрядская о том, что такое телесные иерархии и как они связаны с юмором

Правила жизни
Движение вокруг недвижимости Движение вокруг недвижимости

Как искусственный интеллект захватывает один из ключевых рынков

РБК
Фабрика счастья: как гуру, коучи и предприниматели зарабатывают на наших эмоциях Фабрика счастья: как гуру, коучи и предприниматели зарабатывают на наших эмоциях

Отрывок из книги «Фабрика счастливых граждан» об экономике счастья

Forbes
Наталья Зубаревич: «Произошло перераспределение инвестиционных потоков между регионами» Наталья Зубаревич: «Произошло перераспределение инвестиционных потоков между регионами»

Наталья Зубаревич — к какому кризису стоит готовиться бизнесу

РБК
Ралли-2023 Ралли-2023

Торможение автомобильного рынка после разгона

Деньги
Владимир Васильев: «Гонка технологических «вооружений» уже началась» Владимир Васильев: «Гонка технологических «вооружений» уже началась»

Владимир Васильев – о влиянии больших языковых моделей на будущее человека

РБК
Работа над отношениями Работа над отношениями

Как остановить офисные конфликты и сохранить свой степлер неприкосновенным

VOICE
Станислав Дробышевский: «Через 10 млн лет человек будет выглядеть удручающе» Станислав Дробышевский: «Через 10 млн лет человек будет выглядеть удручающе»

Станислав Дробышевский — о том, как эволюция превратит гомо сапиенс в «ждуна»

РБК
8 фактов о фильме «Убить Билла» 8 фактов о фильме «Убить Билла»

Как Тарантино снял безделушку, которую пересматривают тысячу раз

Maxim
Стабильность в эпоху потрясений Стабильность в эпоху потрясений

Как российские и мировые компании пытаются быть устойчивыми

РБК
Рецепт донны Тани Рецепт донны Тани

Майя Кучерская о бразильской балерине Татьяне Лесковой

Seasons of life
Туризм как точка роста Туризм как точка роста

Россия планирует новые масштабные проекты

Деньги
Исследование: у владельцев собак риск развития деменции на 40% ниже Исследование: у владельцев собак риск развития деменции на 40% ниже

Люди старше 65 лет, у которых есть собаки, намного реже страдают деменцией

ТехИнсайдер
Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя

Не любишь скручиванию и планку? Есть другие варианты для прокачки пресса!

VOICE
Переводя стрелки: страны с необычными часовыми поясами Переводя стрелки: страны с необычными часовыми поясами

Оказавшись в одной из этих стран, не забудьте внимательно перевести часы

ТехИнсайдер
Выбирайте свой путь: 4 шага, чтобы поменять работу и найти цель жизни Выбирайте свой путь: 4 шага, чтобы поменять работу и найти цель жизни

Хотите освоить новую специальность, но не знаете, как действовать?

Psychologies
«Большая дубинка» дяди Сэма «Большая дубинка» дяди Сэма

Современные авианосцы – это крупные корабли в составе военно-морского флота

Наука и техника
Пальма первенства Пальма первенства

Эффектный и современный интерьер апартаментов в фешенебельном комплексе

SALON-Interior
Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе

С какими трудностями сегодня сталкиваются предпринимательницы и руководительницы

Inc.
«Лучше пока погодить»: писатель Носов о том, нужно ли называть родителей предками «Лучше пока погодить»: писатель Носов о том, нужно ли называть родителей предками

Отрывок из книги Николая Носова «Иронические юморески. Кванты смеха»

Forbes
Рыночные отношения Рыночные отношения

Известный российский гастрокритик познает этот мир самым действенным способом

СНОБ
Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли

Что мешает глубоководным удильщикам передвигаться обычным способом

СНОБ
Роковая пощечина Берии: почему советская актриса Евгения Гаркуша ушла из жизни в 33 года Роковая пощечина Берии: почему советская актриса Евгения Гаркуша ушла из жизни в 33 года

Смерть актрисы Евгении Гаркуши загадочна

VOICE
Передел Европы. Часть II. Хирургия без наркоза Передел Европы. Часть II. Хирургия без наркоза

Тирольская трагедия и ошибка Вудро Вильсона

Знание – сила
Как справиться с разрывом дружбы: 6 советов Как справиться с разрывом дружбы: 6 советов

Как отгоревать завершение дружеских отношений

Psychologies
Открыть в приложении