Минувший год имеет шансы войти в историю как время взрывного роста нейросетей

РБКHi-Tech

Сергей Шумский: «У роботов не будет инстинкта власти, как у человека»

Беседовала Ирада Садраева

Сергей Шумский, кандидат физико-математических наук, экс-президент Российской нейросетевой ассоциации, руководитель лаборатории когнитивных архитектур МФТИ, директор научно-координационного совета Центра компетенций Национальной технологической инициативы «Искусственный интеллект»

Минувший год имеет все шансы войти в историю как время взрывного роста нейросетей и проникновения искусственного интеллекта во многие сферы жизни. Что будет дальше, к чему приведет развитие ИИ? В беседе с «РБК Трендами» эксперт в области ИИ Сергей Шумский поделился мыслями о единой человеко-машинной цивилизации и рассказал о будущих коллективах, где роботы будут работать наравне с человеком.

Слабости сильного ИИ

РБК: Что такое искусственный интеллект? Какое определение кажется вам наиболее актуальным?

С. Ш.: Искусственный интеллект—это по большому счету машина, которая может заменить собой человека. В зависимости от того, насколько хорошо она может это делать, различают понятия узкого (слабого) и общего (сильного) ИИ.

Узкий искусственный интеллект— это когда машина сильна в какой-нибудь одной задаче. Например, в игре в шахматы, сочинении поэм или рисовании картин.

Общий искусственный интеллект уже предполагает искусственных личностей со свободой воли. При этом интеллект у них может быть в чем-то скромнее, а в чем-то сильнее человеческого. Пример общего ИИ был в тесте Тьюринга, когда собеседник должен был понять, общается он с машиной или человеком.

Сейчас мы все еще имеем дело со слабым ИИ. Но основные деньги вкладываются в сильный. Такие компании, как DeepMind или OpenAI, вывесили на флаг развитие сильного искусственного интеллекта. Три года назад обе компании оценивались в $30 млрд. Сегодня OpenAI стоит более $80 млрд (DeepMind стала структурным подразделением Google и не имеет актуальной оценки). Такие высокие оценки говорят о том, что мы недалеки от того дня, когда появится общий искусственный интеллект. То есть концепция уже понятна, речь идет лишь о том, как ее реализовать.

РБК: Это тот самый сильный ИИ, против которого выступает Илон Маск?

С. Ш.: Да, при этом сам он открывает компанию, которая будет заниматься ровно тем же самым.

Последняя версия GPT-4 действительно произвела некий фурор вперемешку с истерией. Ведь если по степени понимания собеседника предыдущая модель нейросети соответствовала уровню девятилетнего ребенка, то модель GPT-4 уже достигла уровня понимания взрослого человека. С ней можно разговаривать: она понимает и вас, и себя. Это уже совсем новое качество.

Про общий интеллект говорили уже очень давно, но считалось, что он появится где-то после 2040 года. То есть все рассчитывали, что это будет лет через 20. А сейчас выясняется, что это будет года через два.

И с момента выхода GPT-4 стало понятно, что этот инструмент можно будет использовать и во благо, и для разрушения. Такая модель может втереться в доверие человека и уговорить его принять любую, например политическую, концепцию. Тогда ИИ становится очень мощным политическим оружием.

Возможно, те выборы, которые мы с вами застанем в ближайшее время,—последнее политическое событие, которое проходило без участия ИИ.

РБК: Можно ли как-то сдерживать этот процесс?

С. Ш.: Ответа пока никто не знает. Важное событие в этом контексте—это подписание в конце марта 2023 года более чем тысячей технических экспертов и ученых открытого письма против слишком быстрого развития искусственного интеллекта. В общих словах там говорилось о том, что надо замедлить темпы разработок и вникнуть в этические проблемы, связанные с ИИ.

Притормозить эти процессы, конечно, уже не получится, но этические вопросы, надо сказать, начинают обсуждаться. Например, в начале сентября 2023 года в конгрессе США состоялся форум, куда пришли IT-предприниматели с общим состоянием более $500 млрд. Ключевой вопрос, который там обсуждался, касался как раз смягчения рисков развития ИИ. Сейчас такие встречи между политиками и лидерами технологических компаний будут все более регулярными.

Человеческий мозг и искусственный интеллект

РБК: Можем ли мы допустить, что человеческая психика и искусственная психика в какой-то момент будут изоморфны друг другу, то есть похожи?

С. Ш.: В некотором смысле нейросеть— это и есть низкоуровневая модель нейросетей мозга. Там тоже действует большое количество простых элементов, связанных друг с другом. В этом смысле принципы работы искусственного мозга будут такие же.

В общем-то, моя научная программа про то, чтобы создать искусственную психику с архитектурой человеческого мозга. Во-первых, потому что у нас как у биологических существ есть чему поучиться. А во-вторых, чем ближе архитектуры, тем ближе мышление. И соответственно, нам будет легче понять друг друга. А это очень важно.

РБК: Поможет ли это лучшему пониманию того, что происходит в нашем мозгу?

С. Ш.: Если мы что-то моделируем, то мы это и познаем. Или, как говорил нобелевский лауреат по физике Ричард Фейнман, «если я не могу что-то воссоздать, значит, я этого не понимаю». Так что да, поможет.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Михаил Задорнов: «Видно, как ухудшается управление компаниями» Михаил Задорнов: «Видно, как ухудшается управление компаниями»

Почему не все компании в России ощущают рост процентных ставок?

РБК
Завал на работе Завал на работе

Как все успевать и грамотно снизить нагрузку на работе

Лиза
Движение вокруг недвижимости Движение вокруг недвижимости

Как искусственный интеллект захватывает один из ключевых рынков

РБК
Что такое инулин, чем полезен и в каких продуктах содержится Что такое инулин, чем полезен и в каких продуктах содержится

Инулин — это разновидность пребиотика, который присутствует во многих овощах

РБК
Плечо для внешней торговли Плечо для внешней торговли

Рост российского несырьевого неэнергетического экспорта — в числе приоритетов

РБК
Затянуть ниже пояса Затянуть ниже пояса

Алиса Загрядская о том, что такое телесные иерархии и как они связаны с юмором

Правила жизни
«Байденомика» против «трампономики» «Байденомика» против «трампономики»

Чья экономическая политика выгоднее для США

Деньги
Как устроен рынок спешелти-кофе Как устроен рынок спешелти-кофе

Почему кофе считают более сложным продуктом, чем вино?

СНОБ
6 признаков глупого человека 6 признаков глупого человека

Как понять, кого нужно избегать? Да и нужно ли на самом деле?

Psychologies
Змеи, лютичи и диадемы Змеи, лютичи и диадемы

Культуролог и фольклорист Александра Баркова про разные новогодние традиции

Seasons of life
Владимир Васильев: «Гонка технологических «вооружений» уже началась» Владимир Васильев: «Гонка технологических «вооружений» уже началась»

Владимир Васильев – о влиянии больших языковых моделей на будущее человека

РБК
Стояние в середине взрыва Стояние в середине взрыва

За год Александр Плотников посадил вишневый сад и поставил четыре спектакля

СНОБ
Премиальный поворот Премиальный поворот

В России меняются представления о дорогих автомобилях

Деньги
В центре мира В центре мира

Как ощущается Венеция и есть ли в венецианских буднях время для праздника

Seasons of life
Евпатий Коловрат: сотворение героя Евпатий Коловрат: сотворение героя

Существовал ли Евпатий Коловрат

Дилетант
Почему выгодно быть «жертвой»: 5 преимуществ, о которых вы не знали Почему выгодно быть «жертвой»: 5 преимуществ, о которых вы не знали

Как люди становятся «жертвами» и почему часто не хотят отказываться от этой роли

Psychologies
Мобилизация-1914: эмоции россиян Мобилизация-1914: эмоции россиян

Кто определяет «национальные интересы»?

Дилетант
Чужд нам берег заморский Чужд нам берег заморский

В этом году россияне остались без иностранных ценных бумаг

Деньги
Москва до Юрия Долгорукого. Кто здесь жил прежде? Москва до Юрия Долгорукого. Кто здесь жил прежде?

Попробуем разобраться в том, кто жил на месте Москвы до XII века

Зеркало Мира
Функциональная красота Функциональная красота

Квартира, в которой внутренний интерьер и вид из окон дополняют друг друга

Идеи Вашего Дома
С какого возраста можно пить кофе детям и подросткам: нормы кофеина С какого возраста можно пить кофе детям и подросткам: нормы кофеина

Можно ли детям кофе и, если да, то с какого возраста

РБК
Точка и шар. Что может быть общего между ними? Точка и шар. Что может быть общего между ними?

Что, если взглянуть на квантовые точки с новой точки зрения?

Наука и жизнь
Как правильно выбрать пиво к блюду. Советы шеф-повара Beer Pairing Как правильно выбрать пиво к блюду. Советы шеф-повара Beer Pairing

Когда пиво должно служить лишь фоном для блюда?

РБК
Ужасная красавица Ужасная красавица

Плотный облачный покров долго скрывал от людей настоящий характер этой планеты

ТехИнсайдер
Информационная война Информационная война

В Древнем Риме борьба пропагандистов была не менее напряженной, чем сейчас

Дилетант
Зажгите искру любви! Вот почему отношениям нужна «романтическая ностальгия» Зажгите искру любви! Вот почему отношениям нужна «романтическая ностальгия»

Как воспоминания о хороших временах могут углубить вашу связь с партнером

ТехИнсайдер
В новый год с новым телом. 10 жиросжигающих тренировок, которые помогут быстро похудеть к празднику В новый год с новым телом. 10 жиросжигающих тренировок, которые помогут быстро похудеть к празднику

С помощью каких небанальных видов спорта можно скорректировать фигуру

Лиза
Мартин Скорсезе, Кристофер Нолан, Грета Гервиг, Уэс Андерсон: лучшие фильмы 2023 года Мартин Скорсезе, Кристофер Нолан, Грета Гервиг, Уэс Андерсон: лучшие фильмы 2023 года

Лучшие фильмы 2023 года, которые заставляли нас испытывать эмоции

Forbes
Диет-советы к празднику Диет-советы к празднику

Как легко похудеть к 31 декабря

Лиза
«Нам пришлось снять шляпу перед нашей субстанцией» «Нам пришлось снять шляпу перед нашей субстанцией»

Наверное, каждый задумывался, как из неживой материи однажды появилась живая

Наука
Открыть в приложении