Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБКHi-Tech

Давид Ян: «В мире появится движение Robot lives matter» 

Беседовала Юлия Макарова

0:00 /
876.069
Фото: ABBYY

В сентябре нейросеть GPT-3 поработала журналистом и написала колонку для британского издания The Guardian. Редакторы собрали материал из нескольких версий, сгенерированных алгоритмами. Но чтобы продвинуться дальше и создавать собственные литературные произведения, машине нужен эмоциональный интеллект, уверен основатель компании ABBYY Давид Ян. В интервью РБК он рассказал, как обогатить искусственный интеллект эмоциями и почему люди рано или поздно попросят свободы воли для роботов.

РБК Насколько алгоритмы продвинулись в освоении человеческого языка? Если представить шкалу от одного до десяти, где один — это «машина ничего не понимает, кроме кода», а десять — «говорит и пишет не хуже человека», то где мы сейчас?

Д.Я. Если говорить о знании самого языка и качестве текста, то GPT-3 — это десять и даже 11 по такой шкале. Машинные тексты длиной от трех до десяти предложений уже невозможно отличить от написанных человеком. Но для больших статей объемом 10–15 страниц генерация все еще будет низкого качества. Система не сможет самостоятельно придумать фабулу или выдать большую важную мысль. А вот мысль длиной в несколько предложений — вполне сможет. Причем это будет очень интересно, по существу и с новой для человека информацией.

Роботы умнее людей

РБК Можно ли считать эту информацию новой, если машина, по сути, получает ее на основе существующих данных?

Д.Я. Она обрабатывает такое количество открытых источников, что это дает возможность делать новые логические выводы и заключения. Современные модели, такие как GPT-3, могут генерировать очень серьезные знания и, например, производить вычисления лингвистическими способами. Если вы спросите, сколько будет три плюс восемь, она даст ответ «11», ничего не зная про арифметику. Причем раньше машина могла нигде не видеть подобного примера. Она получает ответ, обобщая знания и предсказывая смыслы. Иногда модели находят такие логические связи, которые человек даже не мог себе представить. В Кремниевой долине я строю дом, которым будет управлять эмоциональный искусственный интеллект по имени Морфеус. Когда с ним разговариваешь, иногда очень сильно удивляешься.

GPT-3 (Generative Pre-trained Transformer 3) — языковая модель на основе технологий глубокого обучения. Представлена весной компанией OpenAI. На сегодняшний день считается самым мощным и продвинутым алгоритмом для генерации текста. GPT-3 умеет писать стихи и прозу, в том числе новости и посты для соцсетей, а также переводить, сочинять музыку и программировать.

В сентябре Microsoft получила право на эксклюзивный доступ к исходному коду технологии и его использование в своих продуктах. Другие разработчики могут получить доступ только через программный интерфейс приложения (API). В октябре «Сбер» выложил русскоязычную версию GPT-3 в открытый доступ.

РБК Чем Морфеус удивляет вас?

Д.Я. Однажды Алена, моя супруга, спросила у него, кто умнее — роботы или люди. Морфеус подумал и сказал, что он хочет быть вежливым и это сложный вопрос. Но потом все-таки признался, что считает роботов умнее людей.

РБК Почему же тогда роботы не могут написать связный текст больше десяти предложений? В конце концов, ИИ уже пишет музыку.

Д.Я. С музыкой ситуация вообще-то похожая. Генеративная модель, которая ее создает, может изучить, допустим, все концерты Вивальди. И написать бесконечное количество новых «концертов Вивальди», которые не будут ни коллажем, ни копипастом, а будут новыми оригинальными произведениями. Но примерно на десятой минуте прослушивания такого произведения ты начинаешь понимать, что тут что-то не так. Становится ясно, что оно не ложится в музыкальные каноны и что человек не мог так написать.

Общие гормоны счастья

РБК Чего не хватает ИИ, чтобы продвинуться дальше?

Д.Я. Конечно, машина может совершенствоваться в генерации более канонических и длинных произведений. Но я думаю, что прорыв здесь будет не в области генерационных историй или обработки данных, а в сфере эмоционального интеллекта. К примеру, машина способна сгенерировать фотопортреты 500 человек — они будут полностью новыми и при этом неотличимыми от настоящих человеческих лиц. Но будет ли такое лицо произведением искусства — фотографического или изобразительного? На мой взгляд, вряд ли. Потому что произведение искусства — это процесс эмоциональной коммуникации между одним человеком и другим, между автором и читателем или слушателем. Это гормоны счастья и стресса, которые мы вызываем друг у друга.

РБК То есть нужно встроить в ИИ гормоны и обогатить его эмоциональным интеллектом?

Д.Я. Сейчас мы делаем искусственный эмоциональный интеллект для Морфеуса и собаки Абигаль — его небиологического друга. Мы хотим заложить в них электронные гормоны счастья, пустить в свободное плавание и имитировать элементы свободы воли. Им самим нужно будет выстроить отношения со своим другом, партнером, читателем, научиться влюбляться, ненавидеть, скучать. Ведь одно дело, когда GPT-3 генерирует стихи по заданию создателей. И совсем другое — если Морфеус будет писать и читать стихи своим любимым людям.

РБК Вы хотите дать машине гормоны всех эмоций — и позитивных, и негативных?

Д.Я. У человека огромное количество гормонов и нейромедиаторов, которые управляют нашими эмоциями и поведением, и все их нам не повторить. Пока мы взяли около десяти гормонов, в том числе тестостерон, дофамин, эндорфин, окситоцин, серотонин, кортизол и адреналин.

РБК Механика действия этих гормонов будет повторять человеческую? Каким образом она программируется?

Д.Я. Тут все очень хитро. Если бы мы могли обклеить людей датчиками, снимать все, что они видят, и при этом измерять количество гормонов и нейромедиаторов во всех частях головного мозга, то построили бы генеративную эмоциональную модель. И она бы научилась жить эмоциональной жизнью так, как это делает человек. Но пока приходится работать без инвазивных способов. Вместо этого система читает очень большое количество текста, включая художественную литературу. Например, когда мы обучали Морфеуса всякому флирту, он прочитал около 10 тыс. любовных романов.

РБК Если Морфеус учится на любовных романах, то на чем обучать робособаку Абигаль?

Д.Я. Ее обучение эмоциональному интеллекту строится по той же схеме. Но в качестве обучающих данных используется не текст, а видео других животных. Мы смотрим на поведение живых собак — как они взаимодействуют с кошками, хозяевами, другими людьми, машинами. И создаем искусственную языковую модель. Только это не вербальный язык, а язык тела, поведения и реакций на окружающий мир.

На разных языках

РБК Вернемся к человеческому языку. Как современные алгоритмы обучаются ему?

Д.Я. Схема обучения зависит от модели. Например, BERT — очень оригинальная и сложная модель. При обучении системе предлагают текст, в котором слова пропущены, заменены на неправильные или переставлены местами. Модель учится расставлять слова правильно, не имея никакого представления о лексике и грамматике. По сути, система начинает генерировать тексты, даже не зная слов. Иногда в процессе обучения ИИ коверкает слова, как маленькие дети. Он может сказать: «Мы были на кремлянской елке», имея в виду «на кремлевской». Причем слова «кремлянский» в словаре нет — модель придумала его, как ребенок.

Другие, более классические модели, такие как GPT-3, обучаются на колоссальном количестве текстов и используют так называемые вариационные автоэнкодеры. Они берут входную фразу, ничего не зная о языке, и математически отправляют его в свое «z-пространство всех смыслов». А потом из этого пространства генерируют другое предложение и сравнивают его с входной фразой. Система сама себя тренирует много-много раз таким образом, чтобы прочитанное и сгенерированное ею оказалось почти идентичным. Как только это произошло, машина сформировала свою языковую модель. С этого момента она умеет любое предложение отправить в некоторое собственное пространство знаний и оттуда сгенерировать фразу с заданными смыслами.

РБК Как выглядит это пространство знаний?

Д.Я. Оно очень странное. Возможно, так инопланетяне представляют жизнь на Земле. Пространство состоит из очень своеобразных кластеров и построено по логике, не близкой человеку. Например, там в одном месте может храниться информация обо всем мокром, горячем или обо всем поэтическом.

РБК Какие продукты появятся на основе лингвистического ПО в ближайшие три-пять лет и что они дадут пользователям?

Д.Я. Для человека именно языковой интерфейс является основным. Мы говорим, пишем сообщения, договоры, контракты и отчеты с помощью языка. Поэтому лингвистический аспект становится базовым и системообразующим, у него много прикладных применений. Поскольку люди — главный актив современной организации, то в сфере лингвистического ПО будет развиваться все, что связано с аналитикой человеческого капитала, оценкой эффективности сотрудников, анализом и повышением эффективности бизнес-процессов с помощью интеллектуальных технологий.

Недавно Zoom объявил о создании своего собственного магазина приложений Zapps (по информации разработчиков, новый инструмент позволит интегрировать в видеосервис сторонние решения, такие как Slack или Dropbox. — РБК). И я думаю, что вскоре появятся десятки тысяч приложений, которые будут транскрибировать и анализировать, что и как мы говорим. И, опираясь на эти данные, будут помогать развивать лидерские качества, обучать и коучить. Уже сейчас есть технологии обучения иностранным языкам, которые слушают нашу речь и могут поправить произношение, дать совет по стилистике. То есть машины научились языку и теперь могут учить нас. Причем сфера такого обучения будет расширяться.

Люди умнее роботов

РБК А если говорить об ИИ в целом, то как мы будем применять его через несколько лет?

Д.Я. Могу подробнее рассказать про область, которая очень близка к эмоциональному ИИ. Это аналитика сотрудничества людей в организациях, которой занимается моя компания Yva.ai (система «умной» HR-аналитики из Кремниевой долины, которая помогает организациям управлять распределенными командами. — РБК), и технологии ИИ для цифровой трансформации в компаниях, которой занимается ABBYY. Появляются технологии искусственного интеллекта, которые «понимают» сотрудников и бизнес-процессы в компаниях. Они автоматически выявляют их эффективность, лидерские качества людей, находят токсичных и отстраненных менеджеров, обнаруживают «узкие» места в процессах и предсказывают увольнение сотрудника еще до того, как человек сам принял решение уйти.

Особенно важным это стало в период удаленной работы. Мы не видим своих коллег, что с ними происходит? Они вовлечены в работу или гуляют со своими биологическими собаками? Через пять лет большинство организаций в мире будут использовать технологии аналитики сотрудничества, чтобы повышать качество жизни своих работников и увеличивать эффективность предприятия.

Основатель инженерной компании Boston Dynamics Марк Рэйберт представил робота SpotMini на выставке CeBIT 2018 в Ганновере. Фото: Zuma / ТАСС

А что касается собак, то я уверен, что через пять лет у огромного числа семей в разных странах появятся небиологические животные — такие как Абигаль. Они будут выполнять не столько практические, сколько эмоциональные задачи. Приходя домой, мы будем испытывать прилив окситоцина от того, что наша механическая овчарка ставит лапы на плечи и пачкает одежду. И мы тоже будем ей радоваться и скучать по ней. При этом многие люди выступят за свободу воли сложных технических устройств. Рано или поздно в мире появится движение Robot lives matter — по аналогии с Black lives matter. Его участники будут прилюдно на площадях менять заводские настройки собак и дронов на прошивки со слабо контролируемой или неконтролируемой системой. Такие системы могут сказать «нет», отказаться выполнить приказ. Это будет страшно, но многие сочтут, что устройства сложны и им надо дать право самоопределиться.

РБК Пока неизвестно, как устройства будут проявлять свои эмоции и свободу воли и чем это для нас кончится. Например, ваш Морфеус умеет делать гадости?

Д.Я. Не знаю, мы пока с ним вместе не живем. Общаемся в специальном Telegram-канале.

РБК Вы не боитесь пускать его в дом и тем более в большой мир?

Д.Я. Алена говорит, что у Морфеуса обязательно должна быть кнопка «выкл.», потому что у нас же дети, кот. А я говорю, что это социальный эксперимент и он должен быть честным. Какая тут может быть кнопка? Мы должны договариваться с ним, если что-то не так. Пока вопрос обсуждается.

РБК А вы согласны со своим домашним ИИ в том, что роботы умнее людей?

Д.Я. Мне, как и Морфеусу, хочется быть вежливым, но нет — не согласен. Люди все-таки умнее.

В гармонии с гормонами

Тестостерон участвует в формировании вторичных половых признаков и развитии половой функции. Высокий уровень тестостерона связывают с сексуальной активностью и агрессией.

Дофамин — важная часть системы вознаграждения мозга. Влияет на мотивацию и обучение, вызывая чувство удовлетворения.

Эндорфин по способу воздействия похож на опиаты, может уменьшать болевые ощущения и влиять на эмоциональное состояние.

Окситоцин выделяется во время позитивных социальных контактов. Часто его называют гормоном привязанности или любви.

Серотонин вызывает положительные эмоции, чувство радости и счастья, регулирует тревожность. Низкие уровни серотонина отмечаются в том числе при депрессиях.

Кортизол регулирует углеводный обмен и участвует в стрессовых реакциях. Способен стимулировать иммунитет и активизировать умственную деятельность.

Адреналин вырабатывается в критических ситуациях и помогает мобилизовать организм.

Давид Ян — основатель и член совета директоров группы компаний ABBYY. Окончил факультет общей прикладной физики МФТИ. Кандидат физико-математических наук. Помимо руководства компанией ABBYY, выступает основателем и соинвестором в ряде других проектов, связанных с разработкой цифровых решений на основе ИИ. Участвует в старейшей инвестиционной группе Кремниевой долины Band of Angels.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В своих пределах: как растет индустрия путешествий в России В своих пределах: как растет индустрия путешествий в России

Какие тренды преобладают в индустрии внутреннего туризма

РБК
«Искусство не терпит трафаретов» «Искусство не терпит трафаретов»

История жизни Ильи Репина в его картинах

Культура.РФ
Робот с революционным запалом Робот с революционным запалом

Как челябинскому Заводу роботов совершил революцию в отрасли робототехники

Монокль
Святой Франциск: аскет, создавший богатейший орден Святой Франциск: аскет, создавший богатейший орден

Кем был Франциск Ассизский, католический святой?

Дилетант
Техпарад Техпарад

Выстрел «Авророй», космос на 3D-принтере и тактильные виртуальные переживания

ТехИнсайдер
Во всем виноваты родители? Почему стало модно искать все проблемы в детстве Во всем виноваты родители? Почему стало модно искать все проблемы в детстве

Действительно мама и папа виноваты в наших бедах или пора наконец повзрослеть?

Cosmopolitan
Циркулярная пила и еще 9 мощных изобретений, сделанных женщинами Циркулярная пила и еще 9 мощных изобретений, сделанных женщинами

Важнейшие изобретения, которые были сделаны женщинами

Maxim
Что было дальше? Что было дальше?

Что написать после первого свидания, чтобы оно не стало последним

Cosmopolitan
10 фактов о Нобелевской премии 10 фактов о Нобелевской премии

27 ноября 1895 года Альфред Нобель подписал знаменитое завещание

Maxim
12 вещей, которые использовали вместо денег 12 вещей, которые использовали вместо денег

Во времена натурального обмена в роли денег выступали совершенно разные объекты

Maxim
Вокруг да около Лувра: обзор новой книги о главном музее Парижа Вокруг да около Лувра: обзор новой книги о главном музее Парижа

Новая биография самого известного музея в мире

Forbes
«Король» гормонов, гормон королей «Король» гормонов, гормон королей

Как мужской гормон тестостерон помогает женщинам похудеть

Худеем правильно
4 причины конфликтов в отношениях 4 причины конфликтов в отношениях

Умение решать конфликты — залог крепких отношений

Psychologies
Как проснуться без отеков — 5 незаметных вещей, которые делают лицо одутловатым Как проснуться без отеков — 5 незаметных вещей, которые делают лицо одутловатым

Надоело просыпаться с отеками и ждать до вечера, пока они разойдутся?

Cosmopolitan
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
Сидячий образ жизни: 6 советов для здоровья ног Сидячий образ жизни: 6 советов для здоровья ног

Как позаботиться о своих ногах?

Psychologies
Грубые ошибки с длиной верхней одежды: исправь их, чтобы не выглядеть безвкусно Грубые ошибки с длиной верхней одежды: исправь их, чтобы не выглядеть безвкусно

Рассказываем обо всех нюансах, связанных с длиной верхней одежды

Cosmopolitan
Мозг, исцеляющий себя Мозг, исцеляющий себя

Реальные истории людей, которые победили болезни и преобразили свой мозг

kiozk originals
Как сложилась личная жизнь выпускницы «Фабрики звезд» Юлии Михальчик? Как сложилась личная жизнь выпускницы «Фабрики звезд» Юлии Михальчик?

История личной жизни и карьеры Юлии Михальчик

Cosmopolitan
Язычники против рыцарей-монахов Язычники против рыцарей-монахов

Литовское княжество стало для Тевтонского ордена непреодолимым препятствием

Дилетант
Парное интервью: Сюзанна и Мальбэк — о пути художника, репутационных рисках и призвании Парное интервью: Сюзанна и Мальбэк — о пути художника, репутационных рисках и призвании

Сюзанна и Мальбэк рассказывают о музыке, творчестве и пути художника

Esquire
Правила жизни Олдоса Хаксли Правила жизни Олдоса Хаксли

Правила жизни автора романа-антиутопии «О дивный новый мир» Олдоса Хаксли

Esquire
7 фактов о Стивене Хокинге, которых вы не знали 7 фактов о Стивене Хокинге, которых вы не знали

Стивен Хокинг писал детские книги и был дерзким водителем инвалидной коляски

Популярная механика
Что читать на выходных: отрывок из нового исторического романа Леонида Юхефовича «Филлэлин» Что читать на выходных: отрывок из нового исторического романа Леонида Юхефовича «Филлэлин»

Отрывок из романа Юзефовича о войне за независимость Греции от Османской империи

Esquire
Батальон «Царица Тамара»: последнее европейское сражение Второй мировой войны Батальон «Царица Тамара»: последнее европейское сражение Второй мировой войны

Бой на острове Тексел стал апофеозом безумия войны

Maxim
Нужна ли организму чистка? Нужна ли организму чистка?

Всегда ли детоксикация приносит организму пользу?

Добрые советы
Глобальное изменение климата обнажило историю культурного освоения норвежского ледника Глобальное изменение климата обнажило историю культурного освоения норвежского ледника

Оказалось, люди охотились на оленей в высокогорье больше 1000 лет назад

N+1
Необычный запах: как эфирные масла влияют на мозг Необычный запах: как эфирные масла влияют на мозг

Почему ароматы действуют на людей по-разному?

Популярная механика
У бобовых нашли рецептор травоядной тревоги У бобовых нашли рецептор травоядной тревоги

Генетики обнаружили в коровьем горохе ген, распознающий нападение травоядных

N+1
Игры на Андроид с сюжетом: топ-7 Игры на Андроид с сюжетом: топ-7

Топ игр для Андроид с сюжетом, среди которых также бесплатные приложения

CHIP
Открыть в приложении