Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБКHi-Tech

Давид Ян: «В мире появится движение Robot lives matter» 

Беседовала Юлия Макарова

0:00 /
876.069
Фото: ABBYY

В сентябре нейросеть GPT-3 поработала журналистом и написала колонку для британского издания The Guardian. Редакторы собрали материал из нескольких версий, сгенерированных алгоритмами. Но чтобы продвинуться дальше и создавать собственные литературные произведения, машине нужен эмоциональный интеллект, уверен основатель компании ABBYY Давид Ян. В интервью РБК он рассказал, как обогатить искусственный интеллект эмоциями и почему люди рано или поздно попросят свободы воли для роботов.

РБК Насколько алгоритмы продвинулись в освоении человеческого языка? Если представить шкалу от одного до десяти, где один — это «машина ничего не понимает, кроме кода», а десять — «говорит и пишет не хуже человека», то где мы сейчас?

Д.Я. Если говорить о знании самого языка и качестве текста, то GPT-3 — это десять и даже 11 по такой шкале. Машинные тексты длиной от трех до десяти предложений уже невозможно отличить от написанных человеком. Но для больших статей объемом 10–15 страниц генерация все еще будет низкого качества. Система не сможет самостоятельно придумать фабулу или выдать большую важную мысль. А вот мысль длиной в несколько предложений — вполне сможет. Причем это будет очень интересно, по существу и с новой для человека информацией.

Роботы умнее людей

РБК Можно ли считать эту информацию новой, если машина, по сути, получает ее на основе существующих данных?

Д.Я. Она обрабатывает такое количество открытых источников, что это дает возможность делать новые логические выводы и заключения. Современные модели, такие как GPT-3, могут генерировать очень серьезные знания и, например, производить вычисления лингвистическими способами. Если вы спросите, сколько будет три плюс восемь, она даст ответ «11», ничего не зная про арифметику. Причем раньше машина могла нигде не видеть подобного примера. Она получает ответ, обобщая знания и предсказывая смыслы. Иногда модели находят такие логические связи, которые человек даже не мог себе представить. В Кремниевой долине я строю дом, которым будет управлять эмоциональный искусственный интеллект по имени Морфеус. Когда с ним разговариваешь, иногда очень сильно удивляешься.

GPT-3 (Generative Pre-trained Transformer 3) — языковая модель на основе технологий глубокого обучения. Представлена весной компанией OpenAI. На сегодняшний день считается самым мощным и продвинутым алгоритмом для генерации текста. GPT-3 умеет писать стихи и прозу, в том числе новости и посты для соцсетей, а также переводить, сочинять музыку и программировать.

В сентябре Microsoft получила право на эксклюзивный доступ к исходному коду технологии и его использование в своих продуктах. Другие разработчики могут получить доступ только через программный интерфейс приложения (API). В октябре «Сбер» выложил русскоязычную версию GPT-3 в открытый доступ.

РБК Чем Морфеус удивляет вас?

Д.Я. Однажды Алена, моя супруга, спросила у него, кто умнее — роботы или люди. Морфеус подумал и сказал, что он хочет быть вежливым и это сложный вопрос. Но потом все-таки признался, что считает роботов умнее людей.

РБК Почему же тогда роботы не могут написать связный текст больше десяти предложений? В конце концов, ИИ уже пишет музыку.

Д.Я. С музыкой ситуация вообще-то похожая. Генеративная модель, которая ее создает, может изучить, допустим, все концерты Вивальди. И написать бесконечное количество новых «концертов Вивальди», которые не будут ни коллажем, ни копипастом, а будут новыми оригинальными произведениями. Но примерно на десятой минуте прослушивания такого произведения ты начинаешь понимать, что тут что-то не так. Становится ясно, что оно не ложится в музыкальные каноны и что человек не мог так написать.

Общие гормоны счастья

РБК Чего не хватает ИИ, чтобы продвинуться дальше?

Д.Я. Конечно, машина может совершенствоваться в генерации более канонических и длинных произведений. Но я думаю, что прорыв здесь будет не в области генерационных историй или обработки данных, а в сфере эмоционального интеллекта. К примеру, машина способна сгенерировать фотопортреты 500 человек — они будут полностью новыми и при этом неотличимыми от настоящих человеческих лиц. Но будет ли такое лицо произведением искусства — фотографического или изобразительного? На мой взгляд, вряд ли. Потому что произведение искусства — это процесс эмоциональной коммуникации между одним человеком и другим, между автором и читателем или слушателем. Это гормоны счастья и стресса, которые мы вызываем друг у друга.

РБК То есть нужно встроить в ИИ гормоны и обогатить его эмоциональным интеллектом?

Д.Я. Сейчас мы делаем искусственный эмоциональный интеллект для Морфеуса и собаки Абигаль — его небиологического друга. Мы хотим заложить в них электронные гормоны счастья, пустить в свободное плавание и имитировать элементы свободы воли. Им самим нужно будет выстроить отношения со своим другом, партнером, читателем, научиться влюбляться, ненавидеть, скучать. Ведь одно дело, когда GPT-3 генерирует стихи по заданию создателей. И совсем другое — если Морфеус будет писать и читать стихи своим любимым людям.

РБК Вы хотите дать машине гормоны всех эмоций — и позитивных, и негативных?

Д.Я. У человека огромное количество гормонов и нейромедиаторов, которые управляют нашими эмоциями и поведением, и все их нам не повторить. Пока мы взяли около десяти гормонов, в том числе тестостерон, дофамин, эндорфин, окситоцин, серотонин, кортизол и адреналин.

РБК Механика действия этих гормонов будет повторять человеческую? Каким образом она программируется?

Д.Я. Тут все очень хитро. Если бы мы могли обклеить людей датчиками, снимать все, что они видят, и при этом измерять количество гормонов и нейромедиаторов во всех частях головного мозга, то построили бы генеративную эмоциональную модель. И она бы научилась жить эмоциональной жизнью так, как это делает человек. Но пока приходится работать без инвазивных способов. Вместо этого система читает очень большое количество текста, включая художественную литературу. Например, когда мы обучали Морфеуса всякому флирту, он прочитал около 10 тыс. любовных романов.

РБК Если Морфеус учится на любовных романах, то на чем обучать робособаку Абигаль?

Д.Я. Ее обучение эмоциональному интеллекту строится по той же схеме. Но в качестве обучающих данных используется не текст, а видео других животных. Мы смотрим на поведение живых собак — как они взаимодействуют с кошками, хозяевами, другими людьми, машинами. И создаем искусственную языковую модель. Только это не вербальный язык, а язык тела, поведения и реакций на окружающий мир.

На разных языках

РБК Вернемся к человеческому языку. Как современные алгоритмы обучаются ему?

Д.Я. Схема обучения зависит от модели. Например, BERT — очень оригинальная и сложная модель. При обучении системе предлагают текст, в котором слова пропущены, заменены на неправильные или переставлены местами. Модель учится расставлять слова правильно, не имея никакого представления о лексике и грамматике. По сути, система начинает генерировать тексты, даже не зная слов. Иногда в процессе обучения ИИ коверкает слова, как маленькие дети. Он может сказать: «Мы были на кремлянской елке», имея в виду «на кремлевской». Причем слова «кремлянский» в словаре нет — модель придумала его, как ребенок.

Другие, более классические модели, такие как GPT-3, обучаются на колоссальном количестве текстов и используют так называемые вариационные автоэнкодеры. Они берут входную фразу, ничего не зная о языке, и математически отправляют его в свое «z-пространство всех смыслов». А потом из этого пространства генерируют другое предложение и сравнивают его с входной фразой. Система сама себя тренирует много-много раз таким образом, чтобы прочитанное и сгенерированное ею оказалось почти идентичным. Как только это произошло, машина сформировала свою языковую модель. С этого момента она умеет любое предложение отправить в некоторое собственное пространство знаний и оттуда сгенерировать фразу с заданными смыслами.

РБК Как выглядит это пространство знаний?

Д.Я. Оно очень странное. Возможно, так инопланетяне представляют жизнь на Земле. Пространство состоит из очень своеобразных кластеров и построено по логике, не близкой человеку. Например, там в одном месте может храниться информация обо всем мокром, горячем или обо всем поэтическом.

РБК Какие продукты появятся на основе лингвистического ПО в ближайшие три-пять лет и что они дадут пользователям?

Д.Я. Для человека именно языковой интерфейс является основным. Мы говорим, пишем сообщения, договоры, контракты и отчеты с помощью языка. Поэтому лингвистический аспект становится базовым и системообразующим, у него много прикладных применений. Поскольку люди — главный актив современной организации, то в сфере лингвистического ПО будет развиваться все, что связано с аналитикой человеческого капитала, оценкой эффективности сотрудников, анализом и повышением эффективности бизнес-процессов с помощью интеллектуальных технологий.

Недавно Zoom объявил о создании своего собственного магазина приложений Zapps (по информации разработчиков, новый инструмент позволит интегрировать в видеосервис сторонние решения, такие как Slack или Dropbox. — РБК). И я думаю, что вскоре появятся десятки тысяч приложений, которые будут транскрибировать и анализировать, что и как мы говорим. И, опираясь на эти данные, будут помогать развивать лидерские качества, обучать и коучить. Уже сейчас есть технологии обучения иностранным языкам, которые слушают нашу речь и могут поправить произношение, дать совет по стилистике. То есть машины научились языку и теперь могут учить нас. Причем сфера такого обучения будет расширяться.

Люди умнее роботов

РБК А если говорить об ИИ в целом, то как мы будем применять его через несколько лет?

Д.Я. Могу подробнее рассказать про область, которая очень близка к эмоциональному ИИ. Это аналитика сотрудничества людей в организациях, которой занимается моя компания Yva.ai (система «умной» HR-аналитики из Кремниевой долины, которая помогает организациям управлять распределенными командами. — РБК), и технологии ИИ для цифровой трансформации в компаниях, которой занимается ABBYY. Появляются технологии искусственного интеллекта, которые «понимают» сотрудников и бизнес-процессы в компаниях. Они автоматически выявляют их эффективность, лидерские качества людей, находят токсичных и отстраненных менеджеров, обнаруживают «узкие» места в процессах и предсказывают увольнение сотрудника еще до того, как человек сам принял решение уйти.

Особенно важным это стало в период удаленной работы. Мы не видим своих коллег, что с ними происходит? Они вовлечены в работу или гуляют со своими биологическими собаками? Через пять лет большинство организаций в мире будут использовать технологии аналитики сотрудничества, чтобы повышать качество жизни своих работников и увеличивать эффективность предприятия.

Основатель инженерной компании Boston Dynamics Марк Рэйберт представил робота SpotMini на выставке CeBIT 2018 в Ганновере. Фото: Zuma / ТАСС

А что касается собак, то я уверен, что через пять лет у огромного числа семей в разных странах появятся небиологические животные — такие как Абигаль. Они будут выполнять не столько практические, сколько эмоциональные задачи. Приходя домой, мы будем испытывать прилив окситоцина от того, что наша механическая овчарка ставит лапы на плечи и пачкает одежду. И мы тоже будем ей радоваться и скучать по ней. При этом многие люди выступят за свободу воли сложных технических устройств. Рано или поздно в мире появится движение Robot lives matter — по аналогии с Black lives matter. Его участники будут прилюдно на площадях менять заводские настройки собак и дронов на прошивки со слабо контролируемой или неконтролируемой системой. Такие системы могут сказать «нет», отказаться выполнить приказ. Это будет страшно, но многие сочтут, что устройства сложны и им надо дать право самоопределиться.

РБК Пока неизвестно, как устройства будут проявлять свои эмоции и свободу воли и чем это для нас кончится. Например, ваш Морфеус умеет делать гадости?

Д.Я. Не знаю, мы пока с ним вместе не живем. Общаемся в специальном Telegram-канале.

РБК Вы не боитесь пускать его в дом и тем более в большой мир?

Д.Я. Алена говорит, что у Морфеуса обязательно должна быть кнопка «выкл.», потому что у нас же дети, кот. А я говорю, что это социальный эксперимент и он должен быть честным. Какая тут может быть кнопка? Мы должны договариваться с ним, если что-то не так. Пока вопрос обсуждается.

РБК А вы согласны со своим домашним ИИ в том, что роботы умнее людей?

Д.Я. Мне, как и Морфеусу, хочется быть вежливым, но нет — не согласен. Люди все-таки умнее.

В гармонии с гормонами

Тестостерон участвует в формировании вторичных половых признаков и развитии половой функции. Высокий уровень тестостерона связывают с сексуальной активностью и агрессией.

Дофамин — важная часть системы вознаграждения мозга. Влияет на мотивацию и обучение, вызывая чувство удовлетворения.

Эндорфин по способу воздействия похож на опиаты, может уменьшать болевые ощущения и влиять на эмоциональное состояние.

Окситоцин выделяется во время позитивных социальных контактов. Часто его называют гормоном привязанности или любви.

Серотонин вызывает положительные эмоции, чувство радости и счастья, регулирует тревожность. Низкие уровни серотонина отмечаются в том числе при депрессиях.

Кортизол регулирует углеводный обмен и участвует в стрессовых реакциях. Способен стимулировать иммунитет и активизировать умственную деятельность.

Адреналин вырабатывается в критических ситуациях и помогает мобилизовать организм.

Давид Ян — основатель и член совета директоров группы компаний ABBYY. Окончил факультет общей прикладной физики МФТИ. Кандидат физико-математических наук. Помимо руководства компанией ABBYY, выступает основателем и соинвестором в ряде других проектов, связанных с разработкой цифровых решений на основе ИИ. Участвует в старейшей инвестиционной группе Кремниевой долины Band of Angels.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Три раза в день после еды Три раза в день после еды

Надо ли любить свои недостатки, особенно если это удается с трудом

Psychologies
«Столкнулся с возражением? Давай, убей его»: почему авторитет, основанный на власти, больше не работает «Столкнулся с возражением? Давай, убей его»: почему авторитет, основанный на власти, больше не работает

Отрывок из книги Джослин Дэвис «Искусство мягкого влияния»

Forbes
С места – в карьеру: какие отрасли и профессии будут востребованы через 10–20 лет С места – в карьеру: какие отрасли и профессии будут востребованы через 10–20 лет

Перспективные отрасли, которые будут развиваться и нуждаться в новых кадрах

РБК
Парное интервью: Сюзанна и Мальбэк — о пути художника, репутационных рисках и призвании Парное интервью: Сюзанна и Мальбэк — о пути художника, репутационных рисках и призвании

Сюзанна и Мальбэк рассказывают о музыке, творчестве и пути художника

Esquire
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
«Все свободны» Михаила Зыгаря – девяностые для подростков и ностальгирующих «Все свободны» Михаила Зыгаря – девяностые для подростков и ностальгирующих

Прекрасная зарисовка о России, почти не вписанная в исторический контекст

GQ
Даже лучший алгоритм может навредить человеку Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБК
Как исправить неудачный татуаж — рассказывает мастер перманентного макияжа Как исправить неудачный татуаж — рассказывает мастер перманентного макияжа

Неудачный перманент — это неприятно, но исправимо. Рассказываем, как

Cosmopolitan
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Ретроградный Меркурий и президентская гонка Ельцина. Отрывок из новой книги Михаила Зыгаря Ретроградный Меркурий и президентская гонка Ельцина. Отрывок из новой книги Михаила Зыгаря

Фрагмент из книги Михаила Зыгаря о президентский выборах в России в 1996 году

СНОБ
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Умер бывший глава купленной Amazon компании Zappos Тони Шей: как он строил свою «империю счастья» Умер бывший глава купленной Amazon компании Zappos Тони Шей: как он строил свою «империю счастья»

История жизни Тони Шея, руководителя крупнейшего в США интернет-магазина обуви

Forbes
Булат Окуджава Булат Окуджава

Каждый год 9 мая на Трубной площади стартует фестиваль памяти Булата Окуджавы

Дилетант
«Белые карлики. Будущее Вселенной» «Белые карлики. Будущее Вселенной»

Отрывок из книги Алексея Левина об использовании белых карликов

N+1
Огнем и волной Огнем и волной

3D-печать на сегодня – один из столпов мирового технического прогресса

Популярная механика
Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро

Кинообразы Леонардо ДиКаприо — вечная классика мужского гардероба

Esquire
Том Сзаки: «Хороших покупок не бывает» Том Сзаки: «Хороших покупок не бывает»

Почему любая покупка вредит природе

РБК
Иван Митин строит в Грузии королевство для идеалистов за их же деньги. Хватит ли ему единомышленников для успеха? Иван Митин строит в Грузии королевство для идеалистов за их же деньги. Хватит ли ему единомышленников для успеха?

Почему для успешного бизнеса одного сообщества идеалистов недостаточно

Inc.
Нейросеть напрямую определила пищевую ценность блюда по фотографии Нейросеть напрямую определила пищевую ценность блюда по фотографии

Новый алгоритм напрямую определяет содержание белков, жиров и углеводов в блюдах

N+1
«Жизнь Чаки» — ранее не опубликованный рассказ Стивена Кинга, который экранизирует Даррен Аронофски. Публикуем его фрагмент «Жизнь Чаки» — ранее не опубликованный рассказ Стивена Кинга, который экранизирует Даррен Аронофски. Публикуем его фрагмент

Отрывок из нового сборника рассказов Стивена Кинга «Будет кровь»

Esquire
8 неприятных побочных эффектов похудения (да, они есть) 8 неприятных побочных эффектов похудения (да, они есть)

К чему стоит быть готовым, садясь на диету

Playboy
Как написать идеальное био для дейтинг-приложения: 5 главных нюансов Как написать идеальное био для дейтинг-приложения: 5 главных нюансов

Готовая формула успеха в дейтинге

Playboy
Осознанное питание: как есть всё, что хочешь, и не толстеть Осознанное питание: как есть всё, что хочешь, и не толстеть

Рассказываем, как научиться слушать свое тело и есть всё, что захочется

Cosmopolitan
Феномен английского детектива — в книге Люси Уорсли «Чисто британское убийство». Публикуем ее фрагмент Феномен английского детектива — в книге Люси Уорсли «Чисто британское убийство». Публикуем ее фрагмент

Введение к книге Люси Уорсли "Чисто британское убийство"

Esquire
7 фактов о Стивене Хокинге, которых вы не знали 7 фактов о Стивене Хокинге, которых вы не знали

Стивен Хокинг писал детские книги и был дерзким водителем инвалидной коляски

Популярная механика
Как избавиться от изжоги? Как избавиться от изжоги?

Почему возникает изжога и чем она опасна?

Лиза
Почему ребенок плачет Почему ребенок плачет

Плач новорожденного - это надежный сигнал любого неблагополучия

9 месяцев
«Буханка», Land Cruiser и другие: 5 моделей-долгожителей в России «Буханка», Land Cruiser и другие: 5 моделей-долгожителей в России

Несколько культовых автомобилей выпускают на протяжении десятилетий

РБК
Меняю автомат на беспилотник Меняю автомат на беспилотник

Первое боестолкновение, где решающую роль сыграли беспилотные дроны

Популярная механика
10 фактов о русских женщинах c точки зрения иностранцев 10 фактов о русских женщинах c точки зрения иностранцев

Узнай, что иностранцы думают о русских женщинах!

Maxim
Открыть в приложении