Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Секс — мощное оружие маркетинга: жесткая диктатура длинных ног и коротких половых связей Секс — мощное оружие маркетинга: жесткая диктатура длинных ног и коротких половых связей

Почему быть сексуальным и иметь половую жизнь — это показатель престижа?

Psychologies
Атмосферная старина Атмосферная старина

Аутентичный, атмосферный интерьер, где много воздуха и архитектурных конструкций

Идеи Вашего Дома
Чем богаты, тем и рады Чем богаты, тем и рады

Что мы хотим получить на самом деле, когда раскошеливаемся на люкс

VOICE
Зарабатывала миллионы, но скрывала имя: как женщины создавали популярные комиксы Зарабатывала миллионы, но скрывала имя: как женщины создавали популярные комиксы

Их героини спасали мир и остроумно шутили

Forbes
«Смерть — всего лишь иллюзия»: объяснение с точки зрения физики «Смерть — всего лишь иллюзия»: объяснение с точки зрения физики

Различие между прошлым, настоящим и будущим — лишь упрямая непреходящая иллюзия

Psychologies
Игра в имитацию Игра в имитацию

Македонский писатель Венко Андоновский об имитации жизни

Grazia
Япона-рама Япона-рама

Dongfeng водим, Nissan в уме

Автопилот
Европа призвала Африку к декарбонизации Европа призвала Африку к декарбонизации

Ежегодные конференции ООН по климату официально называются конференциями сторон

Монокль
Алло, мы ищем таланты! Алло, мы ищем таланты!

Как помочь себе узнать, в какой области хочешь реализоваться

Лиза
Интервью с балериной Мариинского театра Ренатой Шакировой о премьере спектакля «Анюта» Интервью с балериной Мариинского театра Ренатой Шакировой о премьере спектакля «Анюта»

Интервью с балериной Ренатой Шакировой о том, как проходили репетиции балета

СНОБ
Археологи нашли древнейшие в Северной Африке следы человеческих ног Археологи нашли древнейшие в Северной Африке следы человеческих ног

Древнейшие отпечатки ног людей, которые когда-либо находили в Северной Африке

N+1
Раз и готово Раз и готово

Как за один сеанс стереть морщины, созвездия капилляров и постройнеть

Собака.ru
Дом-2 Дом-2

Как российское кино и сериалы прописались на даче

Weekend
Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе Стеклянный потолок: какие вызовы стоят перед женщинами в руководстве и бизнесе

С какими трудностями сегодня сталкиваются предпринимательницы и руководительницы

Inc.
Хореограф Кацура Кан: Не ведитесь на европейское чувство красоты Хореограф Кацура Кан: Не ведитесь на европейское чувство красоты

Интервью с японским хореографом и мастером буто Кацурой Кан

СНОБ
Метаморфозы Иракли Метаморфозы Иракли

Ираклий Пирцхалава редкий гость в Москве, но интервью получилось интересным!

OK!
Сын Макконахи, король Англии, защитник Арракиса: экранная эволюция Тимоти Шаламе Сын Макконахи, король Англии, защитник Арракиса: экранная эволюция Тимоти Шаламе

Кинокритик Елена Зархина проследила экранный путь актера Тимоти Шаламе

Правила жизни
Шестой и чувства Шестой и чувства

Что есть «Москвич 6»

Автопилот
Юбилей Тегеранской конференции: как смогли договориться победители Юбилей Тегеранской конференции: как смогли договориться победители

Со времени проведения Тегеранской конференции прошло 80 лет

Наука
Лингвисты в утробе матери. Как дети начинают осваивать язык еще до рождения Лингвисты в утробе матери. Как дети начинают осваивать язык еще до рождения

Можно ли считать маленьких детей прирожденными лингвистами?

СНОБ
Вы вернулись на маршрут Вы вернулись на маршрут

Московский ресторатор Алексей Пинский прокатился на внедорожнике Tank 500

Robb Report
Как кибернетические протезы делают общество лучше и справедливее Как кибернетические протезы делают общество лучше и справедливее

Как технологии делают жизнь людей проще и комфортнее

ФедералПресс
Умный дом: как российские технологии преображают жилище Умный дом: как российские технологии преображают жилище

Чем хороши умные дома по-русски

ФедералПресс
Шимпанзе долины Исса кастрировали и убили детеныша-чужака Шимпанзе долины Исса кастрировали и убили детеныша-чужака

Почему шимпанзе саванн убивают друг друга?

N+1
«Жаль, нам редко позволяют в хулиганить кадре» «Жаль, нам редко позволяют в хулиганить кадре»

Агате Муцениеце есть чем похвалиться перед другими и за что похвалить себя

OK!
Венеры Серебряного века. Как видели идеал красоты русские художники рубежа XIX–XX веков Венеры Серебряного века. Как видели идеал красоты русские художники рубежа XIX–XX веков

Каких Венер создавали художники Серебряного века

СНОБ
Дела сердечные: 8 причин срочно записаться к кардиологу Дела сердечные: 8 причин срочно записаться к кардиологу

8 наиболее частых причин для обращения к врачу при проблемах с сердцем

ТехИнсайдер
Живопись без правил Живопись без правил

Магомед Кажлаев: абстракция из воздуха

Weekend
Верим в добрые приметы Верим в добрые приметы

В новогоднюю ночь мы, как дети, начинаем верить в чудеса и приметы

Лиза
Мочить в сатире Мочить в сатире

Сатирические издания всегда играли в советском обществе особую роль

Правила жизни
Открыть в приложении