Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Еда, которая не убивает планету Еда, которая не убивает планету

Прокормить постоянно растущее человечество помогут микроорганизмы

ТехИнсайдер
Ора экзакта Ора экзакта

Электричество бьется в наши сердца и в новом китайском электромобиле

Автопилот
Военторг Чарли Военторг Чарли

Как в перерывах между вечеринками американский конгрессмен развалил СССР

Дилетант
Шуба, золото, икра: почему тренд Slavic Girl захватил соцсети и как сделать его модным Шуба, золото, икра: почему тренд Slavic Girl захватил соцсети и как сделать его модным

Почему западные блогеры переодеваются в пушистые шубы и меховые шапки?

Правила жизни
Семейка снеговиков Семейка снеговиков

Делаем семейку снеговиков — любимых сказочных персонажей детей и взрослых

Наука и жизнь
От поцелуев в полночь до блюд из черноглазого гороха: история новогодних суеверий От поцелуев в полночь до блюд из черноглазого гороха: история новогодних суеверий

Как в разных культурах формировались новогодние обычаи

Forbes
Несколько последних слов Несколько последних слов

Игорь Гулин о стихах Григория Дашевского

Weekend
Тейлор Свифт, Kiss и фрезеровщики: кто выгоняет футбольные клубы с их стадионов Тейлор Свифт, Kiss и фрезеровщики: кто выгоняет футбольные клубы с их стадионов

Как выступления звезд и другие виды спорта рушат планы футбольных команд

Forbes
Здравствуй, дерево! Здравствуй, дерево!

6 удивительных фактов из истории елки и игрушек

Лиза
А теперь начнем сначала А теперь начнем сначала

Истории людей, прошедших дорогой перемен

Men Today
Женя Кривцова: «Там, где страшно, всегда офигенный результат!» Женя Кривцова: «Там, где страшно, всегда офигенный результат!»

Блогер Женя Кривцова о том, как избавиться от всех пагубных привычек

ЖАРА Magazine
Федерико Арнальди: «Я не могу без любви» Федерико Арнальди: «Я не могу без любви»

Федерико Арнальди – о вкусной еде, русских девушках и любви

Добрые советы
Дешево и сердито Дешево и сердито

Дискаунтеры захватывают российский рынок

Агроинвестор
«75% гостей — женщины»: ресторатор Ксения Механик о гастроиндустрии и стереотипах «75% гостей — женщины»: ресторатор Ксения Механик о гастроиндустрии и стереотипах

Ресторатор Ксения Механик — почему гендерные предрассудки мешают всем

Forbes
Еще раз о числе π и о неразрешимой проблеме «квадратуры круга» Еще раз о числе π и о неразрешимой проблеме «квадратуры круга»

Два феномена – число π и египетские пирамиды – связаны невидимыми нитями

Зеркало Мира
Бить или не бить Бить или не бить

Эксперимент, поставленный на аукционных торгах

Автопилот
Как устроен рынок спешелти-кофе Как устроен рынок спешелти-кофе

Почему кофе считают более сложным продуктом, чем вино?

СНОБ
Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед Мечты о будущем. Как фантасты создавали реальность на тысячи лет вперед

На страницах романов они обещали, стращали или просили верить в человечество

СНОБ
Владимир Никифоров: «Нельзя ни на минуту забывать, что ботокс, хоть и разведённый в миллионы раз, всё-таки смертельно опасный яд» Владимир Никифоров: «Нельзя ни на минуту забывать, что ботокс, хоть и разведённый в миллионы раз, всё-таки смертельно опасный яд»

Как яд стал медицинским препаратом? Отвечает доктор медицинских наук

Здоровье
«Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи «Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи

Глава из сборника семейных историй Дины Рубиной «Не вычеркивай меня из списка»

Forbes
Передел Европы. Часть II. Хирургия без наркоза Передел Европы. Часть II. Хирургия без наркоза

Тирольская трагедия и ошибка Вудро Вильсона

Знание – сила
Плохие гены, огромные деньги: шесть мифов о приемном родительстве Плохие гены, огромные деньги: шесть мифов о приемном родительстве

Зачем рассказывать ребенку правду о кровных родителях, сколько получают опекуны?

Forbes
Дух места Дух места

Новая жизнь в старой московской квартире

SALON-Interior
Требуется производство! Требуется производство!

Интеллектуальные цифровые платформы могут повысить эффективность промышленности

Монокль
От Сервантеса до Эль Греко: каким был «золотой век» испанской культуры От Сервантеса до Эль Греко: каким был «золотой век» испанской культуры

Что такое «золотой век» испанской живописи

СНОБ
Как пить алкоголь на вечеринке, чтобы не напиться и избежать похмелья Как пить алкоголь на вечеринке, чтобы не напиться и избежать похмелья

Как надо пить, чтобы чувствовать себя хорошо на празднике

VOICE
Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя Коврик не понадобится: 5 простых упражнений для пресса, которые можно делать стоя

Не любишь скручиванию и планку? Есть другие варианты для прокачки пресса!

VOICE
OpenAI назвал топ-5 мошеннических схем во всем мире. А на основе ChatGPT сделали бота Crafty Emails, который генерирует скам OpenAI назвал топ-5 мошеннических схем во всем мире. А на основе ChatGPT сделали бота Crafty Emails, который генерирует скам

Как мошенники используют ChatGPT

Inc.
Супрематизм сквозь время Супрематизм сквозь время

В1919 году антрополог Альфред Крёбер вывел закон цикличности моды

Дилетант
Игорь Миркурбанов: «Любое пение должно быть актерским» Игорь Миркурбанов: «Любое пение должно быть актерским»

Игорь Миркурбанов о своем новом спектакле-концерте и песнях Сергея Наговицына

Монокль
Открыть в приложении