Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

5 ярких мистификаций в истории русской литературы 5 ярких мистификаций в истории русской литературы

В мире русской литературы мистификация занимает особое место

Maxim
Невеликий театр Невеликий театр

Режиссер Борис Павлович о работе в театре, своих спектаклях и проекте «Квартира»

Seasons of life
Диет-советы к празднику Диет-советы к празднику

Как легко похудеть к 31 декабря

Лиза
Заморозить развитие: почему криобанки — это технологии будущего Заморозить развитие: почему криобанки — это технологии будущего

На самом деле уже очевидно, что не за горами новый король — биотех

Forbes
Сила любви! Исследование показало, что у людей в браке совпадает кровяное давление! Сила любви! Исследование показало, что у людей в браке совпадает кровяное давление!

Супруги могут иметь "зеркальное" высокое кровяное давление

ТехИнсайдер
«Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи «Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи

Глава из сборника семейных историй Дины Рубиной «Не вычеркивай меня из списка»

Forbes
Дороги без дураков Дороги без дураков

Разбираемся, как именно строится транспортная система будущего

РБК
Упразднение города Н. Упразднение города Н.

Красный командир Яков Тряпицын воплотил фантасмагорию великого сатирика в жизнь

Дилетант
Что есть будем Что есть будем

Чем опасны для ребенка здоровые пищевые привычки: 7 неочевидных факторов

Лиза
Пятиконечно все сбудется! Пятиконечно все сбудется!

Пять героических явлений, процессов и слов 2023 года

Деньги
Город дорог: 10 фильмов, действие которых происходит в автомобиле Город дорог: 10 фильмов, действие которых происходит в автомобиле

«Соучастник», «Драйв» и другие картины, в которых важную роль играет автомобиль

Правила жизни
Плоды ошибок трудных Плоды ошибок трудных

Государство усиливает регулирование в сфере абортов

Монокль
Анализ экспорта вооружений КНР в страны Ближнего Востока Анализ экспорта вооружений КНР в страны Ближнего Востока

Продукция китайского оборонно-промышленного комплекса для ближневосточных стран

Обозрение армии и флота
Александр Зацепин: «Мне очень повезло с Гайдаем» Александр Зацепин: «Мне очень повезло с Гайдаем»

Его часто называют гением киномузыки, а коллеги дали прозвище Железный Шурик

Коллекция. Караван историй
Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли

Что мешает глубоководным удильщикам передвигаться обычным способом

СНОБ
Супрематизм сквозь время Супрематизм сквозь время

В1919 году антрополог Альфред Крёбер вывел закон цикличности моды

Дилетант
Проверка для интеллигентов! В чем разница между мемуарами и автобиографией? Проверка для интеллигентов! В чем разница между мемуарами и автобиографией?

Что такое мемуары и чем они отличаются от автобиографии?

ТехИнсайдер
«Одним меньше стало» «Одним меньше стало»

Какую палитру мнений вызвала кончина главы советского правительства?

Дилетант
Коллекционер Михаил Царев: Мы сохранили целое поколение искусства Коллекционер Михаил Царев: Мы сохранили целое поколение искусства

Почему коллекционер Михаил Царев беспокоится за современную российскую арт-сцену

СНОБ
Друзья человека: как психология помогает нам находить контакт с животными Друзья человека: как психология помогает нам находить контакт с животными

Почему между зверем и человеком больше общего, чем кажется

Psychologies
Уметь = преуспеть Уметь = преуспеть

Есть такие умения, которые пригодятся везде и всегда. Их стоит отточить

Лиза
На все четыре стороны На все четыре стороны

Куда отправиться в путешествие за настоящей зимней сказкой?

Добрые советы
Ученые научились узнавать, какой из ваших органов откажет первым Ученые научились узнавать, какой из ваших органов откажет первым

Что бы вы предпочли: знать, когда вы умрете, или как?

ТехИнсайдер
Спонтанные поездки на зимние каникулы Спонтанные поездки на зимние каникулы

Если планировать ничего не хочется, всегда можно внезапно сорваться в поездку

Лиза
10 великих фильмов, которые освистали в Каннах 10 великих фильмов, которые освистали в Каннах

Критики холодно приняли работы Дэвида Линча, Квентина Тарантино, Софии Копполы

Правила жизни
Это что такое? Это что такое?

5 причин, почему мужчины дарят не те подарки

Лиза
... а вместо сердца пламенный... ротор! ... а вместо сердца пламенный... ротор!

Почему роторным двигателям не удалось завоевать мир?

Зеркало Мира
Чем богаты, тем и рады Чем богаты, тем и рады

Что мы хотим получить на самом деле, когда раскошеливаемся на люкс

VOICE
Будущее сейчас Будущее сейчас

Андрей Лихачёв рассказал о том, что делает СберСити уникальным для России и мира

Robb Report
Работа над отношениями Работа над отношениями

Как остановить офисные конфликты и сохранить свой степлер неприкосновенным

VOICE
Открыть в приложении