Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кто сделает новый ГОЭЛРО? Кто сделает новый ГОЭЛРО?

Какие болевые точки отрасли энергетики видны специалистам?

Монокль
Чему учат в школе: как в России изменилась сфера образования Чему учат в школе: как в России изменилась сфера образования

Как учебные учреждения развиваются по всей стране и к чему это все приведет

Правила жизни
Дорого внимание Дорого внимание

Ольга Карпуть разбирается, действительно ли юмор продает

Правила жизни
Дети у экрана Дети у экрана

Как экранное время влияет на развитие и здоровье детей?

Здоровье
«Искусственный интеллект задает основнои вектор нашеи стратегии» «Искусственный интеллект задает основнои вектор нашеи стратегии»

Андрей Белевцев о том, каким он видит будущее AI и о нейроинтерфейсах

Деньги
Тейлор Свифт стала человеком года по версии Time: почему одни люди ее боготворят, а другие — на дух не переносят Тейлор Свифт стала человеком года по версии Time: почему одни люди ее боготворят, а другие — на дух не переносят

Тейлор Свифт: за что её любят и за что ненавидят?

Psychologies
Цена личного выбора: фрагмент из книги «Толпа» Эмили Эдвардс Цена личного выбора: фрагмент из книги «Толпа» Эмили Эдвардс

Отрывок из романа о цене личного выбора «Толпа»

СНОБ
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
Мозг новорожденных людей развит не хуже, чем у других приматов Мозг новорожденных людей развит не хуже, чем у других приматов

Мозг новорожденных людей развит не хуже, чем мозг других приматов

ТехИнсайдер
Аркадий Райкин Аркадий Райкин

Аркадий Райкин, артист эстрады, сатирик, скончался 17 декабря 1987 года

Правила жизни
Свободна как птица Свободна как птица

Как отпустить бывшего и перестать на него злиться: советы психолога

Лиза
Спутник Echostar–24 Спутник Echostar–24

Был осуществлен пуск ракеты-носителя Falcon Heavy со спутником EchoStar–24

Наука и техника
“Он улетел, но обещал вернуться”. Как долго кошка помнит своего хозяина? “Он улетел, но обещал вернуться”. Как долго кошка помнит своего хозяина?

Привязываются ли коты к людям?

ТехИнсайдер
На вершине Эйфелевой башни есть секретная квартира: что она скрывает и сдается ли в аренду На вершине Эйфелевой башни есть секретная квартира: что она скрывает и сдается ли в аренду

Кому были нужны апартаменты на вершине Эйфелевой башни?

ТехИнсайдер
Цезарь и Антоний Цезарь и Антоний

Великий полководец и политик Гай Юлий Цезарь погрузил Рим в гражданскую войну

Дилетант
Как праздновали Новый год в царской России и в Советском Союзе? Как праздновали Новый год в царской России и в Советском Союзе?

История праздника, который мы любим больше всего

Караван историй
Упразднение города Н. Упразднение города Н.

Красный командир Яков Тряпицын воплотил фантасмагорию великого сатирика в жизнь

Дилетант
Роковая пощечина Берии: почему советская актриса Евгения Гаркуша ушла из жизни в 33 года Роковая пощечина Берии: почему советская актриса Евгения Гаркуша ушла из жизни в 33 года

Смерть актрисы Евгении Гаркуши загадочна

VOICE
«Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году «Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году

Музыка, которую с удовольствием можно оставить бы в 2023 году

Правила жизни
Выбирайте свой путь: 4 шага, чтобы поменять работу и найти цель жизни Выбирайте свой путь: 4 шага, чтобы поменять работу и найти цель жизни

Хотите освоить новую специальность, но не знаете, как действовать?

Psychologies
Дофаминовый декор: какие изменения нужно внести в интерьер, чтобы стать счастливее Дофаминовый декор: какие изменения нужно внести в интерьер, чтобы стать счастливее

Хочешь знать, каким должен быть интерьер для счастья?

VOICE
«Городок» «Городок»

Юмористическое шоу «Городок», выходило с 1993 по 2012 г.

Правила жизни
Что искали крестоносцы Что искали крестоносцы

Один из сложнейших символов христианской культуры — Святой Грааль

Зеркало Мира
Тайна перевернутой птицы Тайна перевернутой птицы

Народы Междуречья обладали своей уникальной и неповторимой письменностью

Зеркало Мира
Чайная дорога России Чайная дорога России

Где проходил когда-то Великий чайный путь и шли караваны лошадей и верблюдов

Знание – сила
7 отличных современных детективов, которые нужно прочитать 7 отличных современных детективов, которые нужно прочитать

Сегодня мы обращаемся к детективам не за новым, а за уютным старым

Правила жизни
Уходят в лед Уходят в лед

Российская полярная наука переживает настоящий ренессанс

Men Today
На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами На ошибках учатся: что случилось с первым в мире реактивным самолетом «Комета» с квадратными окнами

Почему иллюминаторы самолетов имеют округлую форму

ТехИнсайдер
Повзрослел или разлюбил: почему муж вас больше не ревнует Повзрослел или разлюбил: почему муж вас больше не ревнует

Стоит ли беспокоиться, если ревности в отношениях нет вообще?

Psychologies
Наука о моржевании: действительно ли купание в ледяной воде укрепляет иммунитет Наука о моржевании: действительно ли купание в ледяной воде укрепляет иммунитет

К моржеванию и даже окунанию в прорубь необходимо готовиться сильно заранее

ТехИнсайдер
Открыть в приложении