Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Несогласие со смертью: почему у умирающих вся жизнь проносится перед глазами? Несогласие со смертью: почему у умирающих вся жизнь проносится перед глазами?

Что происходит с мозгом сразу после последнего удара сердца

Вокруг света
Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории

Самые необычные новогодние вечеринки — как зарубежные, так и российские

Правила жизни
«Лучше всего за людей говорит то, что они делают» «Лучше всего за людей говорит то, что они делают»

Тихон Жизневский славы не ищет, а к своей популярности относится с иронией

OK!
Пореволюционная судьба чеховских типажей в повести «Степь» Пореволюционная судьба чеховских типажей в повести «Степь»

Срез русской жизни и движение судеб в повести-путешествии «Степь» А. П. Чехова

Знание – сила
Федерико Арнальди: «Я не могу без любви» Федерико Арнальди: «Я не могу без любви»

Федерико Арнальди – о вкусной еде, русских девушках и любви

Добрые советы
Можно ли купить рождения и как вернуть многодетность Можно ли купить рождения и как вернуть многодетность

Способны ли ограничение или запрет абортов повысить рождаемость

Монокль
«Работай сам, а тратить будем вместе»: что требует общество от современных мужчин «Работай сам, а тратить будем вместе»: что требует общество от современных мужчин

Почему современным мужчинам необходима семейная психотерапия

Psychologies
Учимся падать Учимся падать

Иногда удовольствие зимнего отдыха сопровождается рисками. Давай ими управлять

Лиза
Все только по делу Все только по делу

Какой Chery выбрать для бизнеса

Автопилот
Лидеры и мнения Лидеры и мнения

Как за 25 лет изменились телевидение и люди, которые его создают?

Правила жизни
Исключение из правил: какая женщина на Руси сама могла выбрать мужа Исключение из правил: какая женщина на Руси сама могла выбрать мужа

Могла ли женщина на Руси выбрать себе мужа, или это не более чем миф?

VOICE
Супрематизм сквозь время Супрематизм сквозь время

В1919 году антрополог Альфред Крёбер вывел закон цикличности моды

Дилетант
Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента» Евгений Колбин: «Мы построили бизнес-процессы вокруг клиента»

Евгений Колбин рассказал о том, как развиваются облака в России

РБК
Крабле-бумс Крабле-бумс

Вся правда о крабовых палочках

Лиза
После мрака драка После мрака драка

«Крецул»: драма ослепшего дзюдоиста

Weekend
Геннадий Хазанов Геннадий Хазанов

Геннадий Хазанов, артист эстрады, театра и кино, телеведущий, Москва, 77 лет

Правила жизни
Сахар, ты где? Сахар, ты где?

Как производители маскируют сахар в своих продуктах

Лиза
Головная боль Головная боль

Какой бывает головная боль и как с ней справиться?

Здоровье
Изменить себя Изменить себя

Почти на 50% здоровье зависит от образа жизни. Что мы пьем и едим, чем дышим

Лиза
Салат «Оливье» Салат «Оливье»

Как появился культовый салат «Оливье»

Знание – сила
10 великих фильмов, которые освистали в Каннах 10 великих фильмов, которые освистали в Каннах

Критики холодно приняли работы Дэвида Линча, Квентина Тарантино, Софии Копполы

Правила жизни
Александр Зацепин: «Мне очень повезло с Гайдаем» Александр Зацепин: «Мне очень повезло с Гайдаем»

Его часто называют гением киномузыки, а коллеги дали прозвище Железный Шурик

Коллекция. Караван историй
Вениамин Семёнов-Тян-Шанский и причуды топонимики Вениамин Семёнов-Тян-Шанский и причуды топонимики

О жизни и вкладе выдающегося географа В. П. Семенова-Тян-Шанского

Знание – сила
Что может Дед Мороз Что может Дед Мороз

Психолог Мария Зеленова о магическом мышлении и его роли в воспитании.

Новый очаг
Сильно бездействующие лекарства Сильно бездействующие лекарства

Отказ частных аптек от работы с сильнодействующими препаратами создает проблемы

Монокль
Славянский клад! В Германии нашли сокровищницу с мечами и монетами бронзового века Славянский клад! В Германии нашли сокровищницу с мечами и монетами бронзового века

В Мекленбург-Передняя Померания археологи сделали ряд потрясающих находок

ТехИнсайдер
Выйти из «зловещей долины» Выйти из «зловещей долины»

Что такое ИИ-тревожность и как с ней справляться

РБК
Как и зачем тренировать интимные мышцы Как и зачем тренировать интимные мышцы

Рассказываем, зачем нужен вумбилдинг и как правильно тренироваться

Добрые советы
«Стеклянный небосвод: Как женщины Гарвардской обсерватории измерили звезды» «Стеклянный небосвод: Как женщины Гарвардской обсерватории измерили звезды»

Как фотопластинка впервые помогла открыть новую звезду

N+1
«Математическое невежество снижает качество жизни россиян» «Математическое невежество снижает качество жизни россиян»

Какая наука сегодня в моде и почему в России так плохо знают математику

Наука
Открыть в приложении