Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как защитить личные границы: 7 советов от практических психологов Как защитить личные границы: 7 советов от практических психологов

Как защитить свое персональное пространство? Рекомендации наших экспертов

Psychologies
А мне летать охота: как стать бортпроводником А мне летать охота: как стать бортпроводником

Плюсы и минусы работы бортпроводником

ТехИнсайдер
Изучаем состав Изучаем состав

5 ингредиентов в составе зубной пасты, которые на самом деле опасны

Лиза
Удивительные шишки Удивительные шишки

У каких деревьев бывают шишки? И какие они?

Наука и жизнь
Тейлор Свифт, Kiss и фрезеровщики: кто выгоняет футбольные клубы с их стадионов Тейлор Свифт, Kiss и фрезеровщики: кто выгоняет футбольные клубы с их стадионов

Как выступления звезд и другие виды спорта рушат планы футбольных команд

Forbes
Ателье как хобби и не только Ателье как хобби и не только

К чему привел выход китайских фабрик в индустрию индивидуального пошива

Монокль
Спорно, но задорно Спорно, но задорно

Гарик Харламов вспомнил и проанализировал историю конфликтов в своей жизни

Men Today
Откат для Троцкого Откат для Троцкого

Это сегодня о Косенко пишут «выдающийся советский разведчик» и ставят его бюсты

Дилетант
«75% гостей — женщины»: ресторатор Ксения Механик о гастроиндустрии и стереотипах «75% гостей — женщины»: ресторатор Ксения Механик о гастроиндустрии и стереотипах

Ресторатор Ксения Механик — почему гендерные предрассудки мешают всем

Forbes
Метаморфозы Иракли Метаморфозы Иракли

Ираклий Пирцхалава редкий гость в Москве, но интервью получилось интересным!

OK!
Миссис Харрис едет в Нью-Йорк Миссис Харрис едет в Нью-Йорк

«Миссис Харрис едет в Нью-Йорк»: винтажная комедия, греющая душу

Правила жизни
«Смерть — всего лишь иллюзия»: объяснение с точки зрения физики «Смерть — всего лишь иллюзия»: объяснение с точки зрения физики

Различие между прошлым, настоящим и будущим — лишь упрямая непреходящая иллюзия

Psychologies
От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы От «розовых очков» до стабильности: ученые определили этапы в карьере, через которые проходят все профессионалы

Через какие эмоциональные этапы проходят все высококлассные профессионалы

ТехИнсайдер
Александр Попов. Русский волшебник беспроводной связи Александр Попов. Русский волшебник беспроводной связи

Как русский ученый-физик Александр Степанович Попов изобрел радио

Зеркало Мира
История потерянной надежды История потерянной надежды

«Время "Спартака"»: документальный сериал о футболе и стране

Weekend
Можно ли купить рождения и как вернуть многодетность Можно ли купить рождения и как вернуть многодетность

Способны ли ограничение или запрет абортов повысить рождаемость

Монокль
Зооразвод. Как не попасть в ловушку из-за любви к животным? Зооразвод. Как не попасть в ловушку из-за любви к животным?

4 уловки зоомошенников, которые угрожают не только кошельку владельца

Лиза
От поцелуев в полночь до блюд из черноглазого гороха: история новогодних суеверий От поцелуев в полночь до блюд из черноглазого гороха: история новогодних суеверий

Как в разных культурах формировались новогодние обычаи

Forbes
«Одним меньше стало» «Одним меньше стало»

Какую палитру мнений вызвала кончина главы советского правительства?

Дилетант
Счастливые отношения после токсичных: как их обрести — 4 совета Счастливые отношения после токсичных: как их обрести — 4 совета

Как же все-таки полюбить вновь? Рассказывает психолог

Psychologies
Условно-досрочная пенсия Условно-досрочная пенсия

Как сформировать долгосрочные сбережения и разморозить пенсионные в 2024 году

Деньги
Как распознать токсичные отношения: 8 явных признаков Как распознать токсичные отношения: 8 явных признаков

Признаки, которые выдают токсичного партнера

Psychologies
От охотничьих пиджаков до добротного винтажа: краткая история твида От охотничьих пиджаков до добротного винтажа: краткая история твида

Самая благородная ткань — это вовсе не бархат, а традиционный британский твид

Правила жизни
Негативные мысли о себе: техника разворота на 180 градусов Негативные мысли о себе: техника разворота на 180 градусов

Как быстро и эффективно оспорить собственные представления о себе?

Psychologies
Идти навстречу светилу! Идти навстречу светилу!

История института солнечно-земной физики уходит корнями в докосмическую эру

Наука и жизнь
10 наиболее частых вопросов о внедорожниках 10 наиболее частых вопросов о внедорожниках

Чем внедорожник отличается от кроссовера?

4x4 Club
Собаки из погребений эпохи викингов оказались похожи на борзых Собаки из погребений эпохи викингов оказались похожи на борзых

Палеозоолог изучил останки животных, найденные в Швеции

N+1
Остаться с носом. Как выбрать капли в нос: инструкция от ЛОРа Остаться с носом. Как выбрать капли в нос: инструкция от ЛОРа

Когда нос заложен и нарушено дыхание, это влияет на качество жизнинос

Лиза
Стесняюсь спросить: главные мифы о лечении зубов Стесняюсь спросить: главные мифы о лечении зубов

Вместе с экспертом разбираем самые популярные мифы об уходе за зубами

Правила жизни
Происхождение совершенства Происхождение совершенства

Когда и почему растения свернулись в идеальную спираль

N+1
Открыть в приложении