Государствам нужно ускориться в регулировании искусственного интеллекта

МонокльРепортаж

В битвах вокруг ИИ победят корпорации

Государствам нужно ускориться в регулировании искусственного интеллекта и признать, что ситуация критическая

Наталья Быкова

Стоян Васев

Что создают в OpenAI и стоит ли этого бояться? Об этом — в интервью с экспертом по междисциплинарным исследованиям и стратегической аналитике, бывшим топ-менеджером IBM, SGI и Cray Research Сергеем Кареловым.

— Самая обсуждаемая тема в свете событий с OpenAI, — обнаружение специалистами компании у своей модели новой когнитивной способности самостоятельно находить информацию, которой нет в ее базе данных. Поясните, пожалуйста, что это может быть за модель и как у нее получилось выйти за пределы знаний, сформированных на стадии ее обучения?

— Да, основная причина, из-за которой начался весь этот бардак, заключается в том, что был совершен прорыв в исследованиях в сторону сильного искусственного интеллекта. А поскольку условия соглашения Microsoft и OpenAI были таковы, что в случае приближения к подобным результатам все предыдущие соглашения должны пересматриваться, то фактически OpenAI получала право забрать у Microsoft последние рычаги управления. Чтобы избежать этого, была разыграна многосерийная интрига с увольнением, а потом возвращением Сэма Альтмана. В результате чего совет директоров был кардинально обновлен в пользу интересов Microsoft.

Что же касается прорыва, то здесь мы можем только строить предположения. Есть информация, что в главном сегодняшнем проекте компании под кодовым названием Q* (читается Q-Star) велись исследования по трем направлениям.

Первое — это как раз про способность модели не просто искать информацию во внешней базе данных, в том же интернете или корпоративных базах, но и целенаправленно формулировать вопросы. Это означает, что она не привязана на сто процентов к базам, на которых строилось ее обучение, — а это очень неординарный результат. Дело в том, что все модели создаются схожим образом: учатся по нескольку месяцев на огромных объемах информации, выстраивая свои матрицы весов, свои внутренние представления об этой информации. Далее с ними начинают работать аналитики, задают им вопросы, просят высказаться по определенной теме, а модели в ответ обращаются вот к этой сформированной на этапе обучения матрице и на этой основе формулируют ответ. То есть теоретически модель не может выйти за пределы того, чему научилась на этапе обучения.

Новым лингвоботам Claude-2 и Bing дали возможность прямого обращения в сеть, это, конечно, сильно расширило возможности подобных систем, но эти обращения совершались исключительно на базе тех запросов, которые писали лингвоботам люди. Например, если их спрашивали, какие были группировки североамериканских индейцев за год до начала Гражданской войны в США, то боты искали в сети информацию о группировках индейцев и Гражданской войне в США, не понимая сути вопроса.

А вот тот прорыв, о котором мы говорим, связан с принципиально новой способностью модели. Она начала искать ответы в сети на собственные содержательные вопросы, чтобы лучше разобраться в теме: к примеру, что лежало в основе разделения индейцев на группировки — идеология, борьба за территорию и так далее.

Второе направление, которое получило сильный прогресс, — это системы, подобные AlphaZero, обыгрывающей чемпионов в шахматы. Они работают по другим принципам, осуществляют поиск по деревьям Монте-Карло (эвристический алгоритм поиска для некоторых видов процессов принятия решений, в первую очередь тех, которые используются в программном обеспечении, играющем в настольные игры. — «Монокль»). Интеграция поиска траектории токена по дереву Монте-Карло (как в AlphaZero) с традиционными для больших языковых моделей матрицами весов может быть особенно эффективна в таких областях, как программирование и математика, где есть простой способ определить правильность. И это может объяснять утечки о прорывном улучшении в проекте Q* способностей решения математических задач.

Третье направление — это комбинация Q-обучения и алгоритма A*.

Алгоритм A* — это способ нахождения кратчайшего пути от одной точки до другой на карте или в сети. Представьте, что вы ищете самый быстрый маршрут из одного города в другой. Алгоритм A* проверяет разные пути, оценивая, насколько они близки к цели и сколько еще предстоит пройти. Он выбирает путь, который, по его оценке, будет самым коротким. Этот алгоритм очень эффективен и используется во многих областях, например в компьютерных играх для нахождения пути персонажей или в GPS-навигаторах.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Какие мужчины не дарят подарки: 6 психотипов Какие мужчины не дарят подарки: 6 психотипов

То, как мужчина относится к деньгам и подаркам, зависит от его психотипа

Psychologies
История одной вещи: шапка-фернанделька, ставшая атрибутом пацанов 1980-х История одной вещи: шапка-фернанделька, ставшая атрибутом пацанов 1980-х

У такой вязаной шапки с узорами было несколько вариаций и еще больше имен

Правила жизни
Милош Бикович: «Если ты сам себя не удивляешь, ты уже ни кого не удивишь» Милош Бикович: «Если ты сам себя не удивляешь, ты уже ни кого не удивишь»

Актер Милош Бикович — о ностальгии и «ярмарке тщеславия»

VOICE
Линия энергии Линия энергии

Минималистичный интерьер квартиры для молодой семьи с двумя детьми

SALON-Interior
Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли Фантастические твари морских глубин. Зачем рыбы-удильщики плавают так, как будто уже умерли

Что мешает глубоководным удильщикам передвигаться обычным способом

СНОБ
ЦБ предупреждает ЦБ предупреждает

Частные инвесторы становятся активнее, но чаще пытаются манипулировать рынком

Монокль
Смелый акцент Смелый акцент

Минималистичный интерьер, сочетающий современный дизайн и авторские решения

SALON-Interior
Духи, шаманы и амулеты: любопытные факты о мифологии северных народов России Духи, шаманы и амулеты: любопытные факты о мифологии северных народов России

Боги-демиурги, злые духи, почитаемые животные: мифология Севера России

ТехИнсайдер
Передел Европы. Часть II. Хирургия без наркоза Передел Европы. Часть II. Хирургия без наркоза

Тирольская трагедия и ошибка Вудро Вильсона

Знание – сила
Искусство оживлять: история палеоарта. Часть 2 Искусство оживлять: история палеоарта. Часть 2

Период палеоарта динозавров ознаменовался чередой ярких художников и открытий

Наука и техника
Цирк со слонами и коммунистами Цирк со слонами и коммунистами

«Великая магия»: Нанни Моретти переписывает историю

Weekend
Регина Тодоренко: «Не нужно бояться менять свою жизнь к лучшему!» Регина Тодоренко: «Не нужно бояться менять свою жизнь к лучшему!»

Регина Тодоренко считает, что каждый – творец собственной жизни

Добрые советы
Как есть больше белка: простые советы, которые помогут сделать питание полноценным, а тело - подтянутым Как есть больше белка: простые советы, которые помогут сделать питание полноценным, а тело - подтянутым

Как повысить потребление белка без резких перемен в меню

VOICE
Сколько волков человеку надо Сколько волков человеку надо

Волк — прекрасный приспособленец и космополит

Наука
Счастливая история! Японец не разговаривал с женой 20 лет, но они продолжали жить вместе Счастливая история! Японец не разговаривал с женой 20 лет, но они продолжали жить вместе

Почему этот японец не разговаривал со своей женой два десятка лет?

ТехИнсайдер
Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории Ночь в музее, «комната Афродиты» и «зона похоти»: самые роскошные новогодние корпоративы в истории

Самые необычные новогодние вечеринки — как зарубежные, так и российские

Правила жизни
Почему сбываются прогнозы астрологов и расклады таро: как работает эффект Розенталя Почему сбываются прогнозы астрологов и расклады таро: как работает эффект Розенталя

Хочешь знать, как работает таро и почему сбываются прогнозы астрологов?

VOICE
Жизнь как путь: дороги Николая Гарина-Михайловского Жизнь как путь: дороги Николая Гарина-Михайловского

Николай Гарин-Михайловский: романтик, влюбленный в железные дороги

Знание – сила
Саранча как двигатель прогресса… Саранча как двигатель прогресса…

Как работает искусственный интеллект на основе «роевого интеллекта» насекомых?

Знание – сила
Как подобрать правильно вклад и не ошибиться? Как подобрать правильно вклад и не ошибиться?

С повышением ключевой ставки Банком России ставки по вкладам поползли вверх

Наука и техника
Слегка несдержанный Слегка несдержанный

Квартира со сдержанным, но при этом эмоциональным интерьером

Идеи Вашего Дома
Почему дети не любят писать и как это исправить? Отвечает учитель Почему дети не любят писать и как это исправить? Отвечает учитель

Как научить ребенка писать сочинение

СНОБ
Серьезная инфекция Серьезная инфекция

Как не допустить заражение ВИЧ: 3 главные меры профилактики

Лиза
Фильм «Убийцы цветочной луны» с ДиКаприо и Де Ниро — кульминация творчества Мартина Скорсезе Фильм «Убийцы цветочной луны» с ДиКаприо и Де Ниро — кульминация творчества Мартина Скорсезе

«Убийцы цветочной луны» — синтез всего лучшего из карьеры Скорсезе

Правила жизни
«Городок» «Городок»

Юмористическое шоу «Городок», выходило с 1993 по 2012 г.

Правила жизни
Кодекс постороннего Кодекс постороннего

Как Альбер Камю обнаружил, что жизнь не имеет смысла — и нашел, зачем стоит жить

Weekend
Очень нужный сервис: зачем в СССР звонили по номеру 06 Очень нужный сервис: зачем в СССР звонили по номеру 06

Для чего существовал номер 06 в СССР? Давайте вспоминать!

ТехИнсайдер
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
Тайна перевернутой птицы Тайна перевернутой птицы

Народы Междуречья обладали своей уникальной и неповторимой письменностью

Зеркало Мира
Дрожжи-снежинки. Искусственно созданные многоклеточные организмы Дрожжи-снежинки. Искусственно созданные многоклеточные организмы

Один из важнейших этапов развития жизни – появление многоклеточных организмов

Наука и техника
Открыть в приложении