О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Юродивый из Лефортова Юродивый из Лефортова

Почему смерть рэпера обсуждала вся страна и что не так с молодежной политикой?

Монокль
Ревизия аптечки. 4 типа лекарств, которые плохо влияют на зубы Ревизия аптечки. 4 типа лекарств, которые плохо влияют на зубы

Насколько безобидны всем привычные препараты, которые мы часто используем?

Лиза
Композиты в судостроении Композиты в судостроении

Что же такое композиционные материалы (композиты)?

Наука и техника
«Бытовой расизм в России существует, и это огромная проблема» «Бытовой расизм в России существует, и это огромная проблема»

Элла Манжеева о своем фильме «Белой дороги!» и калмыцком кинематографе

Weekend
Петрикирхе: почему молчат колокола Петрикирхе: почему молчат колокола

Петрикирхе напоминает айсберг, немалая часть которого скрыта в катакомбах

Дилетант
Полное собрание в одном доме Полное собрание в одном доме

Как Андрей Тарковский выяснял отношения с домом — и выяснил

Weekend
Вся правда о мандаринах: какие самые сладкие и без косточек. И самое главное: сколько килограммов в день можно съесть? Вся правда о мандаринах: какие самые сладкие и без косточек. И самое главное: сколько килограммов в день можно съесть?

Как выбрать вкусные мандарины и сколько их можно съесть

ТехИнсайдер
О корт, ты — мир О корт, ты — мир

Андрей Рублев добавил теннису эмоций

Men Today
Раскрыть себя на почве быта Раскрыть себя на почве быта

Что нравится делать по дому лично тебе?

Лиза
Завал на работе Завал на работе

Как все успевать и грамотно снизить нагрузку на работе

Лиза
Работа над отношениями Работа над отношениями

Как остановить офисные конфликты и сохранить свой степлер неприкосновенным

VOICE
Как праздновали Новый год в царской России и в Советском Союзе? Как праздновали Новый год в царской России и в Советском Союзе?

История праздника, который мы любим больше всего

Караван историй
Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов

Чем являлись события 1943 года с точки зрения канонов Русской церкви?

Наука
5 шагов в будущее 5 шагов в будущее

Эти открытия изменят медицину и продлят жизнь

Men Today
Фермерский продукт в законе Фермерский продукт в законе

Минсельхоз поддержал законодательное закрепление понятия фермерского продукта

Агроинвестор
Яркая история Яркая история

Интерьер с элементами ретро, который подарил предметам из 1960-х вторую жизнь

Идеи Вашего Дома
Подзарядка батареек Подзарядка батареек

Чтобы повысить энергетический потенциал, прислушайся к нашим советам

Лиза
Игорь Миркурбанов: «Любое пение должно быть актерским» Игорь Миркурбанов: «Любое пение должно быть актерским»

Игорь Миркурбанов о своем новом спектакле-концерте и песнях Сергея Наговицына

Монокль
Требуется производство! Требуется производство!

Интеллектуальные цифровые платформы могут повысить эффективность промышленности

Монокль
С какого возраста можно пить кофе детям и подросткам: нормы кофеина С какого возраста можно пить кофе детям и подросткам: нормы кофеина

Можно ли детям кофе и, если да, то с какого возраста

РБК
Почему сбываются прогнозы астрологов и расклады таро: как работает эффект Розенталя Почему сбываются прогнозы астрологов и расклады таро: как работает эффект Розенталя

Хочешь знать, как работает таро и почему сбываются прогнозы астрологов?

VOICE
Проверка для интеллигентов! В чем разница между мемуарами и автобиографией? Проверка для интеллигентов! В чем разница между мемуарами и автобиографией?

Что такое мемуары и чем они отличаются от автобиографии?

ТехИнсайдер
Екатерина Борисова: «BIM — это больше чем проектирование» Екатерина Борисова: «BIM — это больше чем проектирование»

Как BIM-проектирование помогает избежать ошибок в документации и сократить сроки

РБК
«Один на один с малышом»: как общественное осуждение разлучало соло-матерей с детьми «Один на один с малышом»: как общественное осуждение разлучало соло-матерей с детьми

Отрывок из «Книги украденных детей» Джуди Кристи и Лизы Уингейт

Forbes
«Декабрист» и другие шлумбергеры «Декабрист» и другие шлумбергеры

Первый по распространённости в мире кактус

Наука и жизнь
Отчаянный газовый покер Отчаянный газовый покер

На рынке СПГ есть только два игрока, которые имеют достаточные амбиции

Монокль
«Курс на Cевер»: особые условия для приезжающих в Мурманскую область специалистов «Курс на Cевер»: особые условия для приезжающих в Мурманскую область специалистов

Как Мурманская область справляется с дефицитом кадров

ФедералПресс
9 лучших кукольных советских мультфильмов 9 лучших кукольных советских мультфильмов

Кукольные мультфильмы из СССР, которые вы посмотрите с удовольствием

Maxim
Самцы древнейших комаров оказались кровососами Самцы древнейших комаров оказались кровососами

Самцы древнейших комаров питались кровью, как и самки

N+1
Аркадий Райкин Аркадий Райкин

Аркадий Райкин, артист эстрады, сатирик, скончался 17 декабря 1987 года

Правила жизни
Открыть в приложении