О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Как развивать российское производство в эпоху потрясений? Как развивать российское производство в эпоху потрясений?

«Армед»: от перепродажи из Китая до собственного производства медтехники в РФ

Монокль
10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе 10 фильмов о фигурном катании: от драмы Крыжовникова до сериала про копию Тутберидзе

Фильмы о фигурном катании с неожиданными сюжетами

Forbes
Рожденные революцией Рожденные революцией

Как технологическая революция полностью изменит привычные нам гаджеты

Правила жизни
Еще раз о числе π и о неразрешимой проблеме «квадратуры круга» Еще раз о числе π и о неразрешимой проблеме «квадратуры круга»

Два феномена – число π и египетские пирамиды – связаны невидимыми нитями

Зеркало Мира
На своем языке На своем языке

Как говорить, чтобы тебя услышали: техника осознанной речи

Лиза
Кто хочет стать триллионером Кто хочет стать триллионером

Почему 100 лет назад рухнула германская марка

Деньги
Зоологи впервые обнаружили беременную большеротую акулу Зоологи впервые обнаружили беременную большеротую акулу

В руки зоологов впервые попала беременная самка пелагической большеротой акулы

N+1
Неизгладимое впечатление Неизгладимое впечатление

Чешский бренд светильников Lasvit переосмысливает ботанические принты

Robb Report
Фиби Уоллер-Бридж: Смех и слезы аристократки Фиби Уоллер-Бридж: Смех и слезы аристократки

Пока Фиби шла к успеху, слез было пролито немало…

Караван историй
От жертвоприношений до подарков: как появились традиции празднования Нового года От жертвоприношений до подарков: как появились традиции празднования Нового года

Как складывались праздничные традиции и почему Новый год такой популярный

Forbes
Уходят в лед Уходят в лед

Российская полярная наука переживает настоящий ренессанс

Men Today
У мышей может быть способность к самопознанию У мышей может быть способность к самопознанию

Мыши смогли пройти зеркальный тест

ТехИнсайдер
Сахар, ты где? Сахар, ты где?

Как производители маскируют сахар в своих продуктах

Лиза
Переживая Фассбиндера Переживая Фассбиндера

Как Ханна Шигулла победила прошлое, не прощаясь с ним

Weekend
Опередивший время Опередивший время

Посадка «Бурана» — наивысший триумф советского космического проекта

Монокль
7 неочевидных признаков того, что вас не уважают 7 неочевидных признаков того, что вас не уважают

Признаки того, что ваши слова не имеют никакого веса для других людей

Maxim
Коллекционер Михаил Царев: Мы сохранили целое поколение искусства Коллекционер Михаил Царев: Мы сохранили целое поколение искусства

Почему коллекционер Михаил Царев беспокоится за современную российскую арт-сцену

СНОБ
Можно ли купить рождения и как вернуть многодетность Можно ли купить рождения и как вернуть многодетность

Способны ли ограничение или запрет абортов повысить рождаемость

Монокль
А мне летать охота: как стать бортпроводником А мне летать охота: как стать бортпроводником

Плюсы и минусы работы бортпроводником

ТехИнсайдер
«Математическое невежество снижает качество жизни россиян» «Математическое невежество снижает качество жизни россиян»

Какая наука сегодня в моде и почему в России так плохо знают математику

Наука
Светлана Землякова: «Иногда мне важнее, чтобы люди узнали об этом тексте» Светлана Землякова: «Иногда мне важнее, чтобы люди узнали об этом тексте»

Светлана Землякова — о том, как она создает свои спектакли

Монокль
«Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году «Уходи, Тейлор Свифт»: что нас бесило в музыке в 2023 году

Музыка, которую с удовольствием можно оставить бы в 2023 году

Правила жизни
Инструкция для скромниц Инструкция для скромниц

О том, как без стеснения обсуждать интимные фантазии с партнером

Лиза
Что может Дед Мороз Что может Дед Мороз

Психолог Мария Зеленова о магическом мышлении и его роли в воспитании.

Новый очаг
Маски шоу Маски шоу

XX век прошел под знаком карикатуры – она была мощным идеологическим оружием

Правила жизни
Шимпанзе долины Исса кастрировали и убили детеныша-чужака Шимпанзе долины Исса кастрировали и убили детеныша-чужака

Почему шимпанзе саванн убивают друг друга?

N+1
«Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи «Не вычеркивай меня из списка»: как Дина Рубина рассказывает о женщинах ее семьи

Глава из сборника семейных историй Дины Рубиной «Не вычеркивай меня из списка»

Forbes
72 года Александру Сокурову: 5 фильмов, без которых этого режиссера невозможно представить, еще труднее — понять 72 года Александру Сокурову: 5 фильмов, без которых этого режиссера невозможно представить, еще труднее — понять

О пяти картинах из фильмографии Сокурова, которые уж точно необходимо увидеть

Правила жизни
Антидворянец: «Вилла Родэ» Антидворянец: «Вилла Родэ»

Предлагаем вниманию читателя самые свежие слухи и сплетни столетней давности

Правила жизни
Военно-политическая обстановка в Пакистане Военно-политическая обстановка в Пакистане

Что поставило под угрозу достижения Пакистана в борьбе с терроризмом

Обозрение армии и флота
Открыть в приложении