О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Эпидемия цифрового слабоумия: почему нынешние поколения глупее предыдущих Эпидемия цифрового слабоумия: почему нынешние поколения глупее предыдущих

Почему из-за развития цифровых технологий снижаются когнитивные функции человека

Монокль
Дельфины чувствуют электрические поля Дельфины чувствуют электрические поля

Дельфины используют «электрочувство» при охоте и навигации

ТехИнсайдер
IDеальное преступление IDеальное преступление

Четыре года назад «Популярная механика» опубликовала свой первый кибердетектив

ТехИнсайдер
«Чувства Анны»: мир без любви «Чувства Анны»: мир без любви

Анна Меликян рассказывает классическую историю Золушки в фильме «Чувства Анны»

Монокль
Эхо прошедшей войны Эхо прошедшей войны

Это после Великой Отечественной они стали народными актерами, но на фронте...

Коллекция. Караван историй
Япона-рама Япона-рама

Dongfeng водим, Nissan в уме

Автопилот
Интервью с балериной Мариинского театра Ренатой Шакировой о премьере спектакля «Анюта» Интервью с балериной Мариинского театра Ренатой Шакировой о премьере спектакля «Анюта»

Интервью с балериной Ренатой Шакировой о том, как проходили репетиции балета

СНОБ
Ловись, рыбка! Ловись, рыбка!

Выбирайте для своего стола лучшую рыбу

Добрые советы
Между выгодой и риском Между выгодой и риском

Как в России и мире пытаются регулировать ИИ

РБК
Вина из США – яркие, шумные, солидные Вина из США – яркие, шумные, солидные

Знакомимся с американским виноделием

Зеркало Мира
Портрет со многими неизвестными Портрет со многими неизвестными

Как ученые исследовали тайны и парадоксы «Моны Лизы»

Weekend
ВОЗмутительная политика ВОЗмутительная политика

Подходы к борьбе с табакокурением сегодня все больше напоминают охоту на ведьм

Наука
«Работай сам, а тратить будем вместе»: что требует общество от современных мужчин «Работай сам, а тратить будем вместе»: что требует общество от современных мужчин

Почему современным мужчинам необходима семейная психотерапия

Psychologies
Дорогие коллеги Дорогие коллеги

Как подобрать подарок для коллег или подчиненных и не прогадать

Лиза
Владимир Никифоров: «Нельзя ни на минуту забывать, что ботокс, хоть и разведённый в миллионы раз, всё-таки смертельно опасный яд» Владимир Никифоров: «Нельзя ни на минуту забывать, что ботокс, хоть и разведённый в миллионы раз, всё-таки смертельно опасный яд»

Как яд стал медицинским препаратом? Отвечает доктор медицинских наук

Здоровье
Лето в тропиках Лето в тропиках

Небольшая студия в морских оттенках, располагающая к отдыху

Идеи Вашего Дома
«Курс на Cевер»: особые условия для приезжающих в Мурманскую область специалистов «Курс на Cевер»: особые условия для приезжающих в Мурманскую область специалистов

Как Мурманская область справляется с дефицитом кадров

ФедералПресс
Неврозы, психозы и радость жизни: простой совет психиатра Неврозы, психозы и радость жизни: простой совет психиатра

Чем отличается невроз от психоза и возможно ли счастье с диагнозом?

Psychologies
В банде только девушки В банде только девушки

«Контрабандистки»: корейское криминальное ретро с женским характером

Weekend
Настоящий праздник в доме: что нужно сделать, чтобы живая елка простояла дольше Настоящий праздник в доме: что нужно сделать, чтобы живая елка простояла дольше

Как подготовить комнату, чтобы живая елка простояла дольше?

ТехИнсайдер
Будьте как дети Будьте как дети

Как проживать праздники по-настоящему и зачем каждому нужен маленький карнавал

Seasons of life
Блиц-интервью с Антоном Чижом Блиц-интервью с Антоном Чижом

Писатель детективов Антон Чиж рассказал нам о своих источниках вдохновения

Лиза
Традиции русской мысли о развитии и пространстве Традиции русской мысли о развитии и пространстве

Почему для российской урбанистики важно понимать, что есть живое

Монокль
9 вещей, которых мужчины боятся в женщинах 9 вещей, которых мужчины боятся в женщинах

Какие вещи в отношениях с женщинами пугают мужчин?

Psychologies
Счастливая история! Японец не разговаривал с женой 20 лет, но они продолжали жить вместе Счастливая история! Японец не разговаривал с женой 20 лет, но они продолжали жить вместе

Почему этот японец не разговаривал со своей женой два десятка лет?

ТехИнсайдер
Проверка для интеллигентов! В чем разница между мемуарами и автобиографией? Проверка для интеллигентов! В чем разница между мемуарами и автобиографией?

Что такое мемуары и чем они отличаются от автобиографии?

ТехИнсайдер
Квантовое превосходство Квантовое превосходство

«Квантовый компьютер – атомная бомба XX века»

ТехИнсайдер
Все только по делу Все только по делу

Какой Chery выбрать для бизнеса

Автопилот
Чай, сжигающий жир на животе: какой напиток выбрать и как его правильно пить Чай, сжигающий жир на животе: какой напиток выбрать и как его правильно пить

Есть продукты, ускоряющие избавление от висцерального жира

VOICE
Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов Переучреждение Московской патриархии в 1943 году и наследие Поместного собора 1917–1918 годов

Чем являлись события 1943 года с точки зрения канонов Русской церкви?

Наука
Открыть в приложении