О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В школы вернут лучшие традиции и будут отчислять за плохое поведение В школы вернут лучшие традиции и будут отчислять за плохое поведение

Интегральные оценки и оценки за поведение вновь появятся в образовании

Монокль
Как вещи влияют на вашу жизнь: 3 вопроса, чтобы сделать быт источником счастья Как вещи влияют на вашу жизнь: 3 вопроса, чтобы сделать быт источником счастья

Мы очень хотим жить по собственному сценарию. Но не у всех это получается

Psychologies
Нейросети глядят, а руки делают Нейросети глядят, а руки делают

Врачи призвали ИИ в диагностику

Санкт-Петербургский университет
Боевые измерения Боевые измерения

Строится орбитальная инфракрасная сеть для обнаружения гиперзвуковых целей

Наука
Код будущего Код будущего

Летающий комбайн, маршрутный электролёт и другие технологии будущего

ТехИнсайдер
Петлюра. Куст Петлюра. Куст

Александр Петлюра, Симона Куст и семейный панк-вайб

Собака.ru
От империй Луны к серым пришельцам: развитие представлений о внеземной жизни От империй Луны к серым пришельцам: развитие представлений о внеземной жизни

Ночью люди смотрели на звезды и старались придумать видимому какое-то объяснение

Наука и техника
Как удержать наступление по всему киберфронту Как удержать наступление по всему киберфронту

Обстановка увеличивает риски для российской информационной инфраструктуры

Монокль
Любви конец: как понять, что отношения подошли к логическому завершению Любви конец: как понять, что отношения подошли к логическому завершению

Как понять, что союз на грани разрыва? И можно ли избежать такого конца?

Psychologies
Как справиться с разрывом дружбы: 6 советов Как справиться с разрывом дружбы: 6 советов

Как отгоревать завершение дружеских отношений

Psychologies
Сделаю завтра: почему мы нарушаем дедлайны и как с этим покончить Сделаю завтра: почему мы нарушаем дедлайны и как с этим покончить

Почему многие люди — независимо от силы воли — откладывают дела, срывают сроки

РБК
Серьезная инфекция Серьезная инфекция

Как не допустить заражение ВИЧ: 3 главные меры профилактики

Лиза
Прикус как фактор здоровья и счастья Прикус как фактор здоровья и счастья

Неправильный прикус — серьезная проблема, пагубно влияющая на здоровье

Здоровье
Слово плохиша Слово плохиша

«Ловкий Плут»: спин-офф Диккенса

Weekend
Что сделал Си Цзиньпин для Китая: ликвидация нищеты и полеты на Марс Что сделал Си Цзиньпин для Китая: ликвидация нищеты и полеты на Марс

Каких преобразований господин Си добился за годы правления?

ФедералПресс
Доход, защищенный в грунте Доход, защищенный в грунте

Инвестиционная привлекательность тепличного овощеводства России в 2023 году

Агроинвестор
Полное собрание в одном доме Полное собрание в одном доме

Как Андрей Тарковский выяснял отношения с домом — и выяснил

Weekend
«Задача private banking — создать успешную финансовую историю для клиента и его семьи» «Задача private banking — создать успешную финансовую историю для клиента и его семьи»

Евгений Сафонов: как меняется образ жизни состоятельных клиентов банков

Деньги
Чему учат в школе: как в России изменилась сфера образования Чему учат в школе: как в России изменилась сфера образования

Как учебные учреждения развиваются по всей стране и к чему это все приведет

Правила жизни
Орбитальные группировки навигационных спутников Орбитальные группировки навигационных спутников

Какие существуют спутниковые навигационные системы и из чего они состоят

Зеркало Мира
В новый год с новым телом. 10 жиросжигающих тренировок, которые помогут быстро похудеть к празднику В новый год с новым телом. 10 жиросжигающих тренировок, которые помогут быстро похудеть к празднику

С помощью каких небанальных видов спорта можно скорректировать фигуру

Лиза
Портрет со многими неизвестными Портрет со многими неизвестными

Как ученые исследовали тайны и парадоксы «Моны Лизы»

Weekend
Будьте как дети Будьте как дети

Как проживать праздники по-настоящему и зачем каждому нужен маленький карнавал

Seasons of life
Дороги в России. Век восемнадцатый Дороги в России. Век восемнадцатый

Из чего и как сложилась сеть крупных сухопутных дорог в России

Знание – сила
Славянский клад! В Германии нашли сокровищницу с мечами и монетами бронзового века Славянский клад! В Германии нашли сокровищницу с мечами и монетами бронзового века

В Мекленбург-Передняя Померания археологи сделали ряд потрясающих находок

ТехИнсайдер
Окаменелости растений из Колумбии оказались панцирями черепашат Окаменелости растений из Колумбии оказались панцирями черепашат

Палеонтологи исправили ошибку непрофессионального коллеги спустя 20 лет

N+1
Разум толпы Разум толпы

Усредненный прогноз группы может быть более точным, чем суждения специалистов

ТехИнсайдер
Учимся падать Учимся падать

Иногда удовольствие зимнего отдыха сопровождается рисками. Давай ими управлять

Лиза
Блокчейн: прозрачное будущее человечества Блокчейн: прозрачное будущее человечества

Что принципиально нового принесет блокчейн в нашу жизнь?

Знание – сила
Орфей Советского Союза Орфей Советского Союза

Жан Маре глазами его самых восторженных зрителей

Weekend
Открыть в приложении