О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

В облигациях начался «жор» В облигациях начался «жор»

Время для покупки бумаг с постоянным купоном пришло — впереди снижение ставок

Монокль
Чат-бот, смерть и роботы: что такое цифровое бессмертие и кто его обещает уже сейчас Чат-бот, смерть и роботы: что такое цифровое бессмертие и кто его обещает уже сейчас

Возможно ли цифровое бессмертие на самом деле?

Forbes
Космос уходит в интернет Космос уходит в интернет

На чем зарабатывают операторы спутниковых систем

Эксперт
Стальной путь Стальной путь

Мелькают окна вагонов, мелькают кадры фильмов

Знание – сила
Большая Пысса хулигана Большая Пысса хулигана

История взлета и падения самой скандальной программы нулевых

Правила жизни
Место силы Место силы

Однокомнатная квартира с вдохновляющим и наполняющим силами интерьером

Идеи Вашего Дома
Танец разведчицы Танец разведчицы

Карл фон Фриш — человек, открывший пчелиный язык танцев

Знание – сила
Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест Если в твоем доме странно пахнет, обязательно проверь эти 11 проблемных мест

Хочешь, чтобы твой дом всегда благоухал свежестью, но не можешь этого добиться?

VOICE
Рукокрылые резервуары Рукокрылые резервуары

Почему летучие мыши резко выделяются среди источников инфекционных болезней?

Знание – сила
Александр Попов. Русский волшебник беспроводной связи Александр Попов. Русский волшебник беспроводной связи

Как русский ученый-физик Александр Степанович Попов изобрел радио

Зеркало Мира
Вы вернулись на маршрут Вы вернулись на маршрут

Московский ресторатор Алексей Пинский прокатился на внедорожнике Tank 500

Robb Report
Привидения Дома Кранкенгагена Привидения Дома Кранкенгагена

Дом Кранкенгагена известен в Петербурге всем, чья страсть — привидения

СНОБ
Плоды ошибок трудных Плоды ошибок трудных

Государство усиливает регулирование в сфере абортов

Монокль
Павильонный зал Павильонный зал

Памяти Людмилы Николаевны Воронихиной, чьё имя — история и легенда Эрмитажа

Дилетант
Орбитальные группировки навигационных спутников Орбитальные группировки навигационных спутников

Какие существуют спутниковые навигационные системы и из чего они состоят

Зеркало Мира
Ренат Давлетьяров: «В режиссуре главное — знать, когда остановиться» Ренат Давлетьяров: «В режиссуре главное — знать, когда остановиться»

Режиссер и продюсер «Человека ниоткуда» — о том, как шла работа над фильмом

Монокль
Большой переполох Большой переполох

На что обратить внимание при выборе клининговой компании?

Лиза
16 фактов о дворовых бандах Казани: что послужило основой для создания сериала «Слово пацана. Кровь на асфальте» 16 фактов о дворовых бандах Казани: что послужило основой для создания сериала «Слово пацана. Кровь на асфальте»

Почему подростковые банды возникли именно в Казани и кто такой Роберт Гараев?

Maxim
В поисках альтернативы В поисках альтернативы

Нередко самая вкусная еда, одновременно является самой вредной. Как быть?

Лиза
От $300 до $1300 в час: кто нанимает бухгалтеров-криминалистов и сколько это стоит От $300 до $1300 в час: кто нанимает бухгалтеров-криминалистов и сколько это стоит

Кто такие бухгалтера-криминалисты и кто пользуется их услугами?

Forbes
Искусство оживлять: история палеоарта. Часть 2 Искусство оживлять: история палеоарта. Часть 2

Период палеоарта динозавров ознаменовался чередой ярких художников и открытий

Наука и техника
Россияне пока не догоняют Россияне пока не догоняют

Как сравнить уровень жизни в разных странах?

Монокль
Залечь на дно в Брабанте Залечь на дно в Брабанте

«Ферри»: комедия о становлении бандитского капитала

Weekend
Верим в добрые приметы Верим в добрые приметы

В новогоднюю ночь мы, как дети, начинаем верить в чудеса и приметы

Лиза
От жертвоприношений до подарков: как появились традиции празднования Нового года От жертвоприношений до подарков: как появились традиции празднования Нового года

Как складывались праздничные традиции и почему Новый год такой популярный

Forbes
Разум толпы Разум толпы

Усредненный прогноз группы может быть более точным, чем суждения специалистов

ТехИнсайдер
Москва до Юрия Долгорукого. Кто здесь жил прежде? Москва до Юрия Долгорукого. Кто здесь жил прежде?

Попробуем разобраться в том, кто жил на месте Москвы до XII века

Зеркало Мира
Император и историческая память Император и историческая память

Как Карл Великий превратился во «второго короля Артура»

Знание – сила
Выйти из «зловещей долины» Выйти из «зловещей долины»

Что такое ИИ-тревожность и как с ней справляться

РБК
Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет» Татьяна Столяр — о коллекционировании, терапии и умении говорить «нет»

Коллекционер Татьяна Столяр — о ее взаимоотношения с современным искусством

РБК
Открыть в приложении