О том, как модели искусственного интеллекта «выходят за флажки»

МонокльHi-Tech

Когда модель превзойдет алгоритмы

О том, как модели искусственного интеллекта «выходят за флажки» написанных для них инструкций, «Моноклю» рассказал генеральный директор корпорации СОРМ Сергей Большаков

Наталья Быкова

Фото: из личного архива Сергея Большакова

Сергей, что представляют собой самые прогрессивные на сегодня модели искусственного интеллекта, из чего они состоят?

— Начнем с того, что любая модель искусственного интеллекта — это алгоритмы, способные самообучаться. Все они, даже самые прогрессивные на сегодня, представляют собой пока еще очень примитивный аналог человеческого мозга, их работа завязана на определенные математические инструкции, которые выполняет техника. В процессе эксплуатации алгоритмы могут корректироваться или дополняться новыми инструкциями, что происходит не само по себе, а с участием людей — разработчиков, аналитиков данных, — которые профессионально занимаются выявлением несовершенств в моделях искусственного интеллекта. На каждом этапе пересмотра модели выбираются те математические методы, которые дают наименьшие погрешности. Обычно точность алгоритмов для решения конкретных задач составляет более 50 процентов, эффективными считаются те из них, точность которых составляет более 95 процентов. Если удается создать алгоритм с 99-процентной точностью, разумеется, его сразу же интегрируют в модель. Это непрерывная работа, и чем больше умных людей в нее вовлечено, тем лучше будут результаты.

— Опасения и страхи общества, в том числе профессионального сообщества из сферы IT, связаны с гипотетическим выходом ИИ из-под контроля. На каком этапе разработчики, аналитики данных теряют возможность контролировать свою модель искусственного интеллекта?

— Скорее всего, это может произойти на любом этапе. Вот, например, поиск «Яндекса» построен на алгоритмах искусственного интеллекта. В них заложены некие метрики, на основе которых выстраивается система ранжирования в поисковых запросах. Были известны случаи, когда на претензии в необоснованном занижении ссылок профильные специалисты компании отвечали, что сами не понимают, почему это так сработало. То есть это сейчас уже реально, что сами разработчики могут не знать, почему система искусственного интеллекта приняла определенное решение, когда по написанной для нее математической инструкции она должна была действовать иначе.

Конечно, это может быть и ошибка исходного алгоритма, которую нужно исправлять, а может, модель уже сама начала думать как человек — порой интуитивно и субъективно. Хотя, на мой взгляд, до этого еще далеко, пройдет еще несколько десятков лет, прежде чем алгоритмы будут усложнены настолько, что смогут имитировать работу человеческого мозга, то есть принимать решения, опираясь на свой предыдущий опыт и построенную на его основе проекцию на будущее.

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Кто разбурит ТРИЗы? Кто разбурит ТРИЗы?

Запрет США на работу их нефтесервиса в России не будет иметь последствий

Монокль
Голова в тумане Голова в тумане

10 продуктов, которые могут нарушить работу мозга

Лиза
Алексей Новиков: «Кибербезопасность становится несущей конструкцией для бизнеса» Алексей Новиков: «Кибербезопасность становится несущей конструкцией для бизнеса»

Почему русский кибербез интересен мировому сообществу

РБК
Федерико Арнальди: «Я не могу без любви» Федерико Арнальди: «Я не могу без любви»

Федерико Арнальди – о вкусной еде, русских девушках и любви

Добрые советы
Годовые кольца: 1610 Годовые кольца: 1610

Открытие Гудзонова залива и революция в астрономии: что случилось в 1610 году

Вокруг света
Дорого внимание Дорого внимание

Ольга Карпуть разбирается, действительно ли юмор продает

Правила жизни
Правую или заднюю? Какую лапу сосет медведь в своей берлоге? Спойлер: никакую! Да и берлоги у него нет Правую или заднюю? Какую лапу сосет медведь в своей берлоге? Спойлер: никакую! Да и берлоги у него нет

Задумывались ли вы когда-нибудь, почему медведь сосет лапу?

ТехИнсайдер
Дом Cердца Дом Cердца

Как старое здание в колониальном стиле превратить в пространство для творчества

Seasons of life
Плоды ошибок трудных Плоды ошибок трудных

Государство усиливает регулирование в сфере абортов

Монокль
В море из садка: зачем производитель черной икры отпускает осетров на волю В море из садка: зачем производитель черной икры отпускает осетров на волю

Почему BelugaFarm считает себя должником Каспия

Forbes
Несколько последних слов Несколько последних слов

Игорь Гулин о стихах Григория Дашевского

Weekend
«Я работаю волшебником». Один день из жизни Деда Мороза «Я работаю волшебником». Один день из жизни Деда Мороза

Заглянем в гости к главному Деду Морозу столицы

Лиза
Ветроэнергетика: освоение новых территорий Ветроэнергетика: освоение новых территорий

Что произошло с ветроэнергетикой за последнее десятилетие?

Наука и жизнь
Загадки Третьего рейха Загадки Третьего рейха

Аненербе – самая таинственная организация в новейшей истории человечества

Зеркало Мира
5 неожиданных фактов о женщинах и мужчинах с короткой стрижкой 5 неожиданных фактов о женщинах и мужчинах с короткой стрижкой

Короткая стрижка может сказать много интересного о своем обладателе

Psychologies
Ренат Давлетьяров: «В режиссуре главное — знать, когда остановиться» Ренат Давлетьяров: «В режиссуре главное — знать, когда остановиться»

Режиссер и продюсер «Человека ниоткуда» — о том, как шла работа над фильмом

Монокль
Накопленный провал Накопленный провал

Накопительная пенсионная система провалилась как инструмент сбережений

Монокль
Инновации как способ выживания Инновации как способ выживания

На макроуровне никакой активизации НИОКР в средних компаниях не замечено

Монокль
4 совета, которые помогут вам пережить семейный ужин 4 совета, которые помогут вам пережить семейный ужин

Немного подготовки, и вам будут не страшны даже самые токсичные члены семьи!

Psychologies
Экстремальное старение одного из органов предсказали у каждого пятого человека Экстремальное старение одного из органов предсказали у каждого пятого человека

Сейчас разработано несколько подходов к оценке биологического возраста организма

N+1
Елена Карпенко: «Самым главным по-прежнему остается контент» Елена Карпенко: «Самым главным по-прежнему остается контент»

О конкуренции традиционного ТВ и онлайн-платформ

РБК
Чай, сжигающий жир на животе: какой напиток выбрать и как его правильно пить Чай, сжигающий жир на животе: какой напиток выбрать и как его правильно пить

Есть продукты, ускоряющие избавление от висцерального жира

VOICE
Как получить оргазм: 5 рекомендаций гинеколога Как получить оргазм: 5 рекомендаций гинеколога

Простые и действенные рекомендации врача о том, как испытать оргазм

Psychologies
Елки-палки Елки-палки

Как выбрать живую и искусственную елку

Лиза
Возвращение «Метеора» Возвращение «Метеора»

В сентябре 2017 на воду спустили судно на подводных крыльях типа «Валдай 45Р»

Наука и техника
Учимся падать Учимся падать

Иногда удовольствие зимнего отдыха сопровождается рисками. Давай ими управлять

Лиза
Мартин Скорсезе, Кристофер Нолан, Грета Гервиг, Уэс Андерсон: лучшие фильмы 2023 года Мартин Скорсезе, Кристофер Нолан, Грета Гервиг, Уэс Андерсон: лучшие фильмы 2023 года

Лучшие фильмы 2023 года, которые заставляли нас испытывать эмоции

Forbes
Когда приедешь? Когда приедешь?

Что значит для молодых взрослых из ПНИ самостоятельная жизнь

Новый очаг
Чем заменить куриные яйца в разных блюдах? Чем заменить куриные яйца в разных блюдах?

Если дома нет куриных яиц — это не повод отказываться от выпечки или сырников

Maxim
Новые штаммы ускорят экономику Новые штаммы ускорят экономику

Как генно-модифицированные микроорганизмы повысят эффективность производств

Монокль
Открыть в приложении