Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Но ИИ может и ошибиться. В алгоритмах, как в любом медицинском тесте, есть показатели точности и есть ошибки, которые невозможно избежать в силу их предсказательной или обобщающей способности. Есть также ошибки, которые возникают при обучении ИИ, потому что определенные сценарии не встречались в обучающих примерах. Например, в компании N за всю историю не было женщин, занимавших высокие посты. Алгоритм, основываясь на этих данных, никогда не наймет женщин, потому что будет считать, что они не способны достичь высокого положения в компании.

Это этично? Нет. Поэтому с точки зрения разработчиков очень важно минимизировать возможность таких ошибок и научить алгоритм собирать непредвзятые данные. С точки зрения пользователей алгоритмов, как уже говорилось выше, очень важно не применять ИИ в ситуациях, для которых он не предназначен. Например, если алгоритм, натренированный отличать кошек от собак, запустить в зоопарке, он будет либо не способен дать ответ, либо, что еще хуже, пытаться классифицировать всех зверей лишь на кошек или собак.

…и что такое плохо

На сегодняшний день основное средство контроля за этичностью алгоритма — это отсутствие у него возможности принимать критически важные решения самостоятельно. Например, ставить диагнозы. На языке разработчиков это называется human in the loop: человек обязательно участвует в принятии решений, а алгоритм выступает как советчик.

Уровень алгоритмов пока не настолько высок, чтобы мы им доверяли принятие жизненно важных решений, но некоторые вещи мы все же позволяем делать ИИ самостоятельно. Например, повсеместно используемые роботы-пылесосы. Они управляются искусственным интеллектом, но могут ошибиться и заехать не в ту комнату или наехать на препятствие. Однако это не грубая ошибка, и она не приводит к критическим последствиям. То есть пылесос не может сделать ничего такого, что могло бы навредить человеку. Это к вопросу об этике — в алгоритмы работы робота заложены определенные ограничения, которые он не может переступить.

Существующие алгоритмы ИИ можно разделить на два класса: black-box и white-box. Первый — это некий «черный ящик», при использовании которого даже эксперту, создавшему его, может быть непонятно, почему ИИ выдал ту или иную рекомендацию (например, модели глубинного нейронного обучения, deep learning). Такие алгоритмы можно использовать для сервисов с музыкой или фильмами, но нельзя применять ни в медицине, ни в финансах, ни в какой-либо другой ответственной отрасли.

White-box или transparent (прозрачные алгоритмы), наоборот, используют для важных отраслей, так как там алгоритмы максимально просты и понятны. Важным моментом для обеих категорий является ответственность за ошибку. Пока этот вопрос остается нерешенным с юридической точки зрения. Неясно, кто должен нести ответственность за неправильное решение или ошибку ИИ — пользователь, создатель или владелец алгоритма.

Алгоритмы учатся точнее моделировать ситуации и меньше ошибаться, однако они никогда не станут совершенны и безошибочны. Вопрос о допустимом пороге ошибок, цене за ошибку и экономии от замены человека искусственным интеллектом будет стоять всегда. В ближайшем будущем человек по-прежнему будет принимать критические решения, каким бы умным и этичным ни был ИИ.

Леонид Жуков — директор Лаборатории по искусственному интеллекту «Сбера», доктор наук, профессор Высшей школы экономики, пятикратно удостоенный звания «Лучший преподаватель». Является одним из ведущих экспертов в России и в мире в области анализа больших данных, искусственного интеллекта и машинного обучения.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Константин Фурсов: «Вдруг оказалось, что наука в России есть» Константин Фурсов: «Вдруг оказалось, что наука в России есть»

Почему не на все вопросы ученые могут дать ответы

РБК
5 психиатрических лечебниц и их знаменитые пациенты 5 психиатрических лечебниц и их знаменитые пациенты

Какие интересные факты, а порой мистические легенды связаны с психбольницами?

Psychologies
Сошедший с орбиты Сошедший с орбиты

Как австралийцы изобрели «орбитальный» двигатель внутреннего сгорания

Наука и жизнь
«Я здесь, нищий и застрявший в этой дыре»: почему люди, которые позже расцветают, чаще добиваются успеха «Я здесь, нищий и застрявший в этой дыре»: почему люди, которые позже расцветают, чаще добиваются успеха

Когда и кому возраст играет на руку

Forbes
Ход слоном Ход слоном

Почему та или иная страна становится передовой, а потом вдруг отстающей?

ТехИнсайдер
Брачные контракты, полицейские с собаками, первые забастовки и еще 6 фактов о Древнем Египте, которых вы могли не знать Брачные контракты, полицейские с собаками, первые забастовки и еще 6 фактов о Древнем Египте, которых вы могли не знать

Что вы знаете о Египте?

Популярная механика
Высокохудожественное надувательство Высокохудожественное надувательство

Анна Толстова о выставке Ли Бул и искусстве перенастройки смыслов

Weekend
«Я уже ничего не боюсь» «Я уже ничего не боюсь»

Алексей Учитель о своем «Цое» и старой и новой цензуре

Weekend
Язычники против рыцарей-монахов Язычники против рыцарей-монахов

Литовское княжество стало для Тевтонского ордена непреодолимым препятствием

Дилетант
Как живут красавицы 90-х: Ирина Салтыкова, Элен Ролле, Дженни Гарт и другие Как живут красавицы 90-х: Ирина Салтыкова, Элен Ролле, Дженни Гарт и другие

Чем героини культовых сериалов и бывшие певицы заняты сейчас?

Cosmopolitan
Первая помощь при переломе: что предпринять до приезда врача Первая помощь при переломе: что предпринять до приезда врача

Разбираемся, что можно и нельзя делать при переломах

РБК
Поддержка бизнеса: Анастасия Татулова Поддержка бизнеса: Анастасия Татулова

Анастасия Татулова — омбудсмен в сфере малого и среднего бизнеса в РФ

Glamour
Елки-палки Елки-палки

Что пошло не так с стартапом по озеленению леса Maraquia

Forbes
Измена: как переписать сценарий предков и не повторять их ошибок Измена: как переписать сценарий предков и не повторять их ошибок

Как родительская история может влиять на супружескую измену?

Psychologies
Цифровой минимализм Цифровой минимализм

Фокус и осознанность в шумном мире

kiozk originals
Как выглядели первые гидрокостюмы (пугающие фото) Как выглядели первые гидрокостюмы (пугающие фото)

Удивительные архивные фотографии первых гидрокостюмов

Maxim
Моя терапия: «Тревога и печаль стали выносимыми — и это уже было счастье» Моя терапия: «Тревога и печаль стали выносимыми — и это уже было счастье»

Что делать, когда не можешь спать и есть?

Psychologies
Гендиректор «СберЛогистики» Сергей Малышев об особенностях логистики в России Гендиректор «СберЛогистики» Сергей Малышев об особенностях логистики в России

С какими сложностями сталкиваются операционные сервисы в России

СНОБ
Шале по-русски Шале по-русски

Яркий, сказочный и собирательный образ для загородного дома

SALON-Interior
Мы с вами давно знакомы Мы с вами давно знакомы

Саксония – самый восточный регион Германии – всегда привлекала русских туристов

Лиза
Как правильно держать палочки для суши: самые подробные и понятные инструкции Как правильно держать палочки для суши: самые подробные и понятные инструкции

Японская, китайская и корейская кухни — это особый этикет

Cosmopolitan
В центре города В центре города

Городская квартира в стиле спокойной, мягкой неоклассики

SALON-Interior
Древнейшая жизнь на Земле: биологическая революция Древнейшая жизнь на Земле: биологическая революция

С образования нашей планеты до зарождения первых форм жизни прошло мало времени

Популярная механика
6 вещей, которые всегда будут мотивировать тебя справляться со всеми делами 6 вещей, которые всегда будут мотивировать тебя справляться со всеми делами

Что делать, когда кажется, что ты ничего не успеваешь

Playboy
Американские горки. Почему эйфория от выборов в США долго не продлится Американские горки. Почему эйфория от выборов в США долго не продлится

Чуда, в которое готовы были поверить участники мировых рынков, не случилось

СНОБ
Как защитить свои личные фото и видео от слива, даже если ты не знаменитость Как защитить свои личные фото и видео от слива, даже если ты не знаменитость

Как не позволить злоумышленникам взломать твой смартфон

Maxim
Снежная королева Снежная королева

Зимой нашей коже требуется особый уход. Тогда она останется нежной и мягкой

Лиза
Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро Вне времени: как Леонардо ДиКаприо транслирует с экрана идеальный классический мужской образ с налетом ретро

Кинообразы Леонардо ДиКаприо — вечная классика мужского гардероба

Esquire
Как вылечить себя по рецептам ГУЛАГа: чифир, зола и другие доступные лекарства Как вылечить себя по рецептам ГУЛАГа: чифир, зола и другие доступные лекарства

Как в ГУЛАГах стряпали лекарства буквально из ничего

Maxim
5 лучших научно-фантастических романов о переносе сознания 5 лучших научно-фантастических романов о переносе сознания

Писатели-фантасты, которые экспериментировали с самой идеей сознания

Популярная механика
Открыть в приложении