Леонид Жуков — об ответственности людей и машин за принятие критических решений

РБКHi-Tech

На ошибках учатся

Леонид Жуков — об ответственности людей и машин за принятие критических решений.

Фото: из личного архива

Мы ежедневно сталкиваемся с искусственным интеллектом, но редко задумываемся, какие нормы этики заложены в его алгоритмы, какие решения машины могут принимать самостоятельно, а для чего нужно слово человека. Глава Лаборатории по искусственному интеллекту «Сбера» Леонид Жуков объяснил, почему люди в ближайшем будущем не смогут полностью довериться ИИ.

Что такое хорошо...

Существует этика разработчиков, то есть тех, кто создает софт, этика применения алгоритмов и этика пользователей. Если говорить про разработчиков, то их задача — предотвратить закладывание в алгоритмы процессов, которые могут навредить человеку. С точки зрения алгоритмов самый главный вопрос в том, чтобы они были справедливы в принятии каких-либо решений и честны с пользователем. Пользователь, в свою очередь, должен использовать ИИ только по прямому назначению.

Почему вопрос этики встает, когда речь заходит про искусственный интеллект, и не так важен, к примеру, в разговоре про обычный софт? ИИ, в отличие от традиционного программного продукта, учится на примерах, которые мы ему даем. Он обобщает поступившую информацию и применяет полученные знания к ситуации, которая раньше не встречалась. В этом заключается сила алгоритмов: если бы мы могли перечислить все возможные встречающиеся ситуации, тогда искусственный интеллект был бы бесполезен. Например, без искусственного интеллекта сложно учить машину ездить, потому что невозможно спрогнозировать каждую ситуацию, которая будет встречаться на дороге. Алгоритмы в этом случае способны принять решение самостоятельно на основе анализа и обобщения примеров в его памяти.

Но ИИ может и ошибиться. В алгоритмах, как в любом медицинском тесте, есть показатели точности и есть ошибки, которые невозможно избежать в силу их предсказательной или обобщающей способности. Есть также ошибки, которые возникают при обучении ИИ, потому что определенные сценарии не встречались в обучающих примерах. Например, в компании N за всю историю не было женщин, занимавших высокие посты. Алгоритм, основываясь на этих данных, никогда не наймет женщин, потому что будет считать, что они не способны достичь высокого положения в компании.

Это этично? Нет. Поэтому с точки зрения разработчиков очень важно минимизировать возможность таких ошибок и научить алгоритм собирать непредвзятые данные. С точки зрения пользователей алгоритмов, как уже говорилось выше, очень важно не применять ИИ в ситуациях, для которых он не предназначен. Например, если алгоритм, натренированный отличать кошек от собак, запустить в зоопарке, он будет либо не способен дать ответ, либо, что еще хуже, пытаться классифицировать всех зверей лишь на кошек или собак.

…и что такое плохо

На сегодняшний день основное средство контроля за этичностью алгоритма — это отсутствие у него возможности принимать критически важные решения самостоятельно. Например, ставить диагнозы. На языке разработчиков это называется human in the loop: человек обязательно участвует в принятии решений, а алгоритм выступает как советчик.

Уровень алгоритмов пока не настолько высок, чтобы мы им доверяли принятие жизненно важных решений, но некоторые вещи мы все же позволяем делать ИИ самостоятельно. Например, повсеместно используемые роботы-пылесосы. Они управляются искусственным интеллектом, но могут ошибиться и заехать не в ту комнату или наехать на препятствие. Однако это не грубая ошибка, и она не приводит к критическим последствиям. То есть пылесос не может сделать ничего такого, что могло бы навредить человеку. Это к вопросу об этике — в алгоритмы работы робота заложены определенные ограничения, которые он не может переступить.

Существующие алгоритмы ИИ можно разделить на два класса: black-box и white-box. Первый — это некий «черный ящик», при использовании которого даже эксперту, создавшему его, может быть непонятно, почему ИИ выдал ту или иную рекомендацию (например, модели глубинного нейронного обучения, deep learning). Такие алгоритмы можно использовать для сервисов с музыкой или фильмами, но нельзя применять ни в медицине, ни в финансах, ни в какой-либо другой ответственной отрасли.

White-box или transparent (прозрачные алгоритмы), наоборот, используют для важных отраслей, так как там алгоритмы максимально просты и понятны. Важным моментом для обеих категорий является ответственность за ошибку. Пока этот вопрос остается нерешенным с юридической точки зрения. Неясно, кто должен нести ответственность за неправильное решение или ошибку ИИ — пользователь, создатель или владелец алгоритма.

Алгоритмы учатся точнее моделировать ситуации и меньше ошибаться, однако они никогда не станут совершенны и безошибочны. Вопрос о допустимом пороге ошибок, цене за ошибку и экономии от замены человека искусственным интеллектом будет стоять всегда. В ближайшем будущем человек по-прежнему будет принимать критические решения, каким бы умным и этичным ни был ИИ.

Леонид Жуков — директор Лаборатории по искусственному интеллекту «Сбера», доктор наук, профессор Высшей школы экономики, пятикратно удостоенный звания «Лучший преподаватель». Является одним из ведущих экспертов в России и в мире в области анализа больших данных, искусственного интеллекта и машинного обучения.

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Человек, который придумывает будущее Человек, который придумывает будущее

Компания с российскими корнями разрабатывает уникальные технологии для авто

Популярная механика
Юля говорит: Юлия Ахмедова Юля говорит: Юлия Ахмедова

Чудо-женщина российского стендапа Юлия Ахмедова шутит о самых серьезных вещах

Glamour
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Узнать и обезвредить: как бороться с манипуляторами Узнать и обезвредить: как бороться с манипуляторами

О видах манипуляторов и способах борьбы с ними

Cosmopolitan
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Жить здорово: какой недвижимостью владеет Елена Малышева Жить здорово: какой недвижимостью владеет Елена Малышева

10 фактов из личной жизни и творческой биографии Елены Васильевны Малышевой

Cosmopolitan
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
В Африку гулять! В Африку гулять!

Танзания становится всё более популярным travel-направлением

OK!
Двойная игра Двойная игра

Иван Бегтин — о больших данных и мире без секретов

РБК
3 простых и нереально вкусных блюда с пивом в качестве ингредиента 3 простых и нереально вкусных блюда с пивом в качестве ингредиента

Да, пиво можно не только пить

Playboy
Мячи мечты Мячи мечты

Актрисе Валерии Шкирандо удалось улучшить эротическую съемку в мужском журнале!

Maxim
Лучшее антистрессовое занятие осени и зимы — кормить птиц. Вот как делать это правильно Лучшее антистрессовое занятие осени и зимы — кормить птиц. Вот как делать это правильно

Чтобы кормить птиц правильно, стоит учесть несколько простых, но важных советов

Esquire
Опять двадцать пять: как помочь родителям конкурировать с молодыми специалистами на рынке труда Опять двадцать пять: как помочь родителям конкурировать с молодыми специалистами на рынке труда

Предпенсионный возраст не помеха задуматься о развитии карьерного пути

РБК
Как одна исповедь изничтожила акциониста Павленского. И почему для гражданского общества это пшик Как одна исповедь изничтожила акциониста Павленского. И почему для гражданского общества это пшик

Бывшая жена Павленского выпустила книгу о своих отношениях с художником

СНОБ
Грузите лимоны бочками Грузите лимоны бочками

Как программист из Ульяновска стал совладельцем американской студии графики

Forbes
Мечты сбываются Мечты сбываются

Известные люди рассказывают о том, что хорошего случилось с ними в 2020 году

Домашний Очаг
«Волге» — 64 года. Раскрываем все секреты культовой модели «Волге» — 64 года. Раскрываем все секреты культовой модели

Китайский двойник, особая версия для спецслужб и другие тайны Волги

РБК
Как сложились судьбы главных манекенщиц СССР: нищета, суицид и одиночество Как сложились судьбы главных манекенщиц СССР: нищета, суицид и одиночество

Как сложилась судьба первых моделей СССР — от Збарской до Мироновой

Cosmopolitan
Ода мозжечку Ода мозжечку

Мозжечок — координатор движений и «графический процессор» в теле человека

Популярная механика
12 вещей, которые использовали вместо денег 12 вещей, которые использовали вместо денег

Во времена натурального обмена в роли денег выступали совершенно разные объекты

Maxim
Рыцарский орден госпитальеров свел леса вокруг польской деревни в позднем Средневековье Рыцарский орден госпитальеров свел леса вокруг польской деревни в позднем Средневековье

На это понадобилось всего пару сотен лет

N+1
«Я уже ничего не боюсь» «Я уже ничего не боюсь»

Алексей Учитель о своем «Цое» и старой и новой цензуре

Weekend
Быт с привилегиями: чем «Городок чекистов» в Екатеринбурге отличался от других советских районов Быт с привилегиями: чем «Городок чекистов» в Екатеринбурге отличался от других советских районов

История и современность района Екатеринбурга, известного как «Городок чекистов»

VC.RU
История лотереи «Спортлото»: от борьбы с «пороками царизма» до финансирования Олимпиады История лотереи «Спортлото»: от борьбы с «пороками царизма» до финансирования Олимпиады

Как в СССР за 15 лет выросла крупнейшая в мире сеть продаж лотерейных билетов

VC.RU
Одна вокруг света. Сколько стоит переправиться через океан Одна вокруг света. Сколько стоит переправиться через океан

97-я серия о кругосветном путешествии москвички Ирины Сидоренко

Forbes
Самые яркие моменты из жизни Диего Марадоны Самые яркие моменты из жизни Диего Марадоны

Карьерные триумфы, провалы и наркозависимость Диего Марадоны

GQ
Роман RAMZES666 Кушнарев: «Я получал от игры удовольствие, и она начала приносить мне деньги» Роман RAMZES666 Кушнарев: «Я получал от игры удовольствие, и она начала приносить мне деньги»

Самый узнаваемый российский киберспортсмен рассказывает об индустрии видеоигр

GQ
8 книг об окружающем мире для взрослых и детей 8 книг об окружающем мире для взрослых и детей

Книги про космос, географию и естественные науки для всей семьи

Популярная механика
5 писателей-фантастов, предсказавших будущее 5 писателей-фантастов, предсказавших будущее

Этим авторам удалось предвидеть тенденции развития нашего мира

Популярная механика
10 успешных зарубежных художников, которые живут в наше время 10 успешных зарубежных художников, которые живут в наше время

Современные западные художники, которые ценятся на рынке искусства

GQ
Открыть в приложении