Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Рассеянный склероз: причины, симптомы и лечение Рассеянный склероз: причины, симптомы и лечение

Разбираемся, что такое рассеянный склероз и можно ли его вылечить

РБК
«Ждем, когда 5G станет реальностью, а не только поводом для хайпа» «Ждем, когда 5G станет реальностью, а не только поводом для хайпа»

Александр Чуб — о том, как в России развивается инфраструктура для сотовой связи

РБК
Первый каскадерский трюк, первый спецэффект, первая комедия и другие важнейшие вехи кино Первый каскадерский трюк, первый спецэффект, первая комедия и другие важнейшие вехи кино

Как снимали блокбастеры на заре кинематографа

Maxim
Бизнес в особом режиме Бизнес в особом режиме

Московская область — один из благоприятных регионов для развития формата ОЭЗ

РБК
Самые лучшие знаки зодиака по мнению астрологов Самые лучшие знаки зодиака по мнению астрологов

Считаем, что родиться под любым знаком, – это прекрасно

Cosmopolitan
Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News Боты против уток. Сможет ли искусственный интеллект избавить соцсети от Fake News

Мы считаем, что интернет создан ради нас, но на деле его пользователи — боты

РБК
Как советский замполит захватил корабль, чтобы устроить революцию, и добрался до США Как советский замполит захватил корабль, чтобы устроить революцию, и добрался до США

История бунта, который все не так поняли

Weekend
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Валентина Шевченко: «Я не позволю никому отнять мой титул» Валентина Шевченко: «Я не позволю никому отнять мой титул»

Мы поговорили с чемпионкой UFC накануне ее четвертой защиты пояса

GQ
Урбанистика Урбанистика

По мере роста городов, мегаполисы будущего представлялись пугающим местом

Esquire
«Есть масса явлений, от которых мне стыдно, тошно, но это моя страна, и я никуда не уеду»: основатель «Вымпелкома» Дмитрий Зимин — о науке, лидерстве и филантропии «Есть масса явлений, от которых мне стыдно, тошно, но это моя страна, и я никуда не уеду»: основатель «Вымпелкома» Дмитрий Зимин — о науке, лидерстве и филантропии

Интервью с основателем компании «Вымпелком» Дмитрием Зиминым

Forbes
Экономика на высоких технологиях Экономика на высоких технологиях

Развитие ИТ-индустрии в Москвоской области стимулируется дополнительно

РБК
30 способов перезапустить свое тело 30 способов перезапустить свое тело

Полное руководство по тому, как выжать максимум из человеческого организма

kiozk originals
Как Чаушеску однажды чуть не разбился на самолете под Москвой Как Чаушеску однажды чуть не разбился на самолете под Москвой

Случилось это возле аэропорта Внуково…

Maxim
Как записать видео с экрана смартфона: Android и iOS Как записать видео с экрана смартфона: Android и iOS

Хотите записать прохождение мобильной игры или вебинар на экране телефона?

CHIP
3 секрета Кейт Бекинсейл 3 секрета Кейт Бекинсейл

Ее называют самой привлекательной британской актрисой последнего десятилетия

Худеем правильно
Porsche Cayenne E-hybrid. Прости, Рудольф! Porsche Cayenne E-hybrid. Прости, Рудольф!

Porsche Cayenne E-hybrid легко узнать в потоке

4x4 Club
Гигантских летучих кускусов предложили разделить на три вида Гигантских летучих кускусов предложили разделить на три вида

Ученые предложили разделить гигантских летучих кускусов на три вида

N+1
«Я подумаю об этом завтра» «Я подумаю об этом завтра»

Ирина Прохорова — об ответственности перед фамилией и желании стать волонтером

OK!
Дождь не помеха: 6 веселых игр для детей осенью Дождь не помеха: 6 веселых игр для детей осенью

Осадки — не повод прекращать веселиться, и наши дети знают это лучше всех

Seasons of life
Подземный мамонт и еще 7 загадочных существ, в которых верят криптозоологи Подземный мамонт и еще 7 загадочных существ, в которых верят криптозоологи

Есть такая почти наука — криптозоология

Maxim
Чем наполнить новогодние праздники Чем наполнить новогодние праздники

Как порадовать себя в новогодние праздники и сделать эти дни чудесными

Домашний Очаг
Самые классные фильмы о Германии Самые классные фильмы о Германии

От историй о современном Берлине до картин об ужасах гитлеровского режима.

GQ
Рыцарский орден госпитальеров свел леса вокруг польской деревни в позднем Средневековье Рыцарский орден госпитальеров свел леса вокруг польской деревни в позднем Средневековье

На это понадобилось всего пару сотен лет

N+1
«За слова надо отвечать»: когда общение в родительском чате приводит к убийству «За слова надо отвечать»: когда общение в родительском чате приводит к убийству

Почему виртуальная ссора может привести к реальной трагедии

Psychologies
Бизнесмены 2020 года: Loóna Бизнесмены 2020 года: Loóna

Создатели приложения Loóna добились того, что другим и не снилось

GQ
Как устроен бизнес экскурсий по крышам Петербурга и чем он не нравится жителям Как устроен бизнес экскурсий по крышам Петербурга и чем он не нравится жителям

Чем руферы Петербурга мешают властям и как легально сделать селфи на крыше

РБК
Из другой оперы Из другой оперы

Не все наставления старших родственников идут нам на пользу

Лиза
«Луна. История будущего» «Луна. История будущего»

Отрывок из книги Оливера Мортона об естественном спутнике Земли

N+1
Открыть в приложении