Олег Бяхов — об этичных трендах и общении с искусственным интеллектом

РБКHi-Tech

Даже лучший алгоритм может навредить человеку

Олег Бяхов — об этичных трендах и общении с искусственным интеллектом.

Фото: Владислав Шатило для РБК

Один из краеугольных камней любого использования искусственного интеллекта (ИИ) — установка на то, что ИИ лишь дополняет человеческий. Любое важное решение, которое имеет этические аспекты, всегда должно приниматься человеком. В частности, IBM использует коллегиальные механизмы принятия решений и контроля для встраивания в бизнес-приложениях ИИ человеческой ответственности за окончательное решение. Таким образом, этика принятия решений остается за человеком.

На сегодняшний день самый обсуждаемый вопрос в контексте этики алгоритмов — это биометрические данные. В июле 2020 года IBM сняли с рынка всю линейку продуктов для распознавания лиц. Дело в том, что в 2018 году выяснилось, что большинство коммерческих продуктов в области распознавания лиц, которые поставлялись крупнейшими компаниями, включая IBM, имели уровень ошибки распознавания для белых мужчин гораздо ниже, чем уровень ошибки для темнокожих женщин. Достоверность распознавания белых мужчин — выше 97%, а темнокожих женщин — от 65 до 80%.

Если такого рода алгоритмы встраиваются в правоохранительную систему, то темнокожих женщин могут недостоверно подозревать в каком-либо преступлении. Чтобы исправить эту ситуацию, IBM выложила общедоступный набор данных, основанный на публично лицензированных фотоизображениях миллиона лиц. В то же время стандартные учебные датасеты включают около 2 тыс. изображений лиц, и более 70% из них — белые мужчины. И когда ты обучаешь машину на некорректном наборе данных, то как бы хорош ни был твой алгоритм, он все равно будет приходить к некорректным выводам.

IBM на рынке обработки данных находится многие десятилетия. Мы всегда относились к накопленной информации как к данным, которые принадлежат их владельцу, например пользователю. Поэтому для обучения алгоритмов мы всегда получаем согласие владельца данных на их использование.

Что касается этики использования, то несколько ИИ-сервисов для СМИ и маркетологов, например IBM Personality Insights, IBM Watson Advertising, IBM Watson Media, предназначены для вовлечения целевой аудитории онлайн за счет персонализации контентного или продуктового коридора. Тренд персонализации через десять лет приведет к тому, что у каждого человека появится возможность получать максимально кастомизированный, специально изготовленный под него продукт.

Олег Бяхов — директор по государственным программам и развитию бизнеса IBM в России и СНГ. Окончил философский факультет Ростовского госуниверситета по специальности «логика», в компании IBM работает с 2007 года.

По теме, затронутой Олегом Бяховым, высказались еще два эксперта тренда: Дмитрий Марков (статья «Рейтинг доверия») и Константин Синюшин (статья «Сохранить лицо»).

Хочешь стать одним из более 100 000 пользователей, кто регулярно использует kiozk для получения новых знаний?
Не упусти главного с нашим telegram-каналом: https://kiozk.ru/s/voyrl

Авторизуйтесь, чтобы продолжить чтение. Это быстро и бесплатно.

Регистрируясь, я принимаю условия использования

Рекомендуемые статьи

Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов Поощрять и вдохновлять. Как прокачать инновационное мышление команды и удержать талантливых специалистов

Почему важно мыслить новаторски и поощрять к этому других

РБК
Настоящий самодур! Настоящий самодур!

Как сработаться с неадекватным начальником?

Лиза
Максим Федоров: искусственный интеллект в десяти вопросах и ответах Максим Федоров: искусственный интеллект в десяти вопросах и ответах

Профессор Сколтеха — об искусственном интеллекте и реальности сюжетов фантастики

РБК
Если тебе кажется, что ты сходишь с ума, — это газлайтинг: как ему противостоять Если тебе кажется, что ты сходишь с ума, — это газлайтинг: как ему противостоять

Разбираемся в природе газлайтинга и способах борьбы с ним

Cosmopolitan
Станки и люди Станки и люди

Машина на службе у человека или человек в плену у машины? О чем говорит история

РБК
Какие пуховики и куртки сильно полнят — 9 моделей, которых лучше избегать Какие пуховики и куртки сильно полнят — 9 моделей, которых лучше избегать

Самые опасные фасоны, фактуры и расцветки пуховиков

Cosmopolitan
Рейтинг доверия Рейтинг доверия

Дмитрий Марков — о рисках и преимуществах биометрических систем

РБК
Клиенты-целовашки и волшебный пендель. Кому и как правильно задавать вопросы, чтобы стать лучше Клиенты-целовашки и волшебный пендель. Кому и как правильно задавать вопросы, чтобы стать лучше

Отрывок из книги «Энергия клиента. Как окупается человеческий подход в бизнесе»

Inc.
Давид Ян: «В мире появится движение Robot lives matter» Давид Ян: «В мире появится движение Robot lives matter»

Давид Ян уверен, что нейросети нужен эмоциональный интеллект

РБК
Субантарктических пингвинов предложили разделить на четыре вида Субантарктических пингвинов предложили разделить на четыре вида

Субантарктические пингвины — не один вид, а четыре

N+1
Детеныши «единорогов» Детеныши «единорогов»

Forbes составил первый рейтинг самых многообещающих стартапов

Forbes
Лейла Слимани: Адель. Новый роман от лауреата Гонкуровской премии Лейла Слимани: Адель. Новый роман от лауреата Гонкуровской премии

Отрывок из нового романа Лейлы Слимани — о браке, сексуальности и зависимости

СНОБ
Уроки новой «войны» Уроки новой «войны»

Как вести себя инвестору, когда будут случаться внешние шоки

Forbes
Выход за границы: как «Яндекс» расширяет борьбу с реальностью Выход за границы: как «Яндекс» расширяет борьбу с реальностью

Как новое поколение менеджеров «Яндекса» трансформирует реальность

Forbes
Завезенных в Австралию ос назвали угрозой безопасности авиаперелетов Завезенных в Австралию ос назвали угрозой безопасности авиаперелетов

Гнезда насекомых могут привести к катастрофе

N+1
Минусовая степень Минусовая степень

Как ухаживать за кожей лица и тела после похудения?

Лиза
Моя терапия: «Тревога и печаль стали выносимыми — и это уже было счастье» Моя терапия: «Тревога и печаль стали выносимыми — и это уже было счастье»

Что делать, когда не можешь спать и есть?

Psychologies
Как научиться не сравнивать себя с другими (забудь уже сына маминой подруги) Как научиться не сравнивать себя с другими (забудь уже сына маминой подруги)

Пора избавиться от этой токсичной привычки!

Playboy
Бегущая по волне Бегущая по волне

Милла Йовович — о сильных героинях, дочке-актрисе и модных сокровищах в гараже

Vogue
Фильму «Один дома» — 30 лет. Мы поговорили с продюсерами ленты о том, как создавалась рождественская классика Фильму «Один дома» — 30 лет. Мы поговорили с продюсерами ленты о том, как создавалась рождественская классика

Как фильм «Один дома» изменил судьбы своих создателей и изменил киноиндустрию

Esquire
Ученые зарегистрировали передачу вируса Чапаре от человека к человеку Ученые зарегистрировали передачу вируса Чапаре от человека к человеку

Вирус Чапаре может передаваться от человека к человеку в медицинских учреждениях

N+1
24 часа с Тимуром Родригезом 24 часа с Тимуром Родригезом

В конце года каждый день у Тимура расписан по минутам

Cosmopolitan
Молодая проза Esquire: Молодая проза Esquire:

Башкирские заговоры в рассказе писательницы Дианы Давлетбердиной

Esquire
«Около Руанды и позади Узбекистана»: почему необходимо поддерживать женское предпринимательство в России «Около Руанды и позади Узбекистана»: почему необходимо поддерживать женское предпринимательство в России

Новые ролевые модели для женщин и женское предпринимательство в России

Forbes
Гибель жены, заикание и аневризма: история Джо Байдена, нового президента США Гибель жены, заикание и аневризма: история Джо Байдена, нового президента США

Джо Байден – самый возрастной президент США

Cosmopolitan
5 жутких морских катастроф, о которых вы могли не знать 5 жутких морских катастроф, о которых вы могли не знать

Самые страшные кораблекрушения

Популярная механика
9 частей вашего тела, о которых вы наверняка ничего не знали 9 частей вашего тела, о которых вы наверняка ничего не знали

Уверены, что хорошо знаете все укромные уголки вашего тела?

Популярная механика
День матери: 10 знаменитостей, сохранивших теплые отношения с мамами День матери: 10 знаменитостей, сохранивших теплые отношения с мамами

Вспоминаем знаменитостей и их мам, которые находятся в хороших отношениях

РБК
«Шутить над собой не означает освобождения от себя» «Шутить над собой не означает освобождения от себя»

Как читать трагического поэта XX века Пауля Целана

Weekend
7 старинных предметов нижнего белья, которые сегодня выглядят дико 7 старинных предметов нижнего белья, которые сегодня выглядят дико

После этого ты по-другому взглянешь на трусы!

Maxim
Открыть в приложении